FaultCode

记录所思所想


  • Home

  • About

  • Archives

Spark操作笔记

Posted on 2018-01-10 | Edited on 2018-03-19

Spark简介

什么是Spark?

Apache Spark是用于大规模数据处理的快速(fast)和通用(general)引擎,由加州伯克利分校AMP(Algorithms、Machines and People Lab,在算法、机器和人之间通过大规模集成来展现大数据的应用平台)实验室开发的大数据处理框架。
Spark提供了大数据处理的一站式解决方案,以Spark Core为基础推出了Spark SQL、Spark Streaming、MLlib、GraphX、SparkR等组件。整个Spark生态体系称为BDAS,即:伯克利数据分析栈。

Read more »

利用Docker构建集群并运行WordCount

Posted on 2017-11-15 | Edited on 2018-03-21

Basic Cluster

This repository provides docker configurations for quick Hadoop cluster setup.
Provides a 1 Namenode and 2 Datanode setup.
How to use:

1
2
3
$ git clone https://github.com/chengsluo/hadoop-expt.git
$ cd hadoop-expt
$ docker-compose -f hadoop-basic.yml up
Read more »

利用Java构建神经网络

Posted on 2016-12-19 | Edited on 2018-03-21

简介

神经网络模型也被称为人工神经网络(Artificial Neural Network,ANN),它是一类非线性模型,用来在给定输入变量集合的情况下,对输出进行预测。其最早的例子可以追溯到20世纪40年代早期,当时用它来解决分类问题。可以说,它是一类非线性的回归方法。最近几年在深度学习中应用很广泛,本篇文章抱着学习其原理的心态,参考书籍,力图用Java语言实现一个神经网络。

由于网上有太多介绍神经网络的文章,这里对它的原理这种关键点描述,不在展开他们的细节,直接探究其实现方法,如果不了解这些知识点请自行Google。

  • 多层前向传播网络
  • 激活函数
  • 反向传播算法(Backpropagation Algorithm)
Read more »

线性回归与逻辑回归

Posted on 2016-12-06 | Edited on 2018-03-21

线性回归

线性模型是许多领域中最流行的统计建模方法,最开始主要应用与经济学,遗传学等领域。又名回归模型,或最小二乘模型,这个名称来自于用来寻找这类模型系数的技术。线性模型需要假定观察值服从正态分布模型。

Read more »

走自己的路,玩自己的扫雷

Posted on 2016-11-06 | Edited on 2018-03-20

介绍

Windows10更新后,附件里的以前喜闻乐见的小游戏,比如蜘蛛纸牌,三维弹球,扫雷都消失了。这些游戏我记得从windows XP都开始存在了,b( ̄▽ ̄)d 好怀念!正好这次Windows开发课程有个左右,我和另外一个小组成员准备一起做个游戏,做什么好呢,来吧,做个扫雷玩吧。嘣(๑•̀ㅂ•́)و✧!

Read more »

搭建Hexo博客和配置主题的一些坑

Posted on 2016-09-06 | Edited on 2018-03-06

今天更新了Hexo版本,并更换了博客主题,在配置这些环境的过程中遇到了一些坑,在此分享一波!

无法更新或生成Hexo

  • 问题:node版本升级得过高,导致与现有运行库不兼容
  • 解决方案:用npm安装n,用n来回顾node版本号
1
2
3
4
5
sudo npm i -g npm

n *.*.* (切回到*.*.*稳定版本)

node -v
Read more »

Git分支管理与多人协作

Posted on 2016-03-06 | Edited on 2018-03-19

“有了远程仓库,妈妈再也不用担心我的硬盘了。”——Git点读机

概述

工作区有一个隐藏目录.git,这个不算工作区,而是Git的暂存区和版本库。

前面讲了我们把文件往Git版本库里添加的时候,是分两步执行的:
第一步是用git add把文件添加进去,实际上就是把文件修改添加到暂存区;
第二步是用git commit提交更改,实际上就是把暂存区的所有内容提交到当前分支。

git commit只负责把暂存区的修改提交.因为我们创建Git版本库时,Git自动为我们创建了唯一一个master分支,所以,现在,git commit就是往master分支上提交更改。

Read more »

Chengs Luo

"I want to put a ding in the universe. " —— Steve Jobs
7 posts
6 tags
GitHub Douban Twitter Instagram
© 2014 – 2019 Chengs Luo
Powered by Hexo v3.8.0
|
Theme – NexT.Gemini v7.1.2