-
4 – 什么是反向传播?
多层神经网络的学习能力比单层网络强得多。想要训练多层网络,需要更强大的学习算法。误差反向传播算法(Back Propagation)是其中最杰出的代表,它是目前最成功的神经网络学习算法。现实任务使用神经网络时,大多是在使用 BP 算法进行训练,值得指出的是 BP 算法不仅可用于多层前馈神经网络,还可以用于其他类型的神经网络。 通常说 BP 网络时,一般是指用 BP 算法训练的多层前馈神经网络。 这…- 39
- 0
-
3 – 什么是激活函数?
1. 网络非线性因素的理解 激活函数用于对每层的输出数据进行变换, 进而为整个网络结构结构注入了非线性因素。此时, 神经网络就可以拟合各种曲线。如果不使用激活函数,整个网络虽然看起来复杂,其本质还相当于一种线性模型,如下公式所示: 没有引入非线性因素的网络等价于使用一个线性模型来拟合 通过给网络输出增加激活函数, 实现引入非线性因素, 使得网络模型可以逼近任意函数, 提升网络对复杂问题的拟合能力.…- 65
- 0
-
2 – 什么是神经网络
1. 什么是神经网络 人工神经网络( Artificial Neural Network, 简写为ANN)也简称为神经网络(NN),是一种模仿生物神经网络结构和功能的 计算模型。人脑可以看做是一个生物神经网络,由众多的神经元连接而成。各个神经元传递复杂的电信号,树突接收到输入信号,然后对信号进行处理,通过轴突输出信号。下图是生物神经元示意图: 当电信号通过树突进入到细胞核时,会逐渐聚集电荷。达到一…- 23
- 0
-
1 – 什么是深度学习
1. 什么是深度学习 在介绍深度学习之前,我们先看下人工智能,机器学习和深度学习之间的关系: 机器学习是实现人工智能的一种途径,深度学习是机器学习的一个子集,也就是说深度学习是实现机器学习的一种方法。与机器学习算法的主要区别如下图所示: 传统机器学习算术依赖人工设计特征,并进行特征提取,而深度学习方法不需要人工,而是依赖算法自动提取特征。深度学习模仿人类大脑的运行方式,从经验中学习获取知识。这也是…- 30
- 0
-
0 – 神经网络基础 目录
神经网络的基础部分,主要包含的内容如下: 对深度学习、神经网络建立基本认识 了解激活函数的作用 了解神经网络参数更新算法 了解常见的神经网络参数初始化方法 了解常见的梯度下降优化方法 了解神经网络正则化的方法 了解批量归一化的作用- 26
- 0