BP神经网络

[破茧边缘]

BP网络（Back-Propagation Network） 是1986年被提出的，是一种按误差逆向传播算法训练的。
多层前馈网络，是目前应用最广泛的神经网络模型之一，用于函数逼近、模型识别分类、数据压缩和时间序列预测等。
一个典型的BP网络应该包括三层:输入层、隐藏层和输出层。各层之间全连接，同层之间无连接。隐藏层可以有很多层。

每一次迭代(Interation)意味着使用一批(Batch)数据对模型进行一次更新过程，被称为“一次训练”，包含一个正向过程和一个反向过程。
具体过程可以概括为如下过程：准备样本信息(数据&标签)、定义神经网络(结构、初始化参数、选取激活函数等)；将样本输入，正向计算各节点函数输出
计算损失函数：求损失函数对各权重的偏导数，采用适当方法进行反向过程优化；重复2~4直至达到停止条件。