BP算法的过程如右图6-11所示:
BP算法存在的问题:
1) 从数学的角度,神经网络学习是一个非线性优化问题,这就不可避免的存在有局部极小问题;
2) 学习算法收敛的速度较慢,尤其是当网络规模达到一定规模之后;
3) 网络训练结束,正常运行时,采用的是单向传播的方式,没有反馈机制可提供在线学习;
4) 训练样本的顺序有可能影响学习速度和精度,新加入的样本会影响到已经学完的样本。