层输入网络且按上述过程重复进行,由于周而复始的不断调整各层权值的,直到输出误差减少降低到预设误差,或进行到预设的学习次数为止。
3.3 BP网络的优点以及局限性
BP神经网络最主要的优点是具有极强的非线性映射能力。首先在理论上,任一个非线性函数都可以由一个三层或以上的BP网络来逼近。其次,神经网络具有联想记忆的能力。因为网络在训练时不断修正网络的权值,即BP神经网络具有高度自学习和自适应的能力。由于这些特点它被广泛应用于语音分析、图像识别、数字水印、计算机视觉等很多领域,取得了许多突出的成果。再次,由于强大的非线性处理能力,它具有很强的识别分类能力, 解决其它模式识别不能解决的问题。另外,BP网络还具有一定的容错能力。
但从数学角度看,传统的 BP神经网络为一种局部搜索的优化方法,它要解决的是一个复杂非线性化问题,网络的权值是通过沿局部改善的方向逐渐进行调整的,这样会使算法陷入局部极值,权值收敛到局部极小点,从而导致网络训练失败。加上BP神经网络对初始网络权重非常敏感,以不同的权重初始化网络,其往往会收敛于不同的局部极小,这也是很多学者每次训练得到不同结果的根本原因。
由于BP网络训练中稳定性要求学习效率很小,BP神经网络算法本质上为梯度下降法,而梯度下降法使得训练很慢。BP神经网络模型中,为了使网络执行BP算法,不能使用传统的一维搜索法求每次迭代的步长,而必须把步长的更新规则预先赋予网络,这种方法也会引起算法低效。
无论是线性系统和非线性系统,多层神经网络都可以模拟逼近任意函数。BP神经网络难以解决应用问题的实例规模和网络规模间的矛盾问题,其涉及到网络容量的可能性与可行性的关系问题,即学习复杂性问题。
对于非线性系统,其中一个重要的问题是选择合适的学习率,通常很难选择很好的学习率。而对于线性网络,学习率过大和学习率过小都不行,分别会导致训练过程不稳定和造成训练时间过长。
百度搜索“77cn”或“免费范文网”即可找到本站免费阅读全部范文。收藏本站方便下次阅读,免费范文网,提供经典小说教育文库基于Matlab智能BP神经网络(14)在线全文阅读。
相关推荐: