第2章 单层前向网络及LMS学习算法汇总(5)

图2.23 η=0.1*maxlinlr(P)时，网络的学习曲线

图2.24 η=0.1*maxlinlr(P)时，网络的学习曲线

适当的增大学习速率因子，可以加快网络的收敛速度。如图2.25是η=1.8*maxlinlr(P)时，网络的学习曲线。显然，网络在140步左右就已经收敛。但是，如果学习速率因子值过大，将造成网络不收敛，如图2.26是η=2*maxlinlr(P)时，网络的学习曲线。显然，训练误差是不断增大的，网络不收敛，即使再增加训练步数，网络也不可能收敛。

44

图2.25 η=1.8*maxlinlr(P)时，网络的学习曲线

图2.26 η=2*maxlinlr(P)时，网络的学习曲线

按照（2.18）式或（2.19）式计算出的η取值范围为0<η<0.073，这是一个充分条件，不是必要条件，但我们可以据此估计η的取值不能超出0.073很多，否则网络将不收敛。而实际上仿真过程中，可以计算出1.8*maxlinlr(P)＝0.096，2*maxlinlr(P)＝0.107。因此，我们可以估计出，本例中为保证网络收敛，学习速率η的极限取值在0.1左右。

45

当然，按照（2.20）式，可以简单的取学习速率因子η为一个常数。图2.27是η=0.1时，网络的学习曲线。网络在130步左右就收敛，网络收敛得很快（接近最快的速度）。如果学习速率取值过小，网络收敛将变得很慢，如图2.24（η=0.0054）；而如果取值过大，会造成网络不收敛，如图2.26（η=0.107）。综合考虑各方面的因素，本例中网络的学习速率η取值在0.05左右比较合适（maxlinlr(P)=0.054）。

图2.27 η=0.1时，网络的学习曲线

习 题

2.1对于线性可分问题，试证明单层感知器的收敛性。

2.2试画出单层感知器的学习算法框图，并用C语言写出单层感知器关于逻辑“或”运算的学习算法程序。 2.3 LMS算法中输入向量X(n)的自相关矩阵RX为RX???10.5??，试求能使LMS算法按

0.51??方差收敛的学习速率因子的取值范围。

2.4试画出学习速率因子η为时变的LMS学习算法框图，并用C语言写出自适应线性元件关于逻辑“或”运算的LMS学习算法程序，给出LMS算法学习曲线。

2.5仿照例题，采用自适应线性元件和单层感知器两种网络，解决一个实际的模式分类问题。 2.6 继续例2.7的讨论，按照（2.21）式或（2.22）式，考虑学习速率因子为时变的情况，确定相应参数合适的取值。

46

百度搜索“77cn”或“免费范文网”即可找到本站免费阅读全部范文。收藏本站方便下次阅读，免费范文网，提供经典小说综合文库第2章 单层前向网络及LMS学习算法汇总(5)在线全文阅读。