乳化机诊断人工神经网络8、系数的调整

1 输出层权系数的调整

当计算输出层节点时，apk = yk ，权系数应按Ep 函数梯度变化的反方向调整，使网络逐渐收敛^[47]，则权系数修正公式为

∆wjk

=−η ∂Ep

∂w

=−η

∂Ep

∂net

∂netk

∂w

=−η

∂Ep a

∂netj

（3.21）

jkkjkk

其中，netk 为输出层第k 个节点的输入网络；η 为按梯度搜索的步长，0 < η < 1 。

定义输出层的反向传播信号为

δk = −

∂Ep

∂net

=−∂Ep

∂y

∂yk

∂net

=(y

pk −yk

)∂f (net )

∂netjk

（3.22）

kkkk

= ( ypk −yk ) f ′(netk )

对式（3.18）两边求导，有

f ′(netk ) =

将式（3.23）代入式（3.22），可得

f(netk)(1−f(netk))=yk(1−yk)

（3.23）

δk=yk(1−yk)(ypk−yk)

k=1,2,…,L

(3.24)

则改进后的输出层权值修正公式为

wjk(k+1)=wjk(k)+∆wjk =wjk(k)+ηδkaj

(3.25)

2 隐含层权系数的调整

同理，当计算隐含层节点时，apk = y j ，则权系数修正公式为

∆wij

= −η∂Ep

∂w

=−η

∂Ep

∂net

∂netj

∂w

=−η

∂Ep a

∂neti

（3.26）

ijjijj

定义隐含层的反向传播误差信号为

δj = −

∂Ep

∂net

=−∂Ep

∂a

∂aj

∂net

= − ∂Ef ′(net)

∂ajk

(3.27)

jjjj

其中

− ∂Ep

∂a

=−∑

∂Ep

∂net

∂netk =

∂a

(−∂Ep

∂net

∂N

) ∂a

wjk aj

jk=1

kjk=1

kj j=1

（3.28）

= ∑(−

∂Ep )w

= ∑δ w

k =1

∂netk

jkkjk

k =1

而f ′(net j ) = aj (1− a j ) ，所以隐含层的反向传播误差信号为

δj=aj(1−aj)∑δkwjk

k =1

（3.29）

则改进后的隐含层权值修正式为

wij(k+1)=wij(k)+∆wij=wij(k)+ηδjai

（3.30）