输入层第i 个节点的输入为
图3.7 BP 神经网络结构图
neti = ∑xi +θi
i=1
式中xi(i= 1, 2,…, M) 为神经网络的输入,θi为第i个节点的阈值。对应的输出为
(3.12)
a = f (net)=1=1
(3.13)
1+exp(−neti )
1+ exp(−∑xi −θi )
i=1
在BP 网络学习中,非线性的学习主要由隐含层和输出层来完成。一般令:
ai = xi
(3.14)
隐含层的第j 个节点的输入为
netj=∑wijai+θj j=1
式中,wij 、θj 分别为隐含层的权值和第j 个节点的阈值。对应的输出为
(3.15)
a = f (net)=1=1
(3.16)
jj1+exp(−net)
1+exp(−∑wijai −θj )
j =1
输出层第k 个节点的输入为
netk = ∑wjk a j +θk
k =1
式中,wjk 、θk 分别为输出层的权值和第k 个节点的阈值。对应的输出为
(3.17)
y = f (net)=1=1
(3.18)
kk1+exp(−net)
1+ exp(−∑wjk a j −θk )
k =1
定义每一样本p 的输入模式对应的二次型误差函数为
1L2
Ep=∑(ypk −apk)
k =1
(3.19)
则系统的总误差函数为
P1 PL2
E=∑Ep =2∑∑(ypk−apk)
(3.20)
p=1p=1 k=1
式(3.20)中,P 为L 样本模式对数,L 为网络输出节点数。