1986年,D.E.Rumelhart和J.L.McClelland提出了BP神经网络(BackPropagation Network),由于该神经网络权值的调整采用误差反向传播训练算法,系统地解决了多层网络中隐含单元连接权的学习问题[46],因而一经提出就得到全世界范围内学者的广泛研究。BP 网络是一种含有隐含层的多层前馈网络,神经元的传递函数采用如图3.4(c)所示的S型函数,其单元输出可为0到1之间的任意值,可以实现从输入到输出的任意非线性映射。
三层BP网络的结构如图3.7所示。从图中可以看出,输入层设有M个输入节点,输出层有L个输出节点,网络的隐含层共有q个神经元。其中,xj( j= 1, 2,…, M) 为网络的实际输入,yk(k= 1, 2,… L) 为网络的实际输出,tk(k= 1, 2,…, L) 为网络的目标输出,ek(k= 1, 2,…, L) 为网络的输出误差。