人工神经元是构成人工神经网络的最基本单元。它是通过对自然界中生物神经元的结构和功能进行抽象构建而成的简化数学模型,每个人工神经元都具备最基本的信息处理能力。人工神经元具有最基本的三个要素。
(1) 连接权
人工神经元模型
连接权的权值表示各个神经元间的连接强度,对应于生物神经元的突触。权值为正表示激活,为负表示抑制[44]。
(2) 求和单元
求和单元是用来计算各神经输入的线性加权值,是人工神经元中重要的计算单元。
(3) 激活函数
激活函数用于限制人工神经元输出,将其幅度限定在一定范围内。激活函数的范围一般在[0,1]或[-1,1]之间选择。除此之外,人工神经元中还存在着一个外部偏置作用于激活函数
上,一般用θk 表示,可以通过调节偏置θk 数值的正负来影响激活函数的网络输入。
人工神经元模型如图3.3所示。其中,x1, x2 ,…, xp 是神经元的输入信号,相当于生物神经元细胞中的树突,是神经元获取外界信息的入口;wk1, wk 2 ,…, wkp 是神经元的连接权值;uk 是输入信号通过加权求和计算后的结果;θk 是神经元中的外部偏置,也称其为阈值;ϕ(⋅) 是
激活函数;yk 代表人工神经元的输出,是神经元之间信息交换的通道,相当于生物神经元中的轴突。