人工神經元是構成人工神經網絡的最基本單元。它是通過對自然界中生物神經元的結構和功能進行抽象構建而成的簡化數學模型,每個人工神經元都具備最基本的信息處理能力。人工神經元具有最基本的三個要素。
(1) 連接權
人工神經元模型
連接權的權值表示各個神經元間的連接強度,對應于生物神經元的突觸。權值為正表示激活,為負表示抑制[44]。
(2) 求和單元
求和單元是用來計算各神經輸入的線性加權值,是人工神經元中重要的計算單元。
(3) 激活函數
激活函數用于限制人工神經元輸出,將其幅度限定在一定范圍內。激活函數的范圍一般在[0,1]或[-1,1]之間選擇。除此之外,人工神經元中還存在著一個外部偏置作用于激活函數
上,一般用θk 表示,可以通過調節偏置θk 數值的正負來影響激活函數的網絡輸入。
人工神經元模型如圖3.3所示。其中,x1, x2 ,…, xp 是神經元的輸入信號,相當于生物神經元細胞中的樹突,是神經元獲取外界信息的入口;wk1, wk 2 ,…, wkp 是神經元的連接權值;uk 是輸入信號通過加權求和計算后的結果;θk 是神經元中的外部偏置,也稱其為閾值;?(?) 是
激活函數;yk 代表人工神經元的輸出,是神經元之間信息交換的通道,相當于生物神經元中的軸突。