第十章 神经网络与遗传算法（一）.ppt

第10章 神经网络与遗传算法(一)神经网络
目录(神经网络)



附1:神经网络专家系统
附2:神经网络的容错性


人工神经网络(ANN)是模拟人脑神经元活动的过程,其中包括对信息的加工、处理、存储、搜索等过程。
ANN不能对人脑进行逼真描述,但它是人脑的某种抽象、简化和模拟。
人脑神经元的形状为:
神经元组成;
树突:神经纤维较短,是接收信息的。
细胞体:对接收到的信息进行处理。
轴突:较长的神经纤维,是发出信息的。
突触:一个神经元的轴突末端与另一个神经元的树突之间密切接触。
神经元具有如下性质:
(1)多输入单输出;
(2)突触具有加权的效果;
(3)信息进行传递;
(4)信息加工是非线性。
神经元的数学模型图:
其中:V1、V2、…Vn为输入;Ui为该神经元的输出;Tij为外面神经元与该神经元连接强度(即权),
为阈值,f(X)为该神经元的作用函数。
每个神经元的状态Si(i=1,2,…n)只取0或1,分别代表抑制与兴奋。每个神经元的状态,由M-P方程决定:
其中:Wij是神经元之间的连接强度,Wij(i≠j)是可调实数,由学习过程来调整。i是阈值,f(x)是阶梯函数。
MP(Mcculloch Pitts)模型
[0,1]阶梯函数
(0,1)S型函数:
神经网络的学习,主要是指通过一定的学习算法或规则实现对突触结合强度(权值)的调整。ANN学习规则主要有四种,即联想式学习、误差传播学习、概率式学习和竞争式学习。
(1)联想学习:联想学习是模拟人脑的联想功能,典型联想学习规则是由心理学家Hebb于1949年提出的学习行为的突触联系,称为Hebb学习规则。
神经网络的学习
Hebb规则
若i与j两种神经元之间同时处于兴奋状态,则它们间的连接应加强,即:
△Wij=SiSj (>0)
这一规则与“条件反射”学说一致,并得到神经细胞学说的证实。
设α=1,当Si=Sj=1时,△Wij=1,在Si,Sj中有一个为0时,△Wij=0。