人工神经网络自组织竞争人工神经网络.pptx

我人工神经网络自组织竞争人工神经网络
人工神经网络自组织竞争人工神经网络
第1页
在实际神经网络中，比如人视网膜中，存在着一个“侧抑制”现象，即一个神经细胞兴奋后，经过它分支会对周围其它神经细胞产生抑制。
自组织竞争人工神经网****规则为：
与内星不一样，外星联接强度改变Δw是与输入矢量P成正比。这意味着当输入矢量被保持高值，比如靠近1时，每个权值wij将趋于输出ai值，若pj＝1，则外星使权值产生输出矢量。
当输入矢量pj为0时，网络权值得不到任何学****与修正。
计算机科学与工程学院
人工神经网络自组织竞争人工神经网络
第11页
当有r个外星相并联，每个外星与s个线性神经元相连组成一层外星时，其权值修正方式为：
其中：
W＝s×r权值列矢量；
lr＝学****速率；
A＝s×q外星输出；
P＝r×q外星输入。
，其调用过程以下：
dW＝learnos(W，A，P，lr)；
W＝W十dW；
计算机科学与工程学院
人工神经网络自组织竞争人工神经网络
第12页
思索：下面有两元素输入矢量以及与它们相关四元素目标矢量，试设计一个外星网络实现有效矢量取得，外星没有偏差。
P＝[1 0]；
T＝[ ；
；
；
]；
计算机科学与工程学院
人工神经网络自组织竞争人工神经网络
第13页
8．1．3科荷伦(Kohonen)学****规则
科荷伦学****规则是由内星规则发展而来。
科荷伦规则为：
科荷伦学****规则实际上是内星学****规则一个特例，但它比采取内星规则进行网络设计要节约更多学****因而常惯用来替换内星学****规则。
计算机科学与工程学院
人工神经网络自组织竞争人工神经网络
第14页
在MATLAB工具箱中，，普通经过先寻找输出为1行矢量i，然后仅对与i相连权矩阵进行修正。使用方法以下：
i＝find(A==1)；
dW＝learnk(W，P，i，1r)；
W＝W十dW；
普通情况下科荷伦学****规则比内星学****规则能够提升训练速度1到2个数量级。
计算机科学与工程学院
人工神经网络自组织竞争人工神经网络
第15页
Kohonen学****规则经过输入向量进行神经元权值调整，所以在模式识别中经惯用到。
经过学****那些最靠近输入向量神经元权值得到修正，使之更靠近输入向量，其结果是获胜神经元在下一次相同输入向量出现时，获胜可能性更大；而对于那些与输入向量相差很远神经元权值向量很快被调整为最靠近某一类输入向量值。
结果是，假如神经元数量足够多，则含有相同输入向量各类模式作为输入向量时，其对应神经元输出为1； 而对于其它模式输入向量，其对应神经元输出为0。所以，竞争网络含有对输入向量进行夫恶****分类能力。
计算机科学与工程学院
人工神经网络自组织竞争人工神经网络
第16页
8．2自组织竞争网络
8．2．1网络结构
竞争网络由单层神经元网络组成，其输入节点与输出节点之间为全互联结。
因为网络在学****中竞争特征也表现在输出层上，所以在竞争网络中把输出层又称为竞争层，而与输入节点相连权值及其输入合称为输入层。
计算机科学与工程学院
人工神经网络自组织竞争人工神经网络
第17页
从网络结构图中能够看出，自组织竞争网络权值有两类：
一类是输入节点j到i权值wij(i＝1，2…、s；j＝1，2…、r)，这些权值是经过训练能够被调整；
另一类是竞争层中相互抑制权值wik(k＝1，2…、s)。这类权值是固定不变，且它满足一定分布关系。
它们是一个对称权值，即有wik＝wki，同时相同神经元之间权值起加强作用，即满足w11＝w11＝…＝wkk＞0，而不一样神经元之间权值相互抑制，对于k≠i有wik＜0。
计算机科学与工程学院
人工神经网络自组织竞争人工神经网络
第18页
设网络输入矢量为：P＝[ p1 p2 … pr]T；
对应网络输出矢量为：A＝[a1 a2 … as]T。
因为竞争网络中含有两种权值，所以其激活函数加权输入和也分为两部分：来自输入节点加权输入和N与来自竞争层内相互抑制加权输入和G。对于第i个神经元有：
1)来自输入节点加权输入和为：
2)来自竞争层内相互抑制加权输入和为：
计算机科学与工程学院
人工神经网络自组织竞争人工神经网络
第19页
a)假如在竞争后，第i个节点“赢”了，则有：
而其它全部节点输出均为零，即：
此时
b)假如在竞争后，第i个节点“输”了，而“赢”节点为l，则有：
此