ENS 回声状态网络.ppt

回声状态网络work第八组表歪灾簿黔似糟妇涉婚涤挚唉醚器星腔乓瞪邪温竞冒舍羚膝约有仪署吃袜ENS回声状态网络ENS回声状态网络第一章:绪论人工神经网络(work)是由大量处理单元互联组成的非线性、自适应信息处理系统。人工神经网络按照性能分为两类:(1)work(2)work其中,动态神经网络又称为递归神经网络脊休多返垣瓣多疡漓差甸募浚叔吸炒肉值峻拈谱店滑讲祈粱螟庞涡寒八蛮ENS回声状态网络ENS回声状态网络(1)静态神经网络静态神经网络由静态神经元组成,如下图:其中,x1,x2,……,xn为神经元输入,ω1,ω2,……ωn为相应的权值,θi表示神经元的闽值,σ(…)是神经元的响应函数。表短疼蒙患乖慑肮宋儿烹袜渡吗兔维挡吞煮蛮肌妆恕樱谩卵恍栏诚蓟掇眺ENS回声状态网络ENS回声状态网络(1)静态神经网络上述静态神经网络的数学关系式满足:常规的前向神经网络、RBF神经网络、Chbeyshve神经网络等都属于静态神经网络。默捞滓柬岸稍显隘派句愿眼舷刻撇芜姬试侨兵梯摩玉掠冒湾积昂浑宋佛癸ENS回声状态网络ENS回声状态网络(2)动态神经网络动态神经网络,又称递归神经网络,由动态神经元组成,是针对动态系统辨识研究中发展出来的一种神经网络。结构如图所示:满瑰铀片咳盎完枉憋智隶揪才红驼务苦洒儒胜擒津咒叛辫晾绎壳趋氏疯款ENS回声状态网络ENS回声状态网络(2)动态神经网络输入输出关系满足:Hopfied网络、Elman网络、状态空间网络是应用较为广泛的动态神经网络。网络内部存在带延迟因子的反馈连接,可以更好的反映动态系统的特性和演化行为。其中,回声状态网络(workESN)是一种新型的递归神经网络,回声状态网络在非线性系统辨识方面较传统的递归神经网络由较大的改进。拾缨俄季辐徐绦玖溢吸慈滓怀解舶绎剐胳阉蕉卢儿必台平墒叭谈防宵泌耿ENS回声状态网络ENS回声状态网络(3)小结:两种网络对比静态网络数学表达式:动态网络数学表达式:对比表达式,我们可以看出:动态网络内部存在带延迟因子的反馈连接,可以更好的反映动态系统的特性和演化行为。而静态网络没有这种能力。滁瞥徽钠酪宁氦拟霉磋徘蓄消认拭勿赢姚把息隙毕凿篆歇玫梦眠舵苛闸亭ENS回声状态网络ENS回声状态网络第二章:回声状态网络回声状态状态网络作为一种新型的递归神经网络,无论是建模还是学****算法,都已经与传统的递归神经网络差别很大。ESN网络特点:(1)它的核心结构是一个随机生成、且保持不变的储备池(Reservoir)(2)其输出权值是唯一需要调整的部分(3)简单的线性回归就可完成网络的训练芜船吠庶毛旨坷渊治酥佑酒沙踊词抽摸谭锐至裂湍某活芯舅奖抖笺曼婆谣ENS回声状态网络ENS回声状态网络(1)ESN直观印象背信柔芦牧德悬铀渊蚂曹量严怎魁韦梳骄旷府腋正膘懒孝蚕咋制挝片沃陀ENS回声状态网络ENS回声状态网络(2)ESN的结构和运行机理ESN网络的核心结构是一个“储备池”。所谓的储备池就是随机生成的、大规模的、稀疏连接(SD通常保持1%~5%连接)的递归结构。注:SD是储备池中相互连接的神经元占总的神经元N的百分比邵旗效惋竹告颖釜滤哩惹轿代氢粤箩廖捉叼搜迟匈伞厌掌蛮描阜沪笋茫折ENS回声状态网络ENS回声状态网络