17第6章神经网络Part3.ppt

该【17第6章神经网络Part3 】是由【落意心冢】上传分享，文档一共【62】页，该文档可以免费在线阅读，需要了解更多关于【17第6章神经网络Part3 】的内容，可以使用淘豆网的站内搜索功能，选择自己适合的文档，以下文字是截取该文章内的部分文字，如需要获得完整电子版，请下载此文档到您的设备，方便您编辑和打印。17第6章神经网络Part3BP网络和BP算法线性不可分问题:感知器模型的局限三层感知器多层网络的表达能力BP网络:多层感知器BP算法:反向传播算法的思想和流程,训练协议,隐含层的作用,实用技术反向传播算法(BP算法)敏感度的反向传播反向传播算法(BP算法)BP算法流程:Step1:选定权系数初值Step2:重复下述过程直至收敛(对各个样本依次计算):从前向后各层计算各单元反向传播算法(BP算法):::计算并保存各个权值修正量反向传播算法(BP算法):修正权值以上算法是对每个样本作权值修正(单样本)也可以对各个样本计算后求和,按照总误差修正权值(批处理)BP算法的训练协议训练协议(学****协议):神经网络训练过程中如何根据训练样本调整权值三种最有用的训练协议:随机训练(stochastictraining):模式随机从训练集中选取,每输入一个模式,权值就更新一次成批训练(batchtraining):所有模式一次全部送入网络,然后才进行一次权值更新在线训练(raining):每种模式只提供一次,每提供一种模式,权值更新一次BP算法的训练协议随机反向传播BP算法的训练协议成批反向传播累计更新BP算法的实用技术输出函数(激活函数)输入信号尺度变换c类问题的目标输出带噪声的训练法人工“制造”数据隐单元数权值初始化学****率冲量项权值衰减