BP神经网络模型应用实例.doc

编辑版word
页脚下载后可删除，如有侵权请告知删除！
编辑版word
BP神经网络模型
第1节 根本原理简介
近年来全球性的神经网络研究热潮的再度兴起，不仅仅是因为神经科学本身取得了巨大的进展．更主要的原因在于开展新型计算机和人工智能新途径的迫切需要．迄今为止在需要人工智能解决的许多问题中，人脑远比计算机聪明的多，要开创具有智能的新一代计算机，就必须了解人脑，研究人脑神经网络系统信息处理的机制．另一方面，基于神经科学研究成果根底上开展出来的人工神经网络模型，反映了人脑功能的假设干根本特性，开拓了神经网络用于计算机的新途径．它对传统的计算机构造和人工智能是一个有力的挑战，引起了各方面专家的极大关注．
目前，已开展了几十种神经网络，例如Hopficld模型，Feldmann等的连接型网络模型，Hinton等的玻尔茨曼机模型，以及Rumelhart等的多层感知机模型和Kohonen的自组织网络模型等等。在这众多神经网络模型中，应用最广泛的是多层感知机神经网络。多层感知机神经网络的研究始于50年代，但一直进展不大。直到1985年，Rumelhart等人提出了误差反向传递学****算法〔即BP算〕，实现了Minsky的多层网络设想，如图
编辑版word
页脚下载后可删除，如有侵权请告知删除！
编辑版word
34-1所示。
输入层
中间层
输出层
图34-1 BP神经网络模型
 
 
 
 
 
 
 
 
 
BP算法不仅有输入层节点、输出层节点，还可有1个或多个隐含层节点。对于输入信号，要先向前传播到隐含层节点，经作用函数后，再把隐节点的输出信号传播到输出节点，最后给出输出结果。节点的作用的鼓励函数通常选取S型函数，如
式中Q为调整鼓励函数形式的Sigmoid参数。该算法的学****过程由正向传播和反向传播组成。在正向传播过程中，输入信息从输入层经隐含层逐层处理，并传向输出层。每一层神经元的状态只影响下一层神经元的状态。如果输出层得不到期望的输出，那么转入反向传播，将误差信号沿原来的连接通道返回，通过修改各层神经元的权值，使得误差信号最小。
编辑版word
页脚下载后可删除，如有侵权请告知删除！
编辑版word
社含有n个节点的任意网络，各节点之特性为Sigmoid型。为简便起见，指定网络只有一个输出y,任一节点i的输出为Oi,并设有N个样本(xk,yk)(k=1,2,3,…,N),对某一输入xk，网络输出为yk节点i的输出为Oik,节点j的输入为netjk=
并将误差函数定义为
其中为网络实际输出，定义Ek=(yk-ŷk)2, ,且Ojk=f(netjk),于是
=δjkOik
当j为输出节点时，Ojk=ŷk
()
假设j不是输出节点，那么有
因此
编辑版word
页脚下载后可删除，如有侵权请告知删除！
编辑版word
()
如果有M层，而第M层仅含输出节点，第一层为输入节点，那么BP算法为：
第一步，选取初始权值W。
第二步，重复下述过程直至收敛：
a.       对于k=1到N
a). 计算Oik, netjk和ŷk的值(正向过程)；
b). 对各层从M到2反向计算(反向过程)；
b.