计算智能神经网络.ppt

§4. 人工神经网络
一、特点
可以充分逼近任意复杂的非线性关系;
所有定量或定性的信息都等势分布贮存于网络内的各神经元,故有很强的鲁棒性和容错性;
采用并行分布处理方法,使得快速进行大量运算成为可能;
可学****和自适应不知道或不确定的系统;
能够同时处理定量、定性知识;
可硬件实现。
结构特征:
并行式处理
分布式存储
容错性
能力特征:
自学****br/>自组织
自适应性
§4. 人工神经网络
二、基本功能
非线性映射功能
§4. 人工神经网络
二、基本功能
分类与识别功能
§4. 人工神经网络
二、基本功能
优化计算功能
§4. 人工神经网络
总之,神经网络具有学****和适应、自组织、函数逼近和大规模并行处理能力
神经网络在模式识别、信号处理、系统辨识和优化等方面广泛应用
§ 人工神经网络的结构
一、生理神经元的结构与功能

大多数神经元由一个细胞体(cell body或soma)和突(process)两部分组成。突分两类, 即轴突(axon)和树突(dendrite)。轴突是突出部分,长度可达1m,把本神经元的输出发送至其它相连接的神经元。树突也是突出部分,但一般较短,且分枝很多,与其它神经元的轴突相连,以接收来自其它神经元的生物信号。
轴突和树突共同作用,实现了神经元间的信息传递。轴突的末端与树突进行信号传递的界面称为突触(synapse),通过突触向其它神经元发送信息。对某些突触的刺激促使神经元触发(fire)。只有神经元所有输入的总效应达到阈值电平,它才能开始工作。无论什么时候达到阈值电平,神经元就产生一个全强度的输出窄脉冲,从细胞体经轴突进入轴突分枝。这时的神经元就称为被触发。越来越明显的证据表明,学****发生在突触附近,而且突触把经过一个神经元轴突的脉冲转化为下一个神经元的兴奋或抑制。
§ 人工神经网络的结构

人工神经网络(artificial s,ANN)或模拟神经网络是由模拟神经元组成的,可把ANN看成是以处理单元PE(processing element)为节点,用加权有向弧(链)相互连接而成的有向图。其中,处理单元是对生理神经元的模拟,而有向弧则是轴突-突触-树突对的模拟。有向弧的权值表示两处理单元间相互作用的强弱。
来自其它神经元的输入乘以权值,然后相加。把所有总和与阈值电平比较。当总和高于阈值时,其输出为1;否则,输出为0。大的正权对应于强的兴奋,小的负权对应于弱的抑制。 在简单的人工神经网模型中,用权和乘法器模拟突触特性,用加法器模拟树突的互联作用,而且与阈值比较来模拟细胞体内电化学作用产生的开关特性。
§ 人工神经网络的结构
2. ANN的数学描述
令来自其它处理单元(神经元)i的信息为Xi,它们与本处理单元的互相作用强度为Wi,i=0,1,…,n-1,处理单元的内部阈值为θ。那么本神经元的输入为
xi为第i个元素的输入,wi为第i个元素与本处理单元的互联权重。f称为激发函数(activation function)或作用函数。它决定节点(神经元)的输出。该输出为1或0取决于其输入之和大于或小于内部阈值θ。
处理单元的输出为
§ 人工神经网络的结构
激发函数一般具有非线性特性,常用的非线性特性如下图所示,分述于下:
①阈值型 对于这种模型,神经元没有内部状态,激发函数为一阶跃函数,如图(a)所示。
②分段线性强饱和型见图(b)。③ Sigmoid型激发函数称为西格莫伊德(Sigmoid)函数,简称S型函数,其输入输出特性常用对数曲线或正切曲线等表示。这类曲线反映了神经元的饱和特性。S型函数是最常用的激发函数,它便于应用梯度技术进行搜索求解。
§ 人工神经网络的结构
三、人工神经网络的基本特性和结构

许多神经元以一定方式连接在一起,即构成神经网络。这种由许多神经元组成的信息处理网络具有并行分布结构。每个神经元具有单一输出,并且能够与其他神经元连接;存在许多输出连接方法,每种连接方法对应一个连接权系数。严格地说,人工神经网络是一种具有下列特性的有向图:
①对于每一个节电i存在一个状态变量xi;
②从节点j至节点i,存在一个连接权系统数wji;
③对于每个节点i,存在一个阈值i;
④对于每个节点i,定义一个变换函数f i(xi,wji, i),i≠j;对于最一般的情况,此函数取
f i(∑wij xj -i)形式。