计算智能-神经网络.ppt

第 2 章神经网络
要求理解神经网络的思想原理,掌握神经网络的典型结构和网络训练的学****算法,熟练掌握BP神经网络的结构原理和学****算法,并能熟悉神经网络的各种实际应用。
1
神经网络简介
神经网络(work)也叫人工神经网络,是指模拟人脑神经系统的结构和功能,运用大量的处理部件,由人工方式构造的网络系统。
神经网络理论突破了传统的、线性处理的局限,是一种非线形动力系统,并以分布式存储和并行协同处理为特色,虽然单个神经元的结构和功能极其简单有限,但是大量的神经元构成的网络系统能实现极其复杂的行为和功能。
2
神经网络的研究发展历史
萌芽时期(1940-1960)
1943年,ulloch和数学家Pitts合作,提出了神经元的数学模型和网络的结构方法,即M-P模型,这就是神经网络的概念。标志着神经网络时代的开始。
1957年,计算机科学家Rosenblatt用硬件完成了最早的神经网络模型,定义为感知器(Perceptron)用来模拟生物的感知和学****能力。把神经网络从纯理论推向了工程实践。
3
低谷期(1960-1970)
原因:
1969年,人工智能之父Minskey和Papert发表论著指出了Perdeptron无科学价值,只能作线形划分,对于非线形或其它分类会遇到很多困难,连简单的XOR逻辑分类都做不到。
4
复兴期(1980-1990)
1982年,加州大学的物理学家Hopfield提出了有名的全连接Hopfield网络模型,并用电路实现,人们对神经网络有了新的认识。
1986年, Rumelhart等人提出了反向传播算法,使 Hopfield网络模型和多层前馈型神经网络成为应用最为广泛的模型。
5
全新的发展时期(1990年以后)
电子电路、脑科学、生物学、光学的进步为人
工神经网络的发展打下了基础。
理论不断深化,应用得到进一步推广
光学神经网络,混沌神经网络,模糊神经网络,进化神经网络等新模型出现。
6
目前国内外研究状况
1. 研究机构
美国DARPA计划、日本HFSP计划、法国尤里卡计划、德国欧洲防御计划、前苏联高技术发展计划
2.  学会
86年4月,美国物理学会在Snowbirds召开了国际神经网络学术会议;
87年6月,IEEE在San Diego召开了国际神经网络学术会议,并成立了国际神经网络学会;
88年起,IEEE和国际神经网络学会每年召开一次国际会议;
7
我国自91年开始每两年召开一次学术会议。
3. 刊物
1990年3月,IEEE神经网络会刊问世。
4. 应用范围
已经渗透到各个领域,智能控制、模式识别、计算机视觉、自适应滤波、信号处理、非线形优化、语音识别、知识处理、传感技术与机器人等等。神经网络代表一种新的主义—连接主义,解决诸如知识表达、推理学****联想记忆、乃至复杂的社会现象,如混沌,社会演变的复杂系统的统一模型,它预示着一个新的工业。
8
人工神经网络的特性:
(1)并行分布处理。神经网络具有高度的并行结构和并行实现能力,因而具有较好的耐故障能力和较快的总体处理能力。这一特性特别适于实时和动态处理。
(2)非线性映射。神经网络具有固有的非线性特性,这源于其近似任意非线性映射(变换)能力。这一特性给处理非线性问题带来新的希望。
(3)通过训练进行学****神经网络是通过所研究系统过去的数据记录进行训练的。一个经过适当训练的神经网络具有归纳全部数据的能力。因此,神经网络能够解决那些由数学模型或描述规则难以处理的问题。
9
(4)适应与集成。神经网络能够适应在线运行,并能同时进行定量和定性操作。神经网络的强适应和信息融合能力使得它可以同时输入大量不同的控制信号,解决输入信息间的互补和冗余问题,并实现信息集成和融合处理。这些特性特别适于复杂、大规模和多变量系统。
(5)硬件实现。神经网络不仅能够通过软件而且可以借助硬件实现并行处理。近年来,一些超大规模集成电路实现硬件已经问世,而且可以从市场上购买到。这使得神经网络成为具有快速和大规模处理能力的网络。
10