人工神经网络实用教程人工神经网络.ppt

人工神经网络实用教程人工神经网络
第1页，共36页，2022年，5月20日，11点5分，星期日
2022/8/5
1
主讲：蒋世忠 信息工程图像处理教研室Blog1:
f(u)
u
1
*
*
第17页，共36页，2022年，5月20日，11点5分，星期日

分段线性函数
f(u)
u
1
-1
*
*
第18页，共36页，2022年，5月20日，11点5分，星期日

非线性函数
单极S型函数
双极S型函数
*
*
第19页，共36页，2022年，5月20日，11点5分，星期日

人工神经网络是一个由许多简单的并行工作的处理单元组成的系统，其功能取决于网络的结构、连接强度以及各单元的处理方式
根据神经元的不同连接方式，可将神经网络分为两大类：
分层网络
相互连接型网络
*
*
第20页，共36页，2022年，5月20日，11点5分，星期日

分层网络
单纯的前向网络
*
*
第21页，共36页，2022年，5月20日，11点5分，星期日

分层网络
具有反馈的前向网络
*
*
第22页，共36页，2022年，5月20日，11点5分，星期日

分层网络
层内互联的前向网络
*
*
第23页，共36页，2022年，5月20日，11点5分，星期日

相互连接型网络
*
*
第24页，共36页，2022年，5月20日，11点5分，星期日
神经网络的学****br/>学****方式
有导师学****有监督学****br/>无导师学****无监督学****br/>再励学****br/>*
*
第25页，共36页，2022年，5月20日，11点5分，星期日
神经网络的学****br/>学****算法：学****算法是指针对学****问题的明确规则，不同的学****算法对神经元的权值调整的表达式是不同的。
算法分类
Hebb学****算法
学****算法
随机学****算法
竞争学****算法
*
*
第26页，共36页，2022年，5月20日，11点5分，星期日
神经网络的学****br/>Hebb学****算法
由Donald O. Hebb提出。
如果两个神经元同时兴奋，
则它们之间的突触连接加强。
如果神经元 是神经元 的
上层结点，用 分别表示
两神经元的激活值(输出)，
表示两个神经元之间的连接权，
则Hebb学****规则可以表示为:

式中 表示学****速率
Hebb学****规则是人工神经网络学****的基本规则，几乎所有神经网络的学****规则都可以看作Hebb学****规则的变形
*
*
第27页，共36页，2022年，5月20日，11点5分，星期日
神经网络的学****br/>学****算法
误差校正学****算法是根据神经网络的输出误差对神经元的连接强度进行修正，属于有导师学****br/>权值调整公式：
调整目标是使下述公式所表达的误差为最小
*
*
第28页，共36页，2022年，5月20日，11点5分，星期日
神经网络的学****br/>随机学****算法
误差学****算法通常采用梯度下降法，因此存在局部最小问题，随机学****算法通过引入不稳定因子来处理这种情况。
经典随机学****算法
模拟退化算法
遗传算法。
*
*
第29页，共36页，2022年，5月20日，11点5分，星期日
神经网络的学****br/>竞争学****算法
竞争学****属于无导师算法
神经元通过互相竞争来做出不同的响应
竞争获胜的神经元按规则修正权值
经典竞争学****神经网络
自组织特征映射网络(Self-Organization Map，SOM)
自适应共振网络(Adaptive Resonace Theory，ART)
*
*
第30页，共36页，2022年，5月20日，11点5分，星期日
神经网络的特点及其应用
神经网络的特点
不确定、模糊及数学建模困难
并行分布式处理
非线性处理
具有自学****功能
神经网络可采用硬件实现
*
*
第31页，共36页，2022年，5月20日，11点5分，星期日
神经网络的特点及其应用
神经网络的应用领域
语音识别
语音识别娃娃
图像识别与理解
人脸检测
*
*
第32页，共36页，2022年，5月20日，11点5分，星期日
神经网络的特点及其应用
神经网络的应用领域
机器人
智能故障检测
医学应用
医学图像处理