人工神经网络-SVM-深度学习简介.pptx

神经网络及SVM简介
以冯·诺依曼型计算机为中心的信息处理技术的高速发展,使得计算机在当今的信息化社会中起着十分重要的作用。但是,当用它来解决某些人工智能问题时却遇到了很大的困难。
例如,一个人可以很容易地识别他人的脸孔,但计算机则很难做到这一点。
大脑是由生物神经元构成的巨型网络,它在本质上不同于计算机,是一种大规模的并行处理系统,它具有学****联想记忆、综合等能力,并有巧妙的信息处理方法。
人工神经网络来源于对人脑实际神经网络的模拟
一、神经网络发展历史

人脑和CPU
神经细胞利用电-化学过程交换信号。输入信号来自另一些神经细胞。这些神经细胞的轴突末梢(也就是终端)和本神经细胞的树突相遇形成突触(synapse),信号就从树突上的突触进入本细胞。信号在大脑中实际怎样传输是一个相当复杂的过程,但就我们而言,重要的是把它看成和现代的计算机一样,利用一系列的0和1来进行操作。就是说,大脑的神经细胞也只有两种状态:兴奋(fire)和不兴奋(即抑制)。发射信号的强度不变,变化的仅仅是频率。神经细胞利用一种我们还不知道的方法,把所有从树突上突触进来的信号进行相加,如果全部信号的总和超过某个阀值,就会激发神经细胞进入兴奋(fire)状态,这时就会有一个电信号通过轴突发送出去给其他神经细胞。如果信号总和没有达到阀值,神经细胞就不会兴奋起来。
人脑和CPU
动物
神经细胞的数目(数量级)
蜗牛
10,000 (=10^4)
蜜蜂
100,000 (=10^5)
蜂雀
10,000,000 (=10^7)
老鼠
100,000,000 (=10^8)
人类
10,000,000,000 (=10^10)
大象
100,000,000,000 (=10^11)
人脑的特点
对损伤有冗余性(tolerance)
能实现无监督的学****br/>处理信息的效率极高
善于归纳推广
CPU i7 Ghz,4个核
人脑 100hz,10G个核
人工神经网络
一个人工神经网络(Artificial work,简称ANN)就是要在当代数字计算机现有规模的约束下,来模拟这种大量的并行性,并在实现这一工作时,使它能显示许多和生物学大脑相类似的特性。
人工神经网络(Artificial wroks,简称ANN)是对人类大脑系统的一种仿真,简单地讲,它是一个数学模型,可以用电子线路来实现,也可以用计算机程序来模拟,是人工智能研究的一种方法。

实际上它是由大量的、功能比较简单的形式神经元互相连接而构成的复杂网络系统,用它可以模拟大脑的许多基本功能和简单的思维方式。尽管它还不是大脑的完美元缺的模型,但它可以通过学****来获取外部的知识并存贮在网络内,可以解决计算机不易处理的难题,特别是语音和图像的识别、理解、知识的处理、组合优化计算和智能控制等一系列本质上是非计算的问题。

1943年,,即MP模型。1958年,(Perceptron)。

第一次热潮(40-60年代未)
1982年,,它是一个互联的非线性动力学网络他解决问题的方法是一种反复运算的动态过程,这是符号逻辑处理方法所不具备的性质. 1987年首届国际ANN大会在圣地亚哥召开,国际ANN联合会成立,创办了多种ANN国际刊物。1990年12月,北京召开首届学术会议。
低潮(70-80年代初)
第二次热潮
第三次热潮 GPU 大数据新方法深度学****理论