人工神经网络深度学习.ppt

人工神经网络及其应用
第七讲深度学****br/>主讲人:方涛
第七讲深度学****br/>主讲内容
§ 研究背景
§ 从BP网络看深度学****br/>§ 几种典型的深度学****模型
§ 开源深度学****框架
§ 深度学****的未来
§ 研究背景
约翰·麦卡锡(1927-2011)
LISP之父—不走寻常路的常识逻辑学家
1956年,,开启了AI的发展
2016年---人工智能(AI)奠基60周年
21世纪初,“深度学****的出现,AI研究获得了长足的进步
没有大数据,没有“大计算”,就没有人工智能的今天!
Marvin Minsky—
人工智能之父和框架理论的创立者
1927-2016
MIT AI Lab 创始人之一
1970年获得图灵奖
美国工程院和美国科学院院士
在近60年的人工智能历史中,马文-明斯基一直是一位闪耀着耀眼光彩的杰出的人工智能权威,是当之无愧的人工智能之父。(李德毅院士)
明斯基在1950年进入普林斯顿大学攻读数学系的博士研究生学位,比我晚一年。我们很快意识到,我们两人都对人工智能很感兴趣。事实上,当时明斯基已经对如何实现人工智能颇有想法了,这一点在之后他设计和建造的世界上第一个神经网络模拟器Snare上得到了证实。
( John McCarthy 人工智能先驱,LISP语言之父,图灵奖获得者)
1969:Perceptron(感知器)---神经网络的局限性(深度学****的前身)
§ 研究背景
2016年,阿尔法狗(AlphaGo)4 :1大胜围棋9 段李世石高手, AI重大历史时刻
“监督学****的策略网络(work)”
通过13层全连接网络,反复训练围棋棋盘布局,调整参数,以最佳概率预测落子选择(Move Picker),如何下棋子
“价值网络(work)”
给定棋子位置,预测每一个棋手赢棋的可能,就是计算局面
§ 研究背景
主要设计者----位于伦敦Google旗下DeepMind公司
大卫·席尔瓦(David Silver)----剑桥大学计算机科学学士,硕士,加拿大阿尔伯塔大学计算机科学博士
黄士杰(Aja Huang),台湾交通大学计算机科学学士,台湾师范大学计算机科学硕士和博士,加拿大阿尔伯塔大学计算机科学博士后
Andrew Ng
斯坦福大学教授
2012年6月,《纽约时报》披露了Google Brain项目
大规模计算机系统方面的世界顶尖专家JeffDean
用16000个CPU Core的并行计算平台训练一种称为“深度神经网络”(DNN,Deep works)的机器学****模型(内部共有10亿个节点)
在语音识别和图像识别等领域获得了巨大的成功
§ 研究背景
2012年11月,微软公开演示
全自动同声传译系统
深度学****讲演者用英文演讲,后台的计算机一气呵成自动完成语音识别、英中机器翻译和中文语音合成,效果非常流畅
§ 研究背景
2013年1月,百度创始人兼CEO李彦宏高调宣布成立“深度学****研究所”(IDL,Institue of Deep Learning
§ 研究背景
机器学****解决目标识别与分类问题的思路
三个主要组成部分
中间的特征提取部分将很大程度上决定最终的效果,如何提取特征?“巧妇难为无米之炊”
§ 研究背景