机器学习算法汇总大全.ppt

机器学****Machine Learning) 报告建议内容报告建议内容?基本概念以及数学定义?基本性质及其物理意义?具体算法应用(详细举例讲解) ?该算法与其他类似算法的分析比较?可能的发展方向?附参考文献 2 《《机器学****机器学****, (汤姆(汤姆· ·米米切尔)著,曾华军,张银华等译,机械工切尔)著,曾华军,张银华等译,***出版社, 业出版社, 2003 2003 年年。。参考书参考书其它参考书其它参考书??《《机器学****及其应用机器学****及其应用》》,周志华,王钰主编,清,周志华,王钰主编,清华大学出版社, 华大学出版社, 2009 2009 。。??《《神经网络与机器学****神经网络与机器学****, Simon Haykin Simon Haykin 著, 著, ***出版社, ***出版社, 2010 2010 。。??《《机器学****导论机器学****导论》》, , Ethem Alpaydin Ethem Alpaydin 著,机械著,***出版社, 工业出版社, 2009 2009 。。??《《 Machine Learning Machine Learning ———— A Probabilistic Perspective A Probabilistic Perspective 》》 Kevin P. Kevin P. Murphy, 2012 Murphy, 2012 第第1 1章章引引言言?什么是机器学****经典定义】:计算机程序如何随着经验积累自动提高性能,系统自我改进的过程。或:计算机利用经验改善系统自身性能的行为。——米切尔随着该领域的发展,主要做智能数据分析智能数据分析。。学****与智能学****与智能?学****现象?语言、文字的认知识别?图像、场景、自然物体的认知识别?规则?( eg 下雨天要带雨伞) ?复杂的推理、判断能力(智能) ?好人与坏人? ?好猫与坏猫? 数据知识?认知?推理?决策?识别学****什么是机器学****什么是机器学****使得计算机具备和人类一样的学****能力?决策?推理?认知?识别?……等智能?给定数据(样本、实例)和一定的学****规则, 从数据中获取知识的能力机器学****与人工智能机器学****与人工智能?自然智慧的伟大与奥妙?举例:婴儿的认知能力(声音、人脸、汽车…) ?重要的二个特点:容错性,推广能力(举一反三) ?机器智能:希望用机器实现部分智能?基于数据的机器学****问题(引自清华张学工教授) ?根据已知样本估计数据之间的依赖关系,从而对未知或无法测量的数据进行预测和判断?关键:推广能力什么是机器学****什么是机器学****中科院王珏研究员给出的定义: ?令W是给定世界的有限或无限所有观测对象的集合,由于我们的观测能力有限,我们只能获得这个世界的一个子集,称为样本集。机器学****就是根据这个样本集,推算这个世界 W的模型,使它对这个世界(尽可能地)为真。?三个重要的理论问题: ?一致: W与Q有相同的性质。 eg. ?划分:设样本定义于 d维空间,要寻找在这个空间上的决策分界面?泛化(推广能力):对未知样本的判断能力 WQ? What What ’’ s is the Learning Problem? s is the Learning Problem? ? Learning = Improving with experience at some task ? Improve over task T ? With respect to performance measurement P ? Based on experience E ? Example: 中国象棋?任务 T:下中国象棋?性能目标 P:比赛中击败对手(的百分比) ?训练经验 E:和自己进行对弈,或者看棋谱 Ref :《机器学****曾华军等译)