2贝叶斯决策理论.ppt

第2章贝叶斯决策理论
引言
几种常用的决策规则
基于最小错误率的贝叶斯决策
基于最小风险的贝叶斯决策
限定一类错误率,使另一类错误率最小
最小最大决策
分类器、判别函数及决策面
正态分布时的统计决策
引言
模式识别的目的就是要确定某一个给定的模式样本属于哪一类
可以通过对被识别对象的多次观察和测量,构成特征向量,并将其作为某一个判决规则的输入,按此规则来对样本进行分类
作为统计判别问题的模式分类
在获取模式的观测值时,有些事物具有确定的因果关系,即在一定的条件下,它必然会发生或必然不发生
例如识别一块模板是不是直角三角形,只要凭“三条直线边闭合连线和一个直角”这个特征,测量它是否有三条直线边的闭合连线并有一个直角,就完全可以确定它是不是直角三角形
这种现象是确定性的现象
但在现实世界中,由许多客观现象的发生,就每一次观察和测量来说,即使在基本条件保持不变的情况下也具有不确定性
只有在大量重复的观察下,其结果才能呈现出某种规律性,即对它们观察到的特征具有统计特性
特征值不是一个确定的向量,而是一个随机向量
此时,只能利用模式集的统计特性来分类,以使分类器发生错误的概率最小
作为统计判别问题的模式分类
统计识别的基本方法——贝叶斯决策
应用贝叶斯决策的前提条件
已知各类别总体的概率分布
已知决策分类的类别数
在已知相关概率(类别先验概率和类条件概率分布)的情况下,特征空间中一个观察量的类别归属问题
几种常用的决策规则
主要学习最小错误率Bayes错误和最小风险决策;了解在更复杂情况下的几种决策规则
讨论决策规则用于模式识别的几个问题
基于最小错误率的贝叶斯决策
从尽量减少错误的角度出发,利用贝叶斯公式得出使错误最小的分类原则
以癌细胞识别的例子引出贝叶斯决策
贝叶斯决策的出发点
癌细胞识别,两类别问题——细胞正常与异常
若仅利用先验概率进行分类
统计的角度得出的两类细胞的出现概率
无法实现正常与异常细胞的分类目的
先验概率提供的信息太少,要结合样本观测信息,为此需要利用类条件概率
贝叶斯公式
p
各类样本的分布情况