模式识别-贝叶斯决策理论和应用.ppt

IPL
第二章 贝叶斯决策理论
模式识别理论及应用Pattern Recognition - Methods and Application
内容目录
IPL
第二章 贝叶斯决策理论
引言
2
1
3
4
基于判别函数的分类器设计
基于最小错误率的Bayes决策
基于最小风险的Bayes决策
正态分布的最小错误率Bayes决策
讨论
5
6
模式识别与神经网络
引言
数据获取
预处理
特征提取与选择
分类决策
分类器设计
信号空间
特征空间
3
基本概念
模式分类：根据识别对象的观测值确定其类别
样本与样本空间：
类别与类别空间：c个类别（类别数已知）
4
决策
把x分到哪一类最合理？理论基础之一是统计决策理论
决策：是从样本空间S，到决策空间Θ的一个映射，表示为 D: S --> Θ
引言
5
决策准则
引言
评价决策有多种标准，对于同一个问题，采用不同的标准会得到不同意义下“最优”的决策。
Bayes决策常用的准则：
最小错误率准则
最小风险准则
在限定一类错误率条件下使另一类错误率为最小的准则
最小最大决策准则
6
基于判别函数的分类器设计
判别函数 (discriminant function)：相应于每一类定义一个函数，得到一组判别函数gi(x), i = 1,2,…,c
决策区域与决策面(decision region/surface)：
7
8
决策规则(decision rule)
规则表达1
规则表达2
9
分类器设计
分类器是某种由硬件或软件组成的“机器”：
计算c个判别函数gi(x)
最大值选择
MAX
g1
.
.
.
g2
gc
.
.
.
x1
x2
xn
a(x)
判别函数
多类识别问题的Bayes最小错误率决策：gi(x) = P (ωi |x)
10