信息与计算科学毕业论文.doc

-
27
. z.
摘要
信息论是人们在长期通信实践活动中，由通信技术与概率论、随机过程、数理统计等学科相结合而逐步发展起来的一门新兴交叉.
-
27
. z.
This paper introduces the application of information entropy in image processing, summarizes some basic concepts based on the definition of entropy, mutual information. And the information entropy of image processing especially for image segmentation and image registration. Finally realize the information entropy in image registration.
Keywords：Information entropy, Mutual information, Image segmentation,
Image registration
目 录
摘 要...........1
ABSTRACT2
目 录3
1 引言5
信息熵的概念5

单峰性6
对称性7



2 基于熵的互信息理论9



3信息熵在图像分割中的应用11

图像分割的研究现状11
图像分割的方法11

基本粒子群算法12
改进粒子群优化算法13


实验结果及分析16
-
27
. z.

香农熵的概念及性质19
一种信息熵的定义及证明19


二维信息熵阈值法的复杂性分析24
结论及分析25
4信息熵在图像配准中的应用27
图像配准的基本概述27



平移变换29
旋转变换30

总体设计思路和图像配准实现31
直方图33
联合直方图33
灰度级差值技术34
优化搜索办法级结论35
5 结 语37
致38
参考文献39
1 引言
信息熵的概念
1948年，美国科学家香农(C．E．Shannon)发表了一篇著名的论文《通信的数学理论》。他从研究通信系统传输的实质出发，对信息做了科学的定义，并进行了定性和定量的描述。
他指出，信息是事物运动状态或存在方式的不确定性的描述。其通信系统的模型如下所示：
-
27
. z.
信 源
编 码
信 道
信号
解 码
信 宿
干 扰
噪 声
信息的传播
信息的基本作用就是消除人们对事物的不确定性。信息熵是信息论中用于度量信息量的一个概念。假定是随机变量的集合，表示其概率密度，计算此随机变量的信息熵的公式是：
表示一对随机变量的联合密度函数，他们的联合熵可以表示为：
信息熵描述的是信源的不确定性，是信源中所有目标的平均信息量。信息量是信息论的中心概念，将熵作为一个随机事件的不确定性或信息量的量度，它奠定了现代信息论的科学理论基础，如果一条信息是由个字符连成的字符串组成，并且每个字符有种可能，则这条信息就有种不同的排列情况，则可以用度量信息量，但这时的信息量随着消息的长度按指数增加，为了使信息量的度量值按线性增加，Hartley给出了取对数的信息量的定义：
()
由上式可以看出，信息量随着消息的可能性组合增多而增多，如果消息只有一种可能性时即事件为必然事件时，则消息