学习向量量化网络.ppt

学****向量量化网络学****向量量化网络 Learnig Vector works Learnig Vector works works works 演讲人:吴泽光演讲人:吴泽光目录概述向量量化 LVQ 网络结构与工作原理 LVQ 网络的学****算法及其在 MATLAB 上的实现 ( Learnig Vector Quantization , LVQ )网络: ?(1)在竞争网络结构基础上提出的; ?(2)将竞争学****思想与有监督学****算法结合在一起; ?(3)在网络学****过程中,通过教师信号对输入样本的分配类别进行规定; ?(4)克服了自组织网络采用无监督学****算法带来的缺乏分类信息的弱点。 ?在信号处理领域,量化是针对标量进行的,将信号的连续取值近似为有限多个或较少的离散值的过程。?向量量化是对标量量化的扩展,适用于高维数据。?向量量化的思路:将高维输入空间分成若干不同区域,对每个区域确定一个中心向量作为聚类中心,与其处于同一区域的输入向量可作为该中心向量来代表,从而形成以各中心向量为聚类中心的点集。 ?自适应解决模式分类问题的步骤: 第一步:自组织映射——起聚类的作用,但不能直接分类或识别; 第二步:学****向量量化——采用有监督方法,在训练中加入教师信号作为分类信息对权值进行细调,并对输出神经元预先指定其类型。 网络结构与工作原理? LVQ 网络结构 网络结构与工作原理?组成:输入层神经元、竞争层神经元和输出层神经元?输入层:有 n个神经元接受输入向量,与竞争层之间完全连接; ?竞争层:有 m个神经元,分为若干组并呈一维线阵排列?输入层:每个神经元只与竞争层中的一组神经元连接,连接权值固定为 1. 网络结构与工作原理? LVQ 网络工作原理 (1) 在LVQ 网络的训练过程中,输入层和竞争层之间的连接权值被逐渐调整为聚类中心。 (2) 当一个输入样本被送到 LVQ 网时,竞争层的神经元通过胜者为王竞争学****规则产生获胜神经元,容许其输出为 1,而其他神经元输出为 0. (3) 与获胜神经元所在组相连接的输出神经元,其输出也为 1,其他的输出为 0,从而给出当前输入样本的模式类。?子类:竞争层学****得到的类目标类:输出层学****得到的类 网络结构与工作原理? LVQ 网络各层的数学描述: 输入向量 X =(x 1,x 2,…,x n) T; 竞争层的输出 Y =(y 1,y 2,…,y m) T ,y i∈{0,1} , i=1,2 ,…, M; 输出层的输出 O =(o 1,o j,…,o l) T; 网络的期望输出 d =(d 1,d 2,…,d l) T; 输入层到竞争层之间的权值矩阵 W 1 =(W 1 1,W 2 1,…,W j 1,…,W M 1) 其中列向量 W j 1为隐层第 j个神经元对应的权值向量;