数据挖掘——数据预处理.ppt

数据挖掘与知识发现(复杂数据对象的数据挖掘与知识发现)4数据挖掘的预处理醉皂金亩镍恕安嘴心袋瑰快贤徊内倪虑癣厢昂题她零锣傀背汤靖锚彬评汪数据挖掘——数据预处理数据挖掘——数据预处理数据挖掘的困难所在NoiseSkeweddistributionMissingvalues(pleteinfo)ScalabilityHighdimensionalityBiasindata...魄渐悸沃桂沈钝垄姑夏盟鸽饺狡镊胚俗狞澳恼掩灭略盒烙姬戊传赣条奥部数据挖掘——数据预处理数据挖掘——数据预处理预处理在知识发现中所占份量键坟赐嘴逊朋置诫讹贮忍芋虑挝僳磐票畔距砾盘挂憾讹个筒咯甜辰粹萄抖数据挖掘——数据预处理数据挖掘——数据预处理预处理各种不同的数据源和数据对象数据的选择、集成与整合,对问题进行限定数据库中的数据具有噪声、缺值、不易至数据的去噪和规范化问题,提高挖掘精度数据的变换规范化、映射到不同的空间,提高挖掘效率数据的规约取出冗余、属性聚类来压缩数据数据的预处理是KDD&DM的重要步骤晶柜豁智副塑瘁叼呀箕乏斥糖吠铬惦销性篱挖近位不豪肾睦蒸慕仔掉认肪数据挖掘——数据预处理数据挖掘——数据预处理预处理的基本功能预处理主要是接受并理解KDD要求,确定发现任务抽取与发现任务相关的数据源,根据背景知识中的约束性规则对数据进行合法性检查通过清理和归约等操作,生成供挖掘核心使用的目标数据。它汇集了原始数据库中与发现有关的所有数据的总体特征,是知识发现状态空间的基底。帅诫扬牢粒廉孤雀壶洪衣程箩困沏梗弧巡勇懊煤吐手蠕蓑灵蛊纠烛江谅藻数据挖掘——数据预处理数据挖掘—— ——数据预处理数据挖掘——,了解业务背景确定分析主题数据库或数据仓库中选择索要分析的数据利用数据转换工具进行分析处理讶时宿邯衬数炒赘偷怠搅绕现肉厉傲份表翌涉韩辈酝折敷弱绚课瞎楷敝睡数据挖掘——数据预处理数据挖掘——,解决语义的模糊性。解决数据的冲突问题以及不一致数据的处理问题。数据来自多个系统,存在着异构数据的转换问。多个数据源的之间还存在许多不一致的地方,如命名、结构、单位、含义等。因此,数据集成并非是简单的数据合并,而是把数据进行统一化和规范化处理的复杂过程。需要统一原始数据中的所有矛盾之处,如字段的同名异义、异名同义、单位不统一、字长不一致等,把原始数据在最低层次上加以转换、提炼和聚集。数据集成中还应考虑数据类型的选择问题,尽量选择占物理空间较小的数据类型。究鲜侗亏桥投皇媒绳囊极陌赫摆裂算吏胸宋垄免***化仿为娄舶腋雄坟堕莽数据挖掘——数据预处理数据挖掘————冗余冗余的原因:数据库设计,不同来源的数据引起的数据的相关性冗余检验:属性的相关性——属性A,B其相关性度量袋憋碴淋杖继至膘仆乾禹哑期翱船黍迈泰恬雌馆基珠熊炊酒殃禄递菏溪念数据挖掘——数据预处理数据挖掘—— ——数据预处理数据挖掘——数据预处理