测量数据处理.doc

Wellmate Instrument Limited Co. 电话: 0086-769-2463548 , 2464548 , 2503862 , 2483548 , 2492548 传真: 0086-769-250386 9地址:广东省东莞市东城大道方中大厦二楼打造惠尔协同商务平台,营造你我共同利益。测量数据处理本节要求(1) 了解有效数字的处理方法。(2) 了解测量数据的三种表示:列表法、图示法和公式法。(3) 了解几种典型曲线采用变量代换,转化为线性回归方程求解的方法。(4) 掌握建立经验公式的步骤,及一元回归的三种算法:端点法、平均选点法和最小二乘法。 有效数字的处理 1 .数字修约规则 1) 小于 5 舍去,末位不变。 2) 大于 5进1 ,在末位增 1。 3) 等于 5 时,取偶数,则当末位是偶数,末位不变;末位是奇数,在末位增 1 例如,将下列数据舍入到小数第二位。 → → → → → → 2 .有效数字若截取得到的近似数其截取或舍入误差的绝对值不超过近似数末位的半个单位, 则该近似数从左边第一个非零数字到最末一位数为止的全部数字,称之为有效数字。例如: 四位有效数字,极限误差≤ 四位有效数字,极限误差≤ × 10 3 二位有效数字,极限误差≤ × 10 3 三位有效数字,极限误差≤ 测量结果( 或读数) 的有效位数应由该测量的不确定度来确定, 即测量结果的最末一位应与不确定度的位数对齐。例如,某物理量的测量结果的值为 ,测量扩展不确定度 U= ,测量结果表示为 ± 。 3 .近似运算法则保留的位数原则上取决于各数中准确度最差的那一项。加法、减法运算:以小数点后位数最少的为准(各项无小数点则以有效位数最少者为准) ,其余各数可多取一位。乘除法、乘方、开方运算: 以有效数字位数最少的数为准, 其余参与运算的数字及结果中的有效数字位数与之相等或多保留一位有效数字。 Wellmate Instrument Limited Co. 电话: 0086-769-2463548 , 2464548 , 2503862 , 2483548 , 2492548 传真: 0086-769-250386 9地址:广东省东莞市东城大道方中大厦二楼打造惠尔协同商务平台,营造你我共同利益。* 测量数据的表示方法 1 .列表法根据测试的目的和内容, 设计出合理的表格, 把测量数据列入其中, 然后再进行其它处理, 就是列表法。如表 3- 12 所示, 列表法简单、方便, 数据易于参考比较, 但要进行深入的分析, 表格就不能胜任了。它对数据变化的趋势不如图解法明了和直观,但列表法是图示法和经验公式法的基础。表 3- 12测量数据表 X2468 10 Y 2 .图示法图示法的最大优点是形象、直观, 从图形中可以很直观地看出函数的变化规律, 如递增或递减、最大值和最小值及是否有周期性变化规律等。但是, 图形只