III数据处理.docVIP

III 数据处理 通过实验，得到一些测量数据，它们一般需经过数学处理，才能找出其中的规律性，得出简明、正确的结论。 有效数字 1．有效数字的含义 可以从两方面来理解：1）在实验与检定工作中，直接从仪器中读得的读数是有效数字，意思是说这些数字是能保证精确度的，是有意义的，这是从测量误差来理解的有效数字的含义。 也可从数字化整来理解有效数字的含义。化整以后的数字称为有效数字。 表示测量结果的数值，其位数应按测量精度书写，这样所记的数字称为“有效数字”。 有效数字除其末位数字为可疑或不确定外，其余各位数字都是准确的。通常认为所写末位数字上可以有一个或半个单位的误差。因此，用计量仪器测量，在读数时除了读到所用仪器的最小分度外，还应再估计到最小分度的1/10。 2．有效数字规则 在记录、报告和计算测量数据时，必须遵守如下有效数字规则： 在记录测定数据和运算的结果时，只应保留一位可疑数字。记录数字的位数应与所用测量仪器和方法的精度相一致。当有效数字的位数确定之后，它后面的数字应按“四舍六入五双单”的原则取舍。即，有效数字后面一位是4、3、2、1，则舍去；是6、7、8、9，则进1至前位数；有效数字后面位数正好是5，而前面一位数为奇数，则前位数增加1；当前一位数为偶数时则舍弃不计。 示例：27.024, 24.026, 27.0250, 27.035. 取四位有效数字时，分别是 27.02（四舍） 24.03（六入） 27.02（五双舍弃） 27.04（五单进入） 由上可见，最大化整误差是化整后数字的末个数位的半个单位。 有效数字的位数与十进位制单位的变换无关，与小数点的位置无关。例如，用天平称量一物质的质量0.0150g，其中前面两个0不是有效数字，因为它们存在与否只与所用质量单位有关，而与称量精度无关。当取质量的单位为毫克时，记做15.0 mg，前面两个0则没有了，只有最后的一个0，它是有效数字，指示称量的精度，不能任意舍弃。 一物重 15.0kg，三位有效数字。 记作 1.50(104g，三位有效数字。 若第一位数字大于或等于8，则有效数字总位数可以多算一位。如，9.15是三位有效数字，但在运算时可看做是四位有效数字。 在所有计算式中，常数如(、e、1/3等，它们的有效数字可以认为是无限制的，在计算中需要几位就可以写几位。因为有效数字的概念是用于表示测量大小及精密度的数字的。对数学上的纯数字不考虑有效数字的概念。 任一测量数据，其有效数字的最后一位，在位书上应与误差的最后一位对齐。如， 1.35 ( 0.01 正确 1.351 ( 0.01 夸大结果的精度 1.3 ( 0.01 缩小结果的精度 表示误差的数值时，在大多数场合下只取一位有效数字，如±5Pa,±5%；只有在下列情况下，误差可取二位有效数字：1）测定次数很多；2）进行重要的或高精确度的测量；3）所得结果还需进一步计算时，误差方可取两位有效数字，且最多只能取两位有效数字，测量数据也相应多取一位；4）误差的第一个数字小于3，则应取2位。如，测量结果156±1,测量误差为±1，而化整误差为0.5，化整误差是测量误差的1/2，则对总误差影响太大。若误差取二位，为1.2时，测量结果相应地多取一位，成为156.4±1.2，此时化整误差为0.05，化整误差只为测量误差的1/24。 示例：R=V/I，间接法测电阻，得 R=504.3669Ω，测量误差为±0.51Ω,结果应表示为：R=504.4±0.5Ω. 示例：R=V/I，间接法测电阻，得 R=1.043669Ω，测量误差为±0.28Ω,结果应表示为：R=1.04±0.28Ω. 有效数字作加、减运算时，将各位数值对齐，对舍弃的数可先按舍取原则定位，后进行加、减运算。如 21.21 ( 0.2234 + 1.23 20.99 22.7 对于乘、除法运算，所得的积、商的有效数字应以各数值中有效数字位数最少的为标准。如 2.3(0.524=1.2 5.32(2.800=14.9 两位有效数字 三位 两位 三位 四位 三位 在对数计算中，对数尾数的有效数字位数应与对应的真数有效数字的位数相等。如 lg3.256=0.5127 四位 四位有效数字 示例： 5.67 三位有效数字，化整误差为0.005 83200.0 六位有效数字，化整误差为0.05 83200.00 七位有