实验数据处理-20160902.pptVIP

有效数字及其运算 一、有效数字的概念 在分析测试中，为得到准确的结果，不仅要准确地进行各种测量，而且还要正确地记录和计算。分析结果所表达的不单单是试样中待测组分的含量，还反映了测量方法、仪器的准确度。 如：1.0g与1.00g的测量精度分别为±0.1g、±0.01g。 两者有不同含义： 1.0g表示被测物质的质量为1.0±0.1g； 1.00g表示被测物质的质量为1.00±0.01g。 因此，在实验数据的记录和结果的计算中，保留几位数字不是任意的，而是根据测量仪器、分析方法的准确性决定的。这就涉及到有效数字的概念 有效数字是指在实验中实际上能测量到的数字 记录数据和计算结果时究竟应该保留几位数字，须由测量方法和使用仪器的准确程度决定； 同一试样采用不同测量精度的仪器测量，所得数据的有效数字位数不同，其中有效数字位数多的测量更精确 用万分之一分析天平：10.2345g 6位 用精度为±0.01g的天平：10.23g 4位 记录数据和计算结果所保留的有效数字中，只有最后一位是可疑的数字。 有效数字的位数直接与测定的相对误差有关！ 例如：若测得试样的质量为50g，绝对误差可能达到 0.5g，相对误差=0.5/50 若测得试样的质量为50.0g，绝对误差则变为 0.05g，相对误差=0.05/50 所以，50，50.0是不同的实验数据。 和数学中不同！ 二、有效数字位数的确定 在测量准确度范围内，有效数字位数越多，测量越准确。但超过测量准确度范围后，过多的数字没有意义 一些文献中的数字，例如34000，不一定有效数字有5位。例如距离34km，变换单位变成了34000m，单位变换时有效数字位数不变 最好使用科学记数法，例如3.4×104m 有效数字位数的确定原则 1. 记录测量值时必须且只能保留一位不确定的数字 2. 非零数字都是有效数字 3. 非零数字前的0不是有效数字： 0.00268 3位 非零数字之间的0是有效数字： 0.20068 5位 对小数，非零数字后的0是有效数字：0.26800 5位 有效数字位数的确定原则 4. 数字后的0含义不清楚时，最好用指数形式表示： 如整数末位或末几位的0含义不明： 26800 ？ 2.68×104 3位;2.680×104 4位;2.6800×104 5位 5. 常数π、e及倍数、分数的有效数字位数可认为 没有限制 6. 首位数字≥8, 可多计一位有效数字：95.2% 4位 7. 对数的有效数字位数以小数部分计： pH = 10.28 2位 1．修约规则 三、有效数字的运算规则 各测量值的有效数字位数确定之后，就要将它后面多余的数字舍弃。舍弃多余数字的过程，叫做“数字修约”，所遵循的规则称为“数字修约规则” 四舍六入五成双 修约后末位数为偶数 将下列数据修约为四位有效数字 2.4374 2.4376 2.4365 2.4375 2.43651 2.437 2.438 2.436 2.438 2.437 练习 10.1 有效数字 一次修约到位，禁止分次修约 注意 4.146 4.1 4.15 4.2 × 2位 加减运算：以各项中绝对误差最大的数为准，和或差只保留一位可疑数字，先修约后运算；也可以多保留一位数字，先运算再对结果进行修约。 32.1 416.9 ＋ 3.235 – 123 35.335 35.3 293.9 294 2．运算规则 有效数字的位数以小数点后位数最少的数据为准！ 在大量数据的运算中，为使误差不迅速积累， 对参加运算的数据可以多保留一位有效数字。 待运算完成后再进行舍入； (2) 乘除运算：以相对误差最大的数为准，积或商 只保留一位可疑数字，即按有效数字位数最少 的数进行修约和计算。 计算：0.0235 × 20.03 ÷3.1816