误差理论及数据处理_1资料.ppt

二、数据处理 1、有效数字和数值修约 （2）数据的原始记录 由于原始记录不合理致使数据的准确度下降一个数量级。但也不可能任意增加有效数字的位数。如前例记成12.340则是明显失真，因为不可能估计出两位数字。原始记录的有效数字位数，即不可少，也不可多。记取的原则是根据仪器、仪表指示的最小分度值如实记录并允许增加一位估计数字。 二、数据处理 1、有效数字和数值修约 （2）数据的原始记录 实验室通用的计量仪表可记取的位数如下： 万分之一天平 小数点后第四位即万分位。 上皿天平 小数点后第二位即百分位。 分光光度计 吸收值记到小数点后第三位即千 分位。 玻璃量器记取的有效数字位数须根据量器的允许误差和读数误差决定。 二、数据处理 1、有效数字和数值修约 （2）数据的原始记录 如：一等无分度吸管（移液管）2～50ml的容量记取的准确容量应为保留小数点后两位，100ml的记取小数点后一位； 一等量入式量瓶，容量10～50ml的记取准确容量应为保留小数点后两位， 100～2 000ml 的应为保留小数点后一位。 在一系列操作中，使用多种计量仪器时，有效数字以最少的一种计量仪器的位数表示。 二、数据处理 1、有效数字和数值修约 （3）表示精密度的有效数字根据分析方法和待测物的浓度不同，一般只取1～2位有效数字。 （4）分析结果有效数字所能达到的位数不能超过方法最低检测质量浓度的有效位数所能达到的位数。例如，一个方法的最低检测质量浓度为0.02mg/L，则分析结果报0.088mg/L就不合理，应报0.09mg/L。 二、数据处理 1、有效数字和数值修约 （5）校准曲线相关系数只舍不入，保留到小数点后出现非9的一位，如0.999 89时取值为0.999 8。如果小数点后都是9时，最多保留小数点后4位。校准曲线斜率b的有效位数，应与自变量x的有效数字位数相等，或多比x多保留一位。截距a的最后一位数，则和因变量y数值的最后一位取齐，或最多比y多保留一位数。 二、数据处理 1、有效数字和数值修约 （6）近似计算规则 为了确保最终结果的数值中只包含有效数字（定位的“0”例外），在运算中要遵守下列原则： ①加减运算 最终计算结果中保留的小数点有效位数，应与参加运算的数值中小数位数最少者相同。 例：11.14＋5.912=17.052 25→17.05 11.14－5.912 25＝5.227 75→5.23 上例最终结果只能保留两位小数，因为11.14的末位数字4 本身就不可信，其后的数字则更不可信。 二、数据处理 （6）近似计算规则 ②乘除运算 得数经修约后，保留的有效数字位数应与参与运算的几个数值中有效数字位数最少者相同。 ③对数运算 对数的有效数字位数应和原数（真数）的相同。 ④平方、立方、开方计算结果的有效数字位数应和原数的相同。 ⑤π、е等的有效位数，须参照与之相关的数据决定保留的位数。 二、数据处理 （6）近似计算规则 ⑥来自一个正态总体的一组数据，多于4个时，其平均值的有效数字位数可比原数的增加一位。 ⑦用于表示方法或分析结果精密度的标准差，其有效数字的位数一般只取一位，当测定次数很多时可取两位，且最多只能取两位。 二、数据处理 （6）近似计算规则 ⑧报告分析结果有效数字位数，应根据分析方法的精密度即标准差的大小决定。通常可取四分之一个标准差的首数所在位数，应为分析结果的尾数。例如某一测定结果为25.352，标准差为1.4，四分之一标准差为0.35，其首位数字所在数位是十分位，即定为该结果的末位，即报为25.4。 二、数据处理 （7）数值修约 数值修约原则：四舍六入五留双。五前面为奇数的，五往前进一；五前面为偶数的，五后面完全为零的五则舍去，五前面的双数留下；五后面不完全为零的五就往前进一。修约时须一次性修约出结果，不得连续进行修约。 二、数据处理 2、异常值的统计检验 一组（群）正常的测定数据，应是来自具有一定分布的同一总体；若分析条件发生显著变化，或在实验操作中出现过失，将产生于正常数据有显著性差别的数据，此类数据称为离群数据或异常值。 仅怀疑某一数据可能会歪曲测定结果，但尚未经过检验判定为异常值时，数据为可疑值。 二、数据处理 2、异常值的统计检验 剔除离群数据，会使测定结果更客观；若仅从良好愿望出发，任意删去一些表观差异较大并非离群数据，虽由此得到认为满意的数据，但并不符合客观实际。因此，对可疑数据的取舍，必须参照下述原则处理。 ①仔细回顾和复查产生可疑值的试验过程，如果是过失误差，则舍弃。 ②如果未发现过失，则要按统计程序