技能培训中心 有效数字的保留及修约 幻灯片 - 72有效数字的保留及修约.pptxVIP

有效数字的保留及修约 主讲：袁超 2 概念 有效数字的位数可反映试验的精度或表示所用试验仪表的精度， 我们把通过直读获得的准确数字叫做可靠数字；把通过估读得到的那部分数字叫做存疑数字。 有效数字的保留及修约 3 3.12mm 1.2865g 1.23ml 可靠数字 存疑数字 有效数字的读取 有效数字的保留及修约 4 有效数字是指在一个数中，从该数的第一个非零数字起，直到末尾数字止的数字称为有效数字，数据中小数点的位置不影响有效数字的位数。 例如： 数字 有效位数 1.23 3位 0.0123 3位 12.03 4位 12.30 4位 数字0是否是有效数字，取决于它在数据中的位置。 一般第一个非0数字前的数字都不是有效数字； 而第一个非0数后的数字都是有效数字。 有效数字的运算 有效数字的保留及修约 加、减运算 乘、除运算 乘方、开方运算 11.96 10.2 + 0.003 ————— 22.163 小数点后有2位 小数点后有1位 小数点后有3位 修约后 小数点后有1位 22.2 12.6 9.81 × 0.050 ———— 6.1803 有效数字3位 有效数字3位 有效数字2位 修约后 有效数字2位 6.2   有效数字2位 有效数字3位 概念 有效数字的保留及修约 6 ln6.84=1.92 lg0.00004=-4 对数运算 有效数字3位 在4个以上数的平均值计算中，平均值的有效数字可增加一位。 所有取自手册上的数据，其有效数字位数按实际需要取，但原始数据如有限制，应服从原始数据。 一些常数的有效数字的位数可以认为是无限制的，例如圆周率π，1/3等，可以根据需要取有效数字 一般在食品厂设计等工程计算中，取2-3位有效数字就足够精确了，只有在少数情况下，需要取到4位有效数字。 有效数字的修约规则 有效数字的保留及修约 7 修约规则 样例 被修约的数字小于5时，该数字舍去； 3.1242→3.12 被修约的数字大于5时，则进位； 3.1263→3.13 被修约的数字等于5时，要看5前面的数字，若是奇数则进位， 3.1350→3.14 被修约的数字等于5时，若是偶数则将5舍掉 3.1250→3.12 若5的后面还有不为“0”的任何数，则此时无论5的前面是奇数还是偶数，均应进位。 3.1251→3.13 3.1252→3.13 四舍六入五成双 注意事项 有效数字的保留及修约 8 1.在计算有效数字位数时，如果第一位数字等于或大于8，则可以多计一位。 例如9.99，则计有效数字位数为4。 2.在进行加减运算过程中应采取“先计算、后对齐”的方式进行修约，更方便、简单，减少精确度的损失。 3.如果有多位数字要舍去，不能从最后一位数字开始连续进位进行取舍。 4.由于pH为氢离子浓度的负对数值，所以pH的小数部分才为有效数字。 谢 谢 9