数值修约.pptxVIP

1 数值修约规则 Rules of rounding off for numerical values 2 3 数值修约定义和目的 数值修约 rounding off for numerical values ： 通过省略原数值的最后若干数字，调整所保留的末位数字，使最后所得到的值最接近原数值的过程。 修约间隔 rounding interval ： 修约值的最小数值单位。 例： 如指定修约间隔为0.1相当于将数值修约到一位小数。 如指定修约间隔为100相当于将数值修约到“百”数位。 注：经数值修约后的数值称为（原数值的）修约值。 4 　两种修约规则：四舍五入修约规则和四舍六入五留双修约规则。 四舍五入修约规则，逢五就进，对于精度要求不高的数据采集，此方法简单方便。但由于“四舍五入”造成“入得多，舍得少”的问题，必然会造成结果的系统偏高，误差偏大，给实际要求较高的数据采集造成一定程度的不便。为了避免这样的状况出现，因此GB/T8170-2008的进舍规则规定为“四舍六入五单双法”。 目的： 数值修约的目的 5 　适用于科学技术与生产活动中测试和计算得出的各种数值。当所得数值需要修约时，应按标准给出的规则进行。 适用范围： 数值修约的目的 6 数值修约规则 1.确定修约间隔 a) 指定修约间隔为10-n（n为正整数）， 或指明将数值修约到n位小数； b) 指定修约间隔为1， 或指明将数值修约到“个”数位； c) 指定修约间隔为10n（n为正整数）， 或指明将数值修约到10n数位，或指明将数值修约到“十” “百” “千”……数位。 7 2.进舍规则（四舍六入五留双） 拟舍弃数字的 最左一位数字 小于5 大于5 等于5 拟舍弃数字的最 左一位数字后 一位 为奇数 无数字或皆为0 所需保留的末位数 为偶数 非0 数值修约规则 注： 例将 1. 234 修约到个位数 则： 拟舍弃数字的最左一位数字为：2 拟舍弃数字的最左一位数字后一位为：3 所需保留的末位数为：1 8 数值修约规则 负数修约：先将它的绝对值按正数的修约法则进行修约，然后在所得值前面加上负号。 不允许连续修约 拟修约数字应在确定修约间隔或指定修约数位后一次修约获得结果，不得多次连续修约。 例如： 修约97.46，修约间隔为1。 正确做法：97.46 --- 97 不正确做法：97.46 ---97.5---98 9 数值修约规则 例： 拟修约数值 修约间隔 修约值 舍弃数字的最左一位数字大于5 -12.65 1 -13 舍弃数字的最左一位数字小于5 12.1498 1 12 拟舍弃数字的最左一位数字为5，且其后有非0数字 10.5002 1 11 12.73507 0.01或10-2 12.74 拟舍弃数字的最左一位数字为5，且其后无数字或皆为0，所保留的末位数为奇数（1,3,5,7,9).进 1 0.35 0.1或10-1 0.4 5500 1000或103 6000 拟舍弃数字的最左一位数字为5，且其后无数字或皆为0，所保留的末位数为偶数（2,4,6,8,0).舍去 2500 1000或103 2000 -2.45 0.1或10-1 -2.4 1.050 0.1或10-1 1.0 10 材料实验室常见修约间隔 要求 举例 参考标准 密度 保留小数点后3位 0.945g/cm3 ISO1183 熔融指数 保留2位有效数字 6.3g/10min ISO1133 应力和 模量 拉伸强度 屈服强度 焊接强度 保留3位有效数字 20.2MPa ISO 527-1993 应变 屈服延长率 断裂延长率 保留2位有效数字 7.2% 12% 熔点 修约到整数位 123℃ ISO 11357 球压硬度 当球压硬度低于250N/mm2，修约至 1 N/mm2 当大于250N/mm2， 修约至10 N/mm2 的倍数 23 N/mm2 270 N/mm2 ISO2039