有效数字的运算规则97课件.pptx

  1. 1、本文档共12页,可阅读全部内容。
  2. 2、有哪些信誉好的足球投注网站(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
  3. 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载
  4. 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
查看更多

有效数字的运算规则;有效数字的运算规则;例:

2.776+36.5789-0.2397+6.34

=2.78+36.58-0.24+6.34

=45.46;2.乘除法

几个数据相乘或相除时,它们的积或商的有效数字位数的保留必须以各数据中有效数字位数最少(相对误差最大)的数据为准。例:

(0.0325?5.103?60.06)/139.8

=(0.0325?5.10?60.1)/140

=0.0711541071428

=0.0712;例:

;对数据进行乘方或开方运算时,所得结果的有效数字位数的保留与原数据相同;

例:6.252=39.0625=39.1

对数有效数字的位数(小数点后的位数)应与原数据的位数相同。

例:;说明:

1.在乘除运算中,若某一数据的第一位有效数字大于或等于8,其有效数字位数可多算一位

例15.32×0.1232/9.3=0.2023548387096=0.202

2.在分析结果计算中,遇到非测量值,如倍数、分数、常数等可不考虑其有效数字位数(认为有无穷多位),结果有效数字位数由其它数据决定。

;3.分析结果的数据应与技术要求的有效数字位数一致。一般的对于各种误差和偏差的计算,要求保留2位有效数字;定量分析结果(如用百分数表示)保留到小数点后第二位。

例85.27%7.58%0.19%;4.使用计算器计算定量分析结果时,应根据数字修约规则、运算规则进行取舍,不可全部照抄计算器。

5.在混合运算中,有效数字的保留以最后一步计算的规则执行。

例:0.1025×(27.30-25.20)

=0.1025×2.10

=0.215

;6.为了提高计算结果的可靠性,在实际工作中,一般暂时多保留一位,计算后再修约到需要的位数。;(0.0325?5.103?60.06)/139.8

=(0.0325?5.10?60.1)/140

=0.0711541071428

=0.0712;掌握加减法运算结果有效数字位数的保留

掌握乘除法运算结果有效数字位数的保留

文档评论(0)

方世玉 + 关注
实名认证
内容提供者

该用户很懒,什么也没介绍

版权声明书
用户编号:6101050130000123

1亿VIP精品文档

相关文档