有效数字和数值的修约运算及极限数值判定.pptVIP

有效数字和数值的修约运算及极限数值判定.ppt

  1. 1、本文档共45页,可阅读全部内容。
  2. 2、有哪些信誉好的足球投注网站(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
  3. 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载
  4. 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
  5. 5、该文档为VIP文档,如果想要下载,成为VIP会员后,下载免费。
  6. 6、成为VIP后,下载本文档将扣除1次下载权益。下载后,不支持退款、换文档。如有疑问请联系我们
  7. 7、成为VIP后,您将拥有八大权益,权益包括:VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
  8. 8、VIP文档为合作方或网友上传,每下载1次, 网站将根据用户上传文档的质量评分、类型等,对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
查看更多

13.65+0.00823+1.633=13.65+0.008+1.633=15.291=15.29第30页,共45页,星期日,2025年,2月5日14.131×0.07654÷0.78=??

一、判定有效数位:相对误差最大/有效位数最少0.78两位有效位数二、其它各数均暂先保留三位有效位数三、结果修约至有效数位第31页,共45页,星期日,2025年,2月5日14.131×0.07654÷0.78=14.1×0.0765÷0.78=1.38=1.4第32页,共45页,星期日,2025年,2月5日有效数字和数值的修约运算及极限数值判定第1页,共45页,星期日,2025年,2月5日习题请判断有效数位①35×103②盐酸氨溴索口服溶液规格100毫升︰0.6克③称定12g,应选用精度为多少的天平,称量范围多少?④RSD=1.42%,规定应2.0%,修约完是多少?第2页,共45页,星期日,2025年,2月5日解决两问题有效数位判断、数值结果修约、运算及判定当标准提出“…称…g”时,应选用什么精度的天平,称样量是否符合规定(称量范围)第3页,共45页,星期日,2025年,2月5日有效位数的判断数值修约规则运算规则极限数值的判定注意事项第4页,共45页,星期日,2025年,2月5日基本概念有效数字系指在检验工作中所能得到有实际意义的数值。其最后一位数字欠准是允许的,这种由可靠数字和最后一位不确定数字组成的数值,即为有效数字。最后一位数字的欠准程度通常只能是上下差1单位。有效数字的定位(数位),是指确定欠准数字的位置。这个位置确定后,其后面的数字均为无效数字。欠准数字的位置可以是十进位的任何数位,用10n来表示:n可以是正整数,如n=1、101=10(十数位),n=2、102=100(百数位),……;n也可以是负数,如n=-1、10-1=0.1(十分位),n=-2、10-2=0.01(百分位),……。

第5页,共45页,星期日,2025年,2月5日基本概念在没有小数位且以若干个零结尾的数值中,有效位数系指从非零数字最左一位向右数得到的位数减去无效零(即仅为定位用的零)的个数。例:35000中若有两个无效零,则为三位有效位数,应写作350×102或3.50×104;若有三个无效零,则为两位有效位数,应写作35×103或3.5×104。在其它十进位数中,有效数字系指从非零数字最左一位向右数而得到的位数。例:3.2、0.32、0.032和0.0032均为两位有效位数0.320为三位有效位数10.00为四位有效位数12.490为五位有效位数第6页,共45页,星期日,2025年,2月5日有效位数可视为无限多位的几种情况:一、非连续型数值(如个数、分数、倍数)是没有欠准数字的,其有效位数可视为无限多位。例如分子式“H2SO4”中的“2”和“4”是个数。二、常数π,e和系数√2等数值。三、含量测定项下“每lml的×××××滴定液(0.1mol/L)”中的“0.1”为名义浓度。四、规格项下的“0.3g”或“1ml︰25mg”中的“0.3”、“1”和“25”为标示量,其有效位数也均为无限多位。在计算中,其有效位数应根据其他数值的最少有效位数而定。第7页,共45页,星期日,2025年,2月5日pH值等对数值,其有效位数是由其小数点后的位数决定的,其整数部分只表明其真数的乘方次数。pH=-lg[浓度值]pH=11.26([H+]=5.5×10-12mol/L)。其有效位数只有两位。第8页,共45页,星期日,2025年,2月5日有效数字的首位数字为8或9时,其有效位数可以多计一位。例:85%三位有效位数115%三位有效位数99.0%四位有效数字101.0%四位有效数字第9页,共45页,星期日,2025年,2月5日基本定义

一、数值修约:通过省略原数值的最后若干位数字,调整所保留的末位数字,使最后所得到的值最接近原数值的过程。经数值修约后的数值称为(原数值的)修约值。二、修约间隔:指修约值的最小数值单位。修约间隔的数值一经确定,修约值即为该数值的整数倍。例1:如指定修约间隔为0.1,修约值应在0.1的整数倍中选取,相当于将数值修约到一位小数。例2:如指定修约间隔为100,修约值应在100的整数倍中选取,相当于将数值修约到“百”数位。第10页,共45页,星期日,2025年,2月5日确定修

您可能关注的文档

文档评论(0)

xiaozhuo2022 + 关注
实名认证
文档贡献者

该用户很懒,什么也没介绍

1亿VIP精品文档

相关文档