利用LabVlEW设计程序实坝数据修约.pdfVIP

学兔兔 ResearchDiscussion 利用LabVlEW设计程序实坝数据修约 ProgrammingImplementofRulesforRounding0ffNumericalValuesinLabVIEW 王一衡 (91663部队，青岛市 266071) WangYiheng (Unit91663ofPLA，Tsingtao266071) 【摘 要】本文在简介有效数字的概念、数据保留位数规则、有效数字正确表示、数字修约规则、数据运算 规则的基础上，研究了在LabVIEW开发环境下设计程序实现数据修约的方法。对从事测量、测试 工程技术人员和程序设计者具有重要参考借鉴价值。 【关键词】有效数字 数据修约 LabVIEW Abstract：Thepaperintroducestheconceptionoftheeffectivenumber,theruleofRoundingoff valuedigit，the expressofthesignificantdigitandtheruleofoperation．Itresearchesthewayoftheprogrammingimplementof urlesforroundingoffnumericalvaluesinLabVIEW ．Ithasagreatvalueofrtheoneswhoworkontestingand measurement． Keywords：EffectiveNumber Roun dingoffNumericalValues LabVIEW 前言 录说明有6位有效数字，最后一位是可疑的。由于分 本随着计算机技术和 自动测量技术 的不断发 析天平只能称准到0．0002g，即称量瓶的实际重量应为 展 ，自动测量系统在各行各业得到了普及和大量应 10．4320±0．0002g，无论计量仪器如何精密，其最后一 用，在其测量过程中必然会产生大量的测量数据 ，并 位数总是估计出来的。因此所谓有效数字就是保存末 要求对这些数据进行处理。数据处理的目的是通过对 一 位不正确数字，其余数字均为正确数字。同时从上 测量所得的一系列测量值进行适当数学运算 ，以便获 面的例子也可以看出有效数字是和仪器的准确程度有 得合理的测量结果。对测量数据进行处理过程中数据 关，即有效数字不仅表明数 目的大小而且也反映出测 修约是重要环节。本文仅就数据修约应用体会和涉及 量的准确度。 到的相关知识点进行介绍。 如果参加计算的数据 的位数取少 了，就会损失 1有效数字的概念 原有的测量准确度并影响计算结果的应有精度；如果 为了取得正确的测量结果，不仅要正确测量， 位数取多了，易使人误认为测量精度很高，且又增加 而且还要正确记录与数据计算。所谓正确记录是指记 了不必要的计算工作量。一个数据的有效位数是该数 录数字的位数。由于数字 的位数不仅表示数字的大 中有效数字的个数，指从该数左方第一个非零数字算 小 ，也反映测量的准确程度。所谓有效数字，就是实 起到最末一个数字 (包括零)的个数，它不取决于小 际能测得的数字 ，应以测量可能达到的精度为依据来 数点的位置。一般而言，对一个数据取其