《实验室数据数值修约规则(共4页).doc》由会员分享,可在线阅读,更多相关《实验室数据数值修约规则(共4页).doc(4页珍藏版)》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、精选优质文档-倾情为你奉上实验室数据数值修约规则1 编制目的为规范和指导实验结果数据修约。2 适用范围 适用于实验室数据数值修约。3 术 语 3.1修约间隔 系确定修约保留位数的一种方式修约间隔的数值一经确定,修约值即应为该数值的整数倍 。 例1:如指定修约间隔为0.1,修约值即应在0.1的整数倍中选取,相当于将数值修约到一位小数。 例2:如指定修约间隔为100,修约值即应在100的整数倍中选取,相当于将数值修约到 “ 百 ” 数位。 3.2有效位数 对没有小数位且以若干个零结尾的数值,从非零数字最左一位向右数得到的位数减去无效零(即仅为定位用的零)的个数;对其他十进位数,从非零数字最左一位向
2、右数而得到的位数,就是有效位数。 例1:35000,若有两个无效零,则为三位有效位数,应写为35010 2 ;若有三个无效零,则为两位有效位数,应写为3510 3 。 例2:3.2,0.32,0.032,0.0032均为两位有效位数;0.0320为三位有效位数。 例3:12.490为五位有效位数;10.00为四位有效位数。 4 确定修约位数的表达方式 4.1指定数位 a. 指定修约间隔为10 n (n为正整数),或指明将数值修约到n位小数; b. 指定修约间隔为1,或指明将数值修约到个数位; c. 指定修约间隔为10 n ,或指明将数值修约到10 n 数位(n为正整数),或指明将数值修约到 “
3、 十 ” , “ 百 ” , “ 千 ” 数位。 4.2指定将数值修约成n位有效位数 5进舍规则 5.1拟舍弃数字的最左一位数字小于5时,则舍去,即保留的各位数字不变。 例1:将12.1498修约到一位小数,得12.1。 例2:将12.1498修约成两位有效位数,得12。 5.2拟舍弃数字的最左一位数字大于5;或者是5,而其后跟有并非全部为0的数字时,则进一,即保留的末位数字加1。 例1:将1268修约到 “ 百 ” 数位,得1310 2 (特定时可写为1300)。 例2:将1268修约成三位有效位数,得12710(特定时可写为1270)。 例3:将10.502修约到个数位,得11。 注:本标
4、准示例中, “ 特定时 ” 的涵义系指修约间隔或有效位数明确时。 5.3拟舍弃数字的最左一位数字为5,而右面无数字或皆为0时,若所保留的末位数字为奇数(1,3,5,7,9)则进一,为偶数(2,4,6,8,0)则舍弃。 例1:修约间隔为0.1(或10 -1 ) 拟修约数值修约值 1.0501.0 0.3500.4 例2:修约间隔为1000(或10 3 ) 拟修约数值修约值 2500210 3 (特定时可写为2000) 3500410 3 (特定时可写为4000) 例3:将下列数字修约成两位有效位数 拟修约数值修约值 0.03250.032 325003210 3 (特定时可写为32000) 5.
5、4负数修约时,先将它的绝对值按上述3.13.3规定进行修约,然后在修约值前面加上负号。 例1:将下列数字修约到 “ 十 ” 数位 拟修约数值修约值 -355-3610(特定时可写为-360) -325-3210(特定时可写为-320) 例2:将下列数字修约成两位有效位数 拟修约数值修约值 -365-3610(特定时可写为-360) -0.0365 0.036 6不许连续修约 6.1拟修约数字应在确定修约位数后一次修约获得结果,而不得多次连续修约。 例如:修约15.4546,修约间隔为1 正确的做法: 15.454615 不正确的做法: 15.454615.45515.4615.516 6.2在
6、具体实施中,有时测试与计算部门先将获得数值按指定的修约位数多一位或几位报出,而后由其他部门判定。为避免产生连续修约的错误,应按下述步骤进行。 6.2.1报出数值最右的非零数字为5时,应在数值后面加 “ () ” 或 “ () ” 或不加符号,以分别表明已进行过舍、进或未舍未进。 如:16.50()表示实际值大于16.50,经修约舍弃成为16.50;16.50()表示实际值小于16.50,经修约进一成为16.50。 6.2.2如果判定报出值需要进行修约,当拟舍弃数字的最左一位数字为5而后面无数字或皆为零时,数值后面有(+)号者进一,数值后面有(-)号者舍去。 例如:将下列数字修约到个数位后进行判定(报出值多留一位到一位小数)。 实测值报出值修约值 15.454615.5(一)15 16.520316.5()17 17.500017.518 (此文档部分内容来源于网络,如有侵权请告知删除,文档可自行编辑修改内容,供参考,感谢您的支持)专心-专注-专业