《数值修约规则与极限数值的表示和判定.ppt》由会员分享，可在线阅读，更多相关《数值修约规则与极限数值的表示和判定.ppt（37页珍藏版）》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、管桩产品检验员培训班管桩产品检验员培训班数值修约规则与极限数值的表示和判定数值修约规则与极限数值的表示和判定GB/T8170-2008GB/T8170-2008国家水泥混凝土制品质量监督检验中心国家水泥混凝土制品质量监督检验中心二二0 0一一0 0年七月年七月数值修约规则数值修约规则-基于基于GB/T8170-2008GB/T8170-2008术语和定义术语和定义数值修约规则数值修约规则近似数运算近似数运算极限数值的判定方法与修约极限数值的判定方法与修约一、术语和定义一、术语和定义1、数值修约、数值修约:通过省略原数值的最后若通过省略原数值的最后若干位数字干位数字,调整所保留的末位数字调整所保
2、留的末位数字,使最使最后所得到的值最接近原数值的过程。后所得到的值最接近原数值的过程。注：经数值修约后的数值称为（原数值注：经数值修约后的数值称为（原数值的）修约值。的）修约值。2 2 2 2、有效数字、有效数字、有效数字、有效数字:若测量结果经修约后的数值，其修约误若测量结果经修约后的数值，其修约误若测量结果经修约后的数值，其修约误若测量结果经修约后的数值，其修约误差绝对值差绝对值差绝对值差绝对值0.50.50.50.5（末位），则该数值称为有效数字，（末位），则该数值称为有效数字，（末位），则该数值称为有效数字，（末位），则该数值称为有效数字，即从左起第一个非零的数字到最末一位数字止的所有
3、即从左起第一个非零的数字到最末一位数字止的所有即从左起第一个非零的数字到最末一位数字止的所有即从左起第一个非零的数字到最末一位数字止的所有数字都是有效数字。数字都是有效数字。数字都是有效数字。数字都是有效数字。(有效数字中只应保留一位欠准有效数字中只应保留一位欠准有效数字中只应保留一位欠准有效数字中只应保留一位欠准数字，因此在记录测量数据时，只有最后一位有效数数字，因此在记录测量数据时，只有最后一位有效数数字，因此在记录测量数据时，只有最后一位有效数数字，因此在记录测量数据时，只有最后一位有效数字是欠准数字。字是欠准数字。字是欠准数字。字是欠准数字。)3 3 3 3、有效位数、有效位数、有效位
4、数、有效位数:对没有小数位且以若干个对没有小数位且以若干个对没有小数位且以若干个对没有小数位且以若干个0 0 0 0结尾的数值，从非结尾的数值，从非结尾的数值，从非结尾的数值，从非0 0 0 0数数数数字最左一位向右数得到的位数减去无效字最左一位向右数得到的位数减去无效字最左一位向右数得到的位数减去无效字最左一位向右数得到的位数减去无效0 0 0 0（即仅为（即仅为（即仅为（即仅为定位用的定位用的定位用的定位用的0 0 0 0）；）；）；）；对其他十进位数，从非对其他十进位数，从非对其他十进位数，从非对其他十进位数，从非0 0 0 0数字最左一位向右数而得数字最左一位向右数而得数字最左一位向右
5、数而得数字最左一位向右数而得到的位数，就是有效位数。到的位数，就是有效位数。到的位数，就是有效位数。到的位数，就是有效位数。例例1 1：3500035000，若有两个无效，若有两个无效0 0，则为三位，则为三位有效位数，应写为有效位数，应写为35010350102 2；若有三个；若有三个无效无效0 0，则为二位有效位数，应写为，则为二位有效位数，应写为351035103 3。例例2 2：0.0025-2 0.0025-2位有效位数；位有效位数；1.001000-7 1.001000-7位有效位数；位有效位数；2.810 2.8107 7-2-2位有效位数；位有效位数；（对于（对于a a1010
6、n n表示的数值，其有效数表示的数值，其有效数字的位数由字的位数由a a中的有效位数决定）中的有效位数决定）4 4、修约间隔：修约值的最小数值单位。、修约间隔：修约值的最小数值单位。注：修约间隔的数值一经确定，修约值即注：修约间隔的数值一经确定，修约值即为该数值的整数倍。为该数值的整数倍。例例1 1、如指定修约间隔为，修约值应在的、如指定修约间隔为，修约值应在的整数倍中选取，相当于将数值修约到整数倍中选取，相当于将数值修约到1 1位位小数。小数。例例2 2、如指定修约间隔为、如指定修约间隔为100100，修约值应在，修约值应在100100的整数倍中选取，相当于将数值修约的整数倍中选取，相当于将
7、数值修约到到“百百”数位。数位。5 5、极限数值：标准（或技术规范）中规、极限数值：标准（或技术规范）中规定考核的以数量形式给出且符合该标定考核的以数量形式给出且符合该标准（或技术规范）要求的指标数值范准（或技术规范）要求的指标数值范围的界限值。围的界限值。二、数值修约规则二、数值修约规则1 1、确定修约间隔、确定修约间隔2 2、进舍规则、进舍规则3 3、不允许连续修约、不允许连续修约4 4、单位修约与单位修约、单位修约与单位修约1 1 、确定修约间隔确定修约间隔指定将数值修约成指定将数值修约成n n位有数位数。位有数位数。指定修约间隔为指定修约间隔为1010-n-n(n(n为正整数为正整数)
8、，或指，或指明将数值修约到明将数值修约到n n位小数。位小数。指定修约间隔为指定修约间隔为1 1，或指明将数值修约到，或指明将数值修约到“个个”数位。数位。指定修约间隔为指定修约间隔为1010n n(n(n为正整数为正整数)，或指明，或指明将数值修约到将数值修约到1010n n数位，或指明将数值数位，或指明将数值修约到修约到“十十”、“百百”、“千千”.数位。数位。“1”“1”间隔修约间隔修约“0.5”0.5”单位修约单位修约指修约间隔为指定数位的单位，即修指修约间隔为指定数位的单位，即修约到指定数位的单位。约到指定数位的单位。“0.2”0.2”单位修约单位修约 指修约间隔为指定数位的单位指修
9、约间隔为指定数位的单位,即修即修约到指定数位的单位。约到指定数位的单位。2 2、进舍规则、进舍规则2.1.2.1.拟舍去的最左一位数字小于拟舍去的最左一位数字小于5 5时，时，则舍去，保留的各位数字不变；则舍去，保留的各位数字不变；例例1 1：将：将12.149812.1498修约成修约成2 2位有效位数，位有效位数，得得1212；将将2 2：将：将12.149812.1498修约到小数点后一位，修约到小数点后一位，得得12.112.1；2.2.2.2.拟舍去数字的最左一位数字大于拟舍去数字的最左一位数字大于5 5时，时，或是或是5 5，而其后跟有并非全部为，而其后跟有并非全部为0 0的数的数
10、字时，则进字时，则进1 1，即保留的末位数字加，即保留的末位数字加1 1；例例1 1：将：将12681268修约到修约到“百百”位数，得位数，得131013102 2（特定时可写成（特定时可写成13001300）；）；特定时特定时指修约间隔或有数位数明指修约间隔或有数位数明确时确时例例2 2：将：将12681268修约成修约成3 3位有效位数，得位有效位数，得12710 12710；例例3 3：将：将10.50210.502修约到个位数，得修约到个位数，得1111。2.3.2.3.拟舍去数字的最左一位数字为拟舍去数字的最左一位数字为5 5，而右面无数字或均为而右面无数字或均为0 0时，若所保留
11、时，若所保留的末位数字为奇数（的末位数字为奇数（1 1，3 3，5 5，7 7，9 9）则进一，为偶数（）则进一，为偶数（2 2，4 4，6 6，8 8，0 0）则舍去。）则舍去。例例1 1：修约间隔为：修约间隔为0.10.1（或（或1010-1-1）时）时拟修约值拟修约值 修约值修约值例例2 2：修约间隔为：修约间隔为10001000（或（或10103 3）拟修约值拟修约值 修约值修约值2500 2 102500 2 103 3（特定时可（特定时可 写为写为20002000）3500 4 103500 4 103 3（特定时可（特定时可 写为写为40004000）例例3:3:将下列数字修约成
12、两位有效位数将下列数字修约成两位有效位数 拟修约值拟修约值 修约值修约值 0.0325 0.032 0.0325 0.032 32500 3210 32500 32103 3（特定时（特定时可写为可写为3200032000）2.4.2.4.负数修约时负数修约时,先将它的绝对值按前述先将它的绝对值按前述的规定进行修约的规定进行修约,然后在所得值前面加然后在所得值前面加上负号上负号.例例3:3:将下列数字修约到十数位将下列数字修约到十数位拟修约值拟修约值 修约值修约值 -355 -36-355 -36 1010（特定时（特定时可写为可写为-360-360）3.3.不得连续修约：拟修约的数字在确定不
13、得连续修约：拟修约的数字在确定修约位数后一次修约获得结果，不得修约位数后一次修约获得结果，不得多次连续修约。多次连续修约。例例1:1:修约修约15.454615.4546，修约间隔，修约间隔1 1，结果为，结果为1515。错误：错误：15.4546 15.4546 15.15.455 455 15.46 15.46 15.5 15.5 16 16例例2:2:将将213.499213.499修约成修约成3 3位有效数时，结位有效数时，结果应为果应为213213。错误：错误：213.499 213.499 0 0 214 214、“0.2”0.2”单位修约规则单位修约规则“0.2”0.2”单位修约
14、是指按指定修约间单位修约是指按指定修约间隔对拟修约的数值单位进行的修约。隔对拟修约的数值单位进行的修约。修约方法：将拟修约数值修约方法：将拟修约数值X X乘以乘以5 5，按，按指定修约间隔对指定修约间隔对5X5X依规定修约，所依规定修约，所得数值再除以得数值再除以5 5。例：将下列数字修约到个数位的单例：将下列数字修约到个数位的单位（或修约间隔为位（或修约间隔为0.2)0.2)例例1 1按按1 1间隔修约为间隔修约为 例例2 2按按1 1间隔修约为间隔修约为例例按按1 1间隔修约为间隔修约为例：将下列数字修约到例：将下列数字修约到“百百”数位的数位的单位（或修约间隔为单位（或修约间隔为2020
15、）例例1 1：830830 8305=4150 8305=4150 按按100100间隔修约为间隔修约为4200/54200/5为为840840例例2 2：842842 8425=4210 8425=4210 按按100100间隔修约为间隔修约为4200/54200/5为为840840例例3 3：-930-930 -9305=-4650,-9305=-4650,按按100100间隔修约为间隔修约为-4600/5=-9204600/5=-920、“0.5”0.5”单位修约规则单位修约规则“0.5”0.5”单位修约是指按指定修约单位修约是指按指定修约间隔对拟修约的数值单位进行的修间隔对拟修约的数值
16、单位进行的修约。约。修约方法：将拟修约数值修约方法：将拟修约数值X X乘以乘以2 2，按指定修约间隔对按指定修约间隔对2X2X依规定修约，依规定修约，所得数值再除以所得数值再除以2 2。例：将下列数字修约到个数位位的单例：将下列数字修约到个数位位的单位修约。位修约。例例1 1：60.252=120.50 60.252=120.50 120 120 例例2 2：60.382=120.76 60.382=120.76 121 121 例：将下列数字修约到例：将下列数字修约到“百百”数位的数位的单位（或修约间隔为单位（或修约间隔为50)50)例：例：930930 9302=1860,9302=186
17、0,按按100100间隔修约为间隔修约为1900/2=9501900/2=950三、近似数运算三、近似数运算 又称数字运算，如对测量结果进行又称数字运算，如对测量结果进行加、减、乘、除、开方、乘方、三角加、减、乘、除、开方、乘方、三角函数运算等。函数运算等。运算时必须注意有效数字。运算时必须注意有效数字。1 1、近似数的加减运算：、近似数的加减运算：近拟数的加减，以小数点后位数最少近拟数的加减，以小数点后位数最少的为准，其余各数均修约成比该数多的为准，其余各数均修约成比该数多一位，计算结果的小数位数与最少的一位，计算结果的小数位数与最少的位数相同。位数相同。28.1+14.54+3.00 28
18、.1+14.54+3.00 (比比“28.1”“28.1”的位数多一位进行修约）的位数多一位进行修约）=45.64 =45.64（计算结果）（计算结果）45.6 45.6（修约成与（修约成与“28.1”“28.1”的相的相同位数）同位数）2 2、近似数的乘除运算、近似数的乘除运算 近似数的乘除运算，以有效位数最少的近似数的乘除运算，以有效位数最少的为准，其余各数修约成比该数多一个为准，其余各数修约成比该数多一个有效数字，计算结果的有效数字位数有效数字，计算结果的有效数字位数与有效位数最少的数相同，而与小数与有效位数最少的数相同，而与小数点位置无关。点位置无关。例例10.764167810.76
19、41678 2.380.76 4.17 10 2.380.76 4.17 104 4 =4.3376498810 =4.3376498810-5-5 4.310 4.310-5-5例例2 2：已知圆半径：已知圆半径R=3.145R=3.145，求周长求周长C C。=19.760664 =19.760664 综合运算综合运算例：例：10104 4解：解：分析分析 先乘除后加减先乘除后加减 2.010 2.0104 4=2.010=2.0104 4+15010+150102 2=2.010=2.0104 4+37510+375102 2 =2.010=2.0104 4+3.7510+3.75104
20、 4=5.7510=5.75104 4 5.810 5.8104 4四、四、极限数值的表示和判定极限数值的表示和判定1 1 1 1、书写极限数值的一般原则、书写极限数值的一般原则、书写极限数值的一般原则、书写极限数值的一般原则标准（或其他技术规范）中规定考核的以数量标准（或其他技术规范）中规定考核的以数量标准（或其他技术规范）中规定考核的以数量标准（或其他技术规范）中规定考核的以数量形式给出的指标或参数等，应当规定极限数形式给出的指标或参数等，应当规定极限数形式给出的指标或参数等，应当规定极限数形式给出的指标或参数等，应当规定极限数值。极限数值表示符合该标准要求的数值范值。极限数值表示符合该标
21、准要求的数值范值。极限数值表示符合该标准要求的数值范值。极限数值表示符合该标准要求的数值范围的界限值，它通过给出最小极限值和（或）围的界限值，它通过给出最小极限值和（或）围的界限值，它通过给出最小极限值和（或）围的界限值，它通过给出最小极限值和（或）最大极限值，或给出基本数值与极限偏差值最大极限值，或给出基本数值与极限偏差值最大极限值，或给出基本数值与极限偏差值最大极限值，或给出基本数值与极限偏差值等方式表达。等方式表达。等方式表达。等方式表达。标准中极限数值的表示形式及书写位数应适当，标准中极限数值的表示形式及书写位数应适当，标准中极限数值的表示形式及书写位数应适当，标准中极限数值的表示形式
22、及书写位数应适当，其有效数字应全部写出。书写位数表示的精其有效数字应全部写出。书写位数表示的精其有效数字应全部写出。书写位数表示的精其有效数字应全部写出。书写位数表示的精确程度，应能保证产品或其他标准化对象应确程度，应能保证产品或其他标准化对象应确程度，应能保证产品或其他标准化对象应确程度，应能保证产品或其他标准化对象应有的性能和质量。有的性能和质量。有的性能和质量。有的性能和质量。2 2 2 2、表达极限数值的基本用语、表达极限数值的基本用语、表达极限数值的基本用语、表达极限数值的基本用语基本用语基本用语基本用语基本用语符号符号符号符号大于大于大于大于A A A AA A A A小于小于小于
23、小于A A A AA A A A大于或等于大于或等于大于或等于大于或等于A A A AA A A A小于或等于小于或等于小于或等于小于或等于A A A AA A A A3 3、测定值或其计算值与标准规定的极限数值、测定值或其计算值与标准规定的极限数值比较方法比较方法3 3、1.1.修约值比较法修约值比较法:将测定值或其计算值进行修约，修约将测定值或其计算值进行修约，修约数位应与规定的极限数值数位一致。数位应与规定的极限数值数位一致。将修约后的数值与规定的极限数值进将修约后的数值与规定的极限数值进行比较，只要超出极限数值规定的范围行比较，只要超出极限数值规定的范围（不论超出程度大小）都判定为不（
24、不论超出程度大小）都判定为不符合要符合要求。求。3 3、2.2.全数值比较法：全数值比较法：将测试所得测定值或计算值不经修约处理将测试所得测定值或计算值不经修约处理（或虽经修约处理，但应标明它是经舍、（或虽经修约处理，但应标明它是经舍、进或未进未舍而得），用该数值与规定的进或未进未舍而得），用该数值与规定的极限数值作比较，只要超出极限数值规定极限数值作比较，只要超出极限数值规定的范围的范围（不论超出程度大小）（不论超出程度大小），都，都判定为判定为不符合要求。不符合要求。这两种方法的结论有时不同这两种方法的结论有时不同,例：例：规定的规定的规定的规定的误差限误差限误差限误差限测试测试测试测试结
25、果结果结果结果全数值全数值全数值全数值比较法比较法比较法比较法修约值修约值修约值修约值比较法比较法比较法比较法8005800580058005805.55805.55805.55805.55805.55(805.55(805.55(805.55(否）否）否）否）806(806(806(806(否）否）否）否）805.45805.45805.45805.45805.45(805.45(805.45(805.45(否）否）否）否）805(805(805(805(是）是）是）是）804.90804.90804.90804.90804.90(804.90(804.90(804.90(是）是）是）是）805(805(805(805(是）是）是）是）805.10805.10805.10805.10805.10(805.10(805.10(805.10(否）否）否）否）805(805(805(805(是）是）是）是）794.45794.45794.45794.45794.45(794.45(794.45(794.45(否）否）否）否）794(794(794(794(否）否）否）否）794.55794.55794.55794.55794.55(794.55(794.55(794.55(否）否）否）否）795(795(795(795(是）是）是）是）