极限数值表示与数值修约规则课件.ppt

1、2022-10-291数值修约规则与极限数值的表示和判定数值修约规则与极限数值的表示和判定GB/T 8170200822022-10-29n 1 范围范围n适用于科学技术与生产活动中试验测定和计算得出适用于科学技术与生产活动中试验测定和计算得出的各种数值。当所得数值需要修约时，应按本标准的各种数值。当所得数值需要修约时，应按本标准给出的规则进行。给出的规则进行。n适用于各种标准或其他技术规范的编写和对测试结适用于各种标准或其他技术规范的编写和对测试结果的判定。果的判定。32022-10-29n2 术语和定义术语和定义n2.1n数值修约数值修约 rounding off for numerica

2、l valuesn 通过省略原数值的最后若干数字，调整所保留通过省略原数值的最后若干数字，调整所保留的末位数字，使最后所得到的值最接近原数值的的末位数字，使最后所得到的值最接近原数值的过程。过程。n 注：经数值修约后的数值称为（原数值的）修注：经数值修约后的数值称为（原数值的）修约值。约值。42022-10-29n2.2 修约间隔修约间隔 rounding intervaln 修约值的最小数值单位。修约值的最小数值单位。n注注:修约间隔的数值一经确定，修约值即应为该数修约间隔的数值一经确定，修约值即应为该数值的整数倍。值的整数倍。n例例l：如指定修约间隔为：如指定修约间隔为0.l，修约值应在，

3、修约值应在0.1的整的整数倍中选取，相当于将数值修约到一位小数。数倍中选取，相当于将数值修约到一位小数。n例例2：如指定修约间隔为：如指定修约间隔为100，修约值应在，修约值应在100的的整数倍中选取，相当于将数值修约到整数倍中选取，相当于将数值修约到“百百”数位。数位。52022-10-29n3 数值修约规则数值修约规则n3.1 确定修约间隔确定修约间隔n指定修约间隔为指定修约间隔为10-n（n为正整数），或指明将数值修约到为正整数），或指明将数值修约到n位位小数；小数；n指定修约间隔为指定修约间隔为1，或指明将数值修约到，或指明将数值修约到“1”数位；数位；n指定修约间隔为指定修约间隔为1

4、0n（n为正整数），或指明将数值修约到为正整数），或指明将数值修约到10n数位，或指明将数值修约到数位，或指明将数值修约到“十十”、“百百”、“千千”数位。数位。62022-10-29n3.2 进舍规则进舍规则四舍六入五考虑四舍六入五考虑五后非零则进一五后非零则进一五后皆零视奇偶五后皆零视奇偶五前为偶应舍去五前为偶应舍去五前为奇则进五前为奇则进一一不论数字多少不论数字多少位位都要一次修约成都要一次修约成72022-10-29进舍规则进舍规则n3.2.1 拟舍弃数字的最左一位数字小于拟舍弃数字的最左一位数字小于5，则舍去，保留其余各位数字不变。则舍去，保留其余各位数字不变。n例：例：将将12.1

5、498修约到个数位，得修约到个数位，得12；将；将12.1 498修约到一位小数，得修约到一位小数，得12.1。82022-10-29n3.2.2 拟舍弃数字的最左一位数字大于拟舍弃数字的最左一位数字大于5；则进一，；则进一，即保留数字的末位数字加即保留数字的末位数字加1。n例：例：将将1 268修约到修约到“百百”数位，得数位，得13102（特定（特定时可写为时可写为1 300）。）。n注注:本标准示例中本标准示例中,“特定场合特定场合”系指修约间隔明确系指修约间隔明确时。时。92022-10-29n3.2.3 拟舍弃数字的最后一位数字是拟舍弃数字的最后一位数字是5，且其后，且其后有非有非0

6、数字时进一，即保留数字的末位数字加数字时进一，即保留数字的末位数字加1.n例：例：将将10.500 2修约到个数位，得修约到个数位，得11。102022-10-29n3.2.4 3.2.4 拟舍弃数字的最左一位数字为拟舍弃数字的最左一位数字为5 5，且其后无数字或皆为，且其后无数字或皆为0 0时，时，若所保留的末位数字为奇数若所保留的末位数字为奇数(1,3,5,7,9(1,3,5,7,9）则进一，即保留数字的末）则进一，即保留数字的末位数字加位数字加1 1；若所保留的末位数字为偶数（；若所保留的末位数字为偶数（2 2，4 4，6 6，8 8，0 0）则舍去。）则舍去。n例例l l：修约间隔为：

7、修约间隔为0.10.1（或（或1010-1-1)n拟修约数值拟修约数值 修约值修约值n 1.050 101.050 101010-1-1（特定场合可写成为（特定场合可写成为1.01.0）0.350 40.350 41010-1-1（特定场合可写成为（特定场合可写成为0.40.4）n例例2 2：修约间隔为：修约间隔为10001000（或（或10103 3)n拟修约数值拟修约数值 修约值修约值n 2500 22500 210103 3（特定场合可写为（特定场合可写为2000)2000)n 3500 4 3500 410103 3（特定场合可写为（特定场合可写为4000)4000)112022-10

8、-293.2.5 负数修约时，先将它的绝对值按负数修约时，先将它的绝对值按3.2.1-3.2.4规定进行修规定进行修约，然后在修约值前面加上负号。约，然后在修约值前面加上负号。n例例l：将下列数字修约到：将下列数字修约到“十十”数位：数位：n拟修约数值拟修约数值 修约值修约值 -355 -3610（特定时可写为（特定时可写为-360)-325 -3210（特定时可写为（特定时可写为-320)n例例2：将下列数字修约到三位小数：将下列数字修约到三位小数,即修约间隔为即修约间隔为10-3n拟修约数值拟修约数值 修约值修约值 -0.0365 -3610-3（特定时可写为（特定时可写为-0.036)1

9、22022-10-29n3.3 不允许连续修约不允许连续修约n3.3.1 拟修约数字应在确定修约间隔或指定修约数位后一次拟修约数字应在确定修约间隔或指定修约数位后一次修约获得结果，不得多次按修约获得结果，不得多次按3.2规则连续修约。规则连续修约。n例例1：修约：修约97.46，修约间隔为，修约间隔为1。n 正确的做法：正确的做法：97.4697;n 不正确的做法：不正确的做法：97.4697.598。n例例2：修约：修约15.4546，修约间隔为，修约间隔为1。n 正确的做法：正确的做法：15.454615；n 不正确的做法：不正确的做法：15.454615.45515.4615.516。1

10、32022-10-29n3.3.2 在具体实施中，有时测试与计算部门先将在具体实施中，有时测试与计算部门先将获得数值按指定的修约数位多一位或几位报出，获得数值按指定的修约数位多一位或几位报出，而后由其他部门判定。为避免产生连续修约的错而后由其他部门判定。为避免产生连续修约的错误，应按下述步骤进行。误，应按下述步骤进行。142022-10-29n3.3.2.1 报出数值最右的非零数字为报出数值最右的非零数字为5时，应在数时，应在数值右上角加值右上角加“+”或或“-”或不加符号，分别表明已或不加符号，分别表明已进行过舍，进或未舍未进。进行过舍，进或未舍未进。n例：例：16.50（+）表示实际值大于

11、）表示实际值大于16.50，经修约，经修约舍弃成为舍弃成为16.50；16.50（-）表示实际值小于）表示实际值小于16.50，经修约进一成为，经修约进一成为16.50。152022-10-29n3.3.2.2 如对报出值需要进行修约，当拟舍弃数如对报出值需要进行修约，当拟舍弃数字的最左一位数字为字的最左一位数字为5,且其后无数字或皆为零时，且其后无数字或皆为零时，数值右上角有数值右上角有“+”者进一，有者进一，有“-”者舍去，其他者舍去，其他仍按第仍按第3.2的规则进行。的规则进行。162022-10-29n例：将下列数字修约到个数位（报出值多留一位例：将下列数字修约到个数位（报出值多留一位

12、至一位小数）。至一位小数）。n 实测值实测值 报出值报出值 修约值修约值 n 15.4546 15.5-15n 16.5203 16.5+17n 17.5000 17.5 18n -15.4546 -15.5-15n -16.5203 -16.5+-17172022-10-29n3.4 0.5单位修约与单位修约与0.2单位修约单位修约n在对数值进标行修约时在对数值进标行修约时,若有必要若有必要,也可采用也可采用0.5单单位修约或位修约或0.2单位修约单位修约.182022-10-29n3.4.1 0.5单位修约单位修约(半个单位修约半个单位修约)n0.5单位修约是指定修约间隔对拟修约的数值单位

13、修约是指定修约间隔对拟修约的数值0.5单位进行的修约单位进行的修约.n0.5单位修约方法如下单位修约方法如下:将拟修约数值将拟修约数值X乘以乘以2,按按指定修约间隔对指定修约间隔对2X依依3.2的规定修约的规定修约,所得数值所得数值（2X修约值）再除以修约值）再除以2.192022-10-29n例：将下列数字修约到例：将下列数字修约到“个个”数位的数位的0.5单位修约。单位修约。n拟修约数值拟修约数值X X2 2X修约值修约值 X修约值修约值n60.25 120.50 120 60.0n60.38 120.76 121 60.5n-60.75 -121.50 -122 -61.0n60.28

14、120.56 121 60.5202022-10-29n3.4.2 0.2单位修约单位修约n0.2单位修约是指按指定修约间隔对拟修约的数值，单位修约是指按指定修约间隔对拟修约的数值，0.2单位进行的修约。单位进行的修约。n0.2单位修约方法如下：将拟修约数值单位修约方法如下：将拟修约数值X乘以乘以5，按，按指定修约间隔对指定修约间隔对5X依第依第3章规则修约，所得数值章规则修约，所得数值（5X修约值）再除以修约值）再除以5。212022-10-29n例：将下列数字修约到例：将下列数字修约到“百百”数位的数位的0.2单位修约。单位修约。n拟修约数值拟修约数值X 5X 5X修约值修约值 X修约值修

15、约值n 830 4150 4200 840n 842 4210 4200 840n-930 -4650 -4600 -920n 832 4160 4200 840222022-10-29n补充：近似数运算补充：近似数运算n加、减运算加、减运算n 如果参与运算的数不超过如果参与运算的数不超过10个，运算时以各数中末位的个，运算时以各数中末位的数量级最大的数为准，其余的数均比它多保留一位，多余位数量级最大的数为准，其余的数均比它多保留一位，多余位数应舍去。计算结果的末位的数量级，应与参与运算的数中数应舍去。计算结果的末位的数量级，应与参与运算的数中末位的数量级最大的那个数相同。若计算结果尚需参与下

16、一末位的数量级最大的那个数相同。若计算结果尚需参与下一步运算，则可多保留一位。步运算，则可多保留一位。n例如：例如：n18.3+1.4546+0.87618.3+1.45+0.88=20.63 20.6n计算结果为计算结果为20.6。若尚需参与下一步运算，则取。若尚需参与下一步运算，则取20.63。232022-10-29n乘、除（或乘方、开方）运算乘、除（或乘方、开方）运算n 在进行数的乘除运算时，以有效数字位数最少的那个数在进行数的乘除运算时，以有效数字位数最少的那个数为准，其余的数的有效数字均比它多保留一位。运算结果为准，其余的数的有效数字均比它多保留一位。运算结果（积或商）的有效数字位

17、数，应与参与运算的数中有效数字（积或商）的有效数字位数，应与参与运算的数中有效数字位数最少的那个数相同。若其计算结果尚需参与下一步运算，位数最少的那个数相同。若其计算结果尚需参与下一步运算，则有效数字可多取一位。则有效数字可多取一位。n例如：例如：n1.11.10.32680.32680.103001.10.103001.10.3270.3270.103=0.03700.0370.103=0.03700.037n计算结果为计算结果为0.0370.037。若需参与下一步运算，则取。若需参与下一步运算，则取0.03700.0370。n乘方、开方运算类同。乘方、开方运算类同。242022-10-29

18、252022-10-294 极限数值的表示和判定极限数值的表示和判定n4.1.2 标准中极限数值的表示形式及书写标准中极限数值的表示形式及书写位数应适当位数应适当，其，其有效数字应有效数字应全部写出全部写出。位数应适当：在极限数值的右侧位数不应超过所用仪器读出的位数。位数应适当：在极限数值的右侧位数不应超过所用仪器读出的位数。例如：拉力仪的最小读数例如：拉力仪的最小读数0.1N，不得规定钢丝的抗拉强度应不小于，不得规定钢丝的抗拉强度应不小于600.00N，1、如果规定以测量结果的全数值与要求相比较，此时读不出全数值；、如果规定以测量结果的全数值与要求相比较，此时读不出全数值；2、如果规定以测量

19、结果的修约值与要求相比较，此时已无法进行修约；、如果规定以测量结果的修约值与要求相比较，此时已无法进行修约；只能是：此规定是错误的。只能是：此规定是错误的。可以规定钢丝的抗拉强度应不小于可以规定钢丝的抗拉强度应不小于600N；262022-10-29有效数字应全部写出有效数字应全部写出例：钢丝的抗拉强度不得低于例：钢丝的抗拉强度不得低于600牛顿与不得低于牛顿与不得低于600.0牛顿牛顿不同。不同。第一个不同：第一个不同：对计量仪器的分辨力要求不同。对计量仪器的分辨力要求不同。第二个不同：第二个不同：设测得值为设测得值为599.61牛顿，规定用修约值比较，牛顿，规定用修约值比较，若要求不得低于

20、若要求不得低于600牛顿，将实测值修约为牛顿，将实测值修约为600牛顿，判合牛顿，判合格；格；若要求不得低于若要求不得低于600.0牛顿，将实测值修约为牛顿，将实测值修约为599.6牛顿，判牛顿，判不合格；不合格；272022-10-294.2表示极限数值的用语表示极限数值的用语4.2.1.1 表达极限数值的基本用语及符号表达极限数值的基本用语及符号大于大于A A 多于多于A 高于高于A小于小于A A 少于少于A 低于低于A大于或等于大于或等于A A 不小于不小于A 不低于不低于A 不少于不少于A 小于或等于小于或等于A A 不大于不大于A 不多于不多于A 不高于不高于A年满年满18岁岁(包括

21、包括18岁生日当天）应承担刑事责任。岁生日当天）应承担刑事责任。年满年满60岁岁(不包括生日当月）办理退休手续，不再发工资，领取退休金。不包括生日当月）办理退休手续，不再发工资，领取退休金。282022-10-294.2.1.2 基本用语组合基本用语组合大于或等于大于或等于A且小于或等于且小于或等于B 从从A到到B AXB大于大于A且小于或等于且小于或等于B 超过超过A到到B A XB大于或等于大于或等于A且小于且小于B 至少至少A 不足不足B A XB 大于大于A且小于且小于B 超过超过A不足不足B AXB 顺序：顺序：单侧无限区间时，极限值写在右侧。单侧无限区间时，极限值写在右侧。双侧有限

22、区间时，先写小，后写大，例如：双侧有限区间时，先写小，后写大，例如：AXB292022-10-294.2.2 带有极限偏差值的数值带有极限偏差值的数值4.2.2.1 基本数值基本数值A带有绝对极限上偏差值带有绝对极限上偏差值 和绝对极限下偏差值和绝对极限下偏差值 指从指从 到到 符合要求符合要求,记为记为 例例1：mm，指从，指从79mm到到82mm符合要求。符合要求。对基本数值对基本数值A，带有极限上偏差值，带有极限上偏差值 和（或）极限下偏差值和（或）极限下偏差值 若观测值若观测值X等于等于 和（或）和（或）不符合要求，则应附加括号，写成不符合要求，则应附加括号，写成 （不含（不含 和和

23、）或）或 （不含（不含 ）、）、（不含（不含 ）。）。例例2：（不含（不含2）mm，指从，指从79mm到接近但不足到接近但不足82mm符合要求。符合要求。例例3：（不含（不含1）mm，指超过，指超过79mm到到82mm符合要求。符合要求。例例4：（不含（不含2和和1）mm，指超过，指超过79mm到接近但不足到接近但不足82mm符合要求。符合要求。21801b2b1Ab2Ab12bbA1b2b12bbA1b12bbA2b2180218021801Ab2Ab1b2b12bbA302022-10-292180例例5：（不含（不含2和和1）mm，指超过，指超过79mm到接近但到接近但不足不足82mm符

24、合要求。符合要求。不写成不写成 （不含（不含1和和2）mm注：注：mm，与指从，与指从79mm到到82mm符合要求符合要求 mm，与指从，与指从79mm到到82mm符合要求符合要求两者的区别两者的区别1、对设计人员前者有目标值，而后者没有目标值。、对设计人员前者有目标值，而后者没有目标值。2、对检测人员（判断是否合格）两者没有区别。、对检测人员（判断是否合格）两者没有区别。7982 218021802180312022-10-294.2.2.1 基本数值基本数值A带有绝对极限上偏差值和绝对极限下偏差值，指从到符带有绝对极限上偏差值和绝对极限下偏差值，指从到符合要求合要求,记为记为 。注：当注：

25、当b1=b2=b时，时，可简记为可简记为 。正确表示正确表示 错误表示错误表示例例1：mm，指从，指从79mm到到81mm符合要求。符合要求。例例2:（不含（不含1）mm，指超过，指超过79mm到不足到不足81mm符合要求。符合要求。例例3:（不含（不含+1）mm，指从，指从79mm到不足到不足81mm符合要求。符合要求。例例4:（不含（不含-1）mm，指超过，指超过79mm到到81mm符合要求。符合要求。0.510012+b-bAAb0.50.51001000.512+b-bA1180118011801180322022-10-29对于对于 可简写为可简写为 ，对于对于 可简写为可简写为 ，

26、对于对于 可简写为可简写为 ，不要写为，不要写为018018020bA2bA2AbA 7980 2802080280332022-10-294.2.2.2基本数值基本数值A带有相对极限上偏差值带有相对极限上偏差值 和相对极限下偏和相对极限下偏差值差值 ，指实测值或其计算值，指实测值或其计算值X对于对于A的相对偏差值的相对偏差值从从 到到 符合要求，记为符合要求，记为 。注：当注：当 时，时，可记为可记为 。例例1：指实测值或其计算值指实测值或其计算值 x,对于对于80 的相对偏差值的相对偏差值 从从-1%到到+2%符合要求。符合要求。例例2：（不含（不含1）指实测值或其计算值指实测值或其计算值

27、 x,对于对于80 的相对偏差值的相对偏差值 超过超过-1%到到+2%符合要求。符合要求。1%b(80)/80 x2%b()/XAA1%b2%b12%bbA12bbb%bbA(1%)Ab2180%2180%(80)/80 x342022-10-29例例3：（不含（不含2）指实测值或其计算值）指实测值或其计算值 x,对于对于80 的相对偏差的相对偏差 值值。从。从-1%到接近但不足到接近但不足+2%符合要求。符合要求。例例4：（不含（不含1和和2）指实测值或其计指实测值或其计算值算值 x,对于对于80 的相对偏差值的相对偏差值 超过超过-1%到不足到不足+2%符合要求。符合要求。(80)/80

28、x2180%2180%(80)/80 x352022-10-294.3 测定值或计算值与标准规定的极限数值作比较测定值或计算值与标准规定的极限数值作比较的方法的方法4.3.1.1 极限数值的判定方法极限数值的判定方法 判断检验数值是否符合标准要求时，应将判断检验数值是否符合标准要求时，应将检验所得的测定值与与标准规定的极限数检验所得的测定值与与标准规定的极限数值相比较。值相比较。比较的方法有两种比较的方法有两种:全数值比较法；全数值比较法；修约值比较法。修约值比较法。362022-10-29重要4.3.1.2 4.3.1.2 当标准或文件中，若对极限数值当标准或文件中，若对极限数值（包括带有极

29、限偏差的数值）无特殊规定（包括带有极限偏差的数值）无特殊规定时，均应适用全数值比较法。如规定采用时，均应适用全数值比较法。如规定采用修约值比较法，应在标准中加以说明修约值比较法，应在标准中加以说明。4.3.1.3 4.3.1.3 若标准或文件规定了使用其中一种若标准或文件规定了使用其中一种比较法时，一经确定，不得改动比较法时，一经确定，不得改动。372022-10-294.3.2 全数值比较法全数值比较法 将检验所得的测定值不经修约，直接用于与标准将检验所得的测定值不经修约，直接用于与标准定的极限数值做比较。只要越出规定的极限数值定的极限数值做比较。只要越出规定的极限数值都判定为不符合标准要求

30、。都判定为不符合标准要求。例例1：规定牛奶中的三氯氰胺不得高于：规定牛奶中的三氯氰胺不得高于2.5mg/L，测，测得一牛奶试样中的三氯氰胺含量为得一牛奶试样中的三氯氰胺含量为2.502mg/L,应应判定为该牛奶中的三氯氰胺含量不合格。判定为该牛奶中的三氯氰胺含量不合格。例例2：白卡纸的白度要求：白卡纸的白度要求 85%，测定值为，测定值为84.9%,应应判定为该白卡纸白度不合格。判定为该白卡纸白度不合格。382022-10-294.3.3 修约值比较修约值比较 将测定值进行修约后将测定值进行修约后,修约数位应与规定的极限数修约数位应与规定的极限数值数位一致值数位一致,然后进行比较然后进行比较,

31、以判定实际测得值是以判定实际测得值是否符合标准要求。否符合标准要求。只要精度允许只要精度允许，应先将获得的数值按指定的修约，应先将获得的数值按指定的修约数位数位多一位或几位报出多一位或几位报出，然后修约至规定的位数。，然后修约至规定的位数。例如：白卡纸的白度要求例如：白卡纸的白度要求 85%，测定值为，测定值为84.62%,经修约后（经修约后（85%）应判定为该白卡纸白）应判定为该白卡纸白度合格。度合格。修约为修约为84.6%（错误）（错误）392022-10-294.3.4 两种判定方法的比较两种判定方法的比较 对同样的极限数值，若它本身符合要求，对同样的极限数值，若它本身符合要求，则全数值

32、比较法比修约值比较法相对较严则全数值比较法比修约值比较法相对较严格。格。402022-10-29补充：补充：极限数值与仪器的分辨力的匹配极限数值与仪器的分辨力的匹配一、根据极限数值选配仪器一、根据极限数值选配仪器1、规定全数值比较、规定全数值比较 测量仪器的分辨力等于或小于极限值的最小数值单位。测量仪器的分辨力等于或小于极限值的最小数值单位。例如：对于例如：对于 所选测量仪器的分辨力不得大于所选测量仪器的分辨力不得大于0.1 对于对于 所选测量仪器的分辨力不得大于所选测量仪器的分辨力不得大于0.012、规定修约值比较、规定修约值比较测量仪器的分辨力应小于极限值的最小数值单位。测量仪器的分辨力应

33、小于极限值的最小数值单位。1.01.0801.001.0080412022-10-29二、根据现在使用的仪器规定极限数值二、根据现在使用的仪器规定极限数值1、规定全数值比较、规定全数值比较极限值的最小数值单位等于或大于测量仪器极限值的最小数值单位等于或大于测量仪器的分辨力。的分辨力。2、规定修约值比较、规定修约值比较 极限值的最小数值单位大于测量仪器的分极限值的最小数值单位大于测量仪器的分辨力。辨力。422022-10-29有效数字（有效数位）有效数字（有效数位）有效数字（有效数位）是根据实际需要指定（规定）有效数字（有效数位）是根据实际需要指定（规定）出来的；它仅用于对极限出来的；它仅用于对

34、极限(界限界限)的规定，这个规的规定，这个规定应与计量仪器的分辨力相适应。定应与计量仪器的分辨力相适应。例例1：规定钢丝的抗拉强度不得低于：规定钢丝的抗拉强度不得低于600牛顿，三位牛顿，三位有效数字（有效数位到个位）。有效数字（有效数位到个位）。例例2：规定钢丝的抗拉强度不得低于：规定钢丝的抗拉强度不得低于600.0牛顿，四牛顿，四位有效数字（有效数位到小数点后一位）。位有效数字（有效数位到小数点后一位）。例例3：规定牛奶中的三氯氰胺不得高于：规定牛奶中的三氯氰胺不得高于0.03mg/L，一位有效数字（有效数位到小数点后两位）。一位有效数字（有效数位到小数点后两位）。432022-10-29