耐特信计量检测服务平台_计量管理软件

快捷导航
计量基础
收藏本版 |订阅

计量基础 今日: 0|主题: 1927|排名: 2 

发新帖
打印 上一主题 下一主题

通俗易懂的测量数据修约方法...

[复制链接]
lisi 发布于: 2016-8-18 19:35 2418 次浏览 10 位用户参与讨论
跳转到指定楼层
11#
lkamxmk 发表于 2016-8-18 23:58:37
修约间隔为1时的数据修约规则:(1)若舍去部分大于保留末位的0.5,则保留末位加1;(2)若保留末位小于修约间隔的0.5,则保留末位不变;(3)若舍去部分等于保留末位的0.5,则当保留末位为奇数时加1,为偶数时不变.
举例:(1)1.51修约间隔为1,舍去部分为0.51,大于修约间隔的0.5,故保留位加1,最后修约成2
         (2)1.499999,修约间隔为1,舍去部分为0.499999,小于修约间隔的0.5,故保留位不变,最后  修约成1
        (3)1.5修约间隔为1,舍去部分为0.5,等于修约间隔的0.5,此时保留末位为奇数,故保留末位加1,最后修约成2
修约间隔为2时,方法不一样了
    例1:数据为1.51,修约间隔为2,将需修约部分(此例为1.51)除以修约间隔2后为0.755,按修约间隔为1的方法修约成保留1位为0.8,乘上修约间隔2为1.6,再按修约间隔为1的方法修约成保留1位为2,最后修约成2
       例2:数据为3,,修约间隔为2,将需修约部分(此例3)除以修约间隔2后为1.5,按修约间隔为1的方法修约成保留1位为2,再乘上修约间隔2为4,最后修约成4
       例3:数据为5,,修约间隔为2,将需修约部分(此例5)除以修约间隔2后为2.5,按修约间隔为1的方法修约成保留1位为2,再乘上修约间隔2为4,最后修约成4
修约间隔为5的方法同修约间隔为2的方法.
回复 支持 反对

使用道具 举报

12
您需要登录后才可以回帖 登录 | 立即注册   

本版积分规则

QQ| 耐特信计量检测服务平台_计量管理软件  

Copyright © 2001-2016 Netson Inc.   All Rights Reserved.

Powered by Netson ( 粤ICP备14061212号-1 )

快速回复 返回顶部 返回列表