耐特信计量检测服务平台_计量管理软件

标题: 请教一个关于数值修约的问题 [打印本页]

作者: esky520 时间: 2016-8-22 20:54
标题: 请教一个关于数值修约的问题
如果规程要求±5%的误差，那么计算结果为5.123%要怎么修约???
如果规程要求±5.0%的误差，那么计算结果为5.123%要怎么修约???

如果规程要求重复性不超过1.5%，那计算结果为1.513%要怎么修约???

怎么判定他们的合格性

谢谢

作者: 57830716 时间: 2016-8-22 23:38
回复 1# yxd192

如果规程对修约间隔没有做明确规定，根据误差理论可做如下处理：

1、如果规程要求±5%的误差，计算结果为5.123%，可按1%间隔修约，即修约为5%。

2、如果规程要求±5.0%的误差，计算结果为5.123%，可按0.1%间隔修约，即修约为5.1%。

3、如果规程要求重复性不超过1.5%，计算结果为1.513%，可按0.1%间隔修约，即修约为1.5%。

以修约后的数据进行合格判定，如果测量的不确定度不大于允差绝对值的1/3，则修约后的数据小于等于最大允差则为合格，否则不合格。

作者: 爱上阿南 时间: 2016-8-22 23:54
跟2#好好学习一下，说的很有道理。

作者: spiegesq 时间: 2016-8-23 01:53
说的很好，如果测量不确定度超过1/3允差的话，还要考虑不确定区。

欢迎光临耐特信计量检测服务平台_计量管理软件 (http://weblims.cn/)