耐特信计量检测服务平台_计量管理软件

标题: 修约算法问题 [打印本页]

作者: CCH 时间: 2016-8-18 20:40
标题: 修约算法问题
求助修约算法问题

作者: spiegesq 时间: 2016-8-18 21:42
四舍六入五考虑，有余进一奇配偶。

作者: darny 时间: 2016-8-18 22:09
你这个问题太大了，别人没法回答

作者: cy4080 时间: 2016-8-18 22:52
到本论坛去下载GB8170吧。

作者: gooobooo 时间: 2016-8-18 23:16
还有不确定度的修约按三分之一原则进行。

作者: 爱上阿南 时间: 2016-8-19 00:15
1、舍弃地数字最左一位小于5时舍去。如34.945修约成3位则为34.9（拟舍弃地数字为45，最左一位4）。
2、舍弃地数字最左一位大于5时（包括等于5而其后还有非“0”的数字）则进1，即保留地末位再加1。如34.965修约成3位则为35.0（不能写成35）。
3、拟舍弃的数字最左一位恰好等于5（其后没有数字或皆为“0”），则看“5”前面地数字：为奇数时5进1，为偶数时去5不进，即使数据地末位数总是偶数。如573.5及74650两个数，都修约成3位则分别为574和746×102。

作者: everloses 时间: 2016-8-19 00:57
效数字及其运算规则
一、有效数字：实际可以测得的数字
1. 有效数字位数包括所有准确数字和一位欠准数字
例：滴定读数20.30mL，最多可以读准三位, 第四位欠准（估计读数）±1%
2. 在0~9中，只有0既是有效数字，又是无效数字
例： 0.06050 四位有效数字,定位有效位数
例：3600 → 3.6×103 两位 → 3.60×103 三位
3．单位变换不影响有效数字位数
例：10.00[mL]→0.001000[L] 均为四位
4．pH，pM，pK，lgC，lgK等对数值，其有效数字的位数取决于小数部分（尾数）数字的位数，整数部分只代表该数的方次. 例：pH = 11.20 → [H+]= 6.3×10-12[mol/L] 两位
5．结果首位为8和9时，有效数字可以多计一位
例：90.0% ，可示为四位有效数字
例：99.87% →99.9% 进位
二、有效数字的修约规则
1．四舍六入五留双
例：0.37456(0.375) ， 0.3745(0.374) 均修约至三位有效数字
2．只能对数字进行一次性修约
例：6.549(6.5)， 2.451(2.5) 一次修约至两位有效数字
3．当对标准偏差修约时，修约后会使标准偏差结果变差，从而提高可信度.
例：s = 0.134 → 修约至0.14，可信度↑
三、有效数字的运算法则
1．加减法：以小数点后位数最少的数为准（即以绝对误差最大的数为准）.例： 50.1 + 1.45 + 0.5812 = 52.1. δ ±0.1 ±0.01 ±0.0001,保留三位有效数字.
2．乘除法：以有效数字位数最少的数为准（即以相对误差最大的数为准）.例：0.0121 × 25.64 × 1.05782 = 0.328,δ ±0.0001 ±0.01 ±0.00001 , RE ±0.8% ±0.4% ±0.009%,保留三位有效数字.

欢迎光临耐特信计量检测服务平台_计量管理软件 (http://weblims.cn/)