耐特信计量检测服务平台_计量管理软件

标题: 求助：有效数字混合运算 [打印本页]

作者: 蔡鑫 时间: 2016-8-18 17:59
标题: 求助：有效数字混合运算
有效数字混合运算，如题：
（1.2760*4.17）+(1.7*0.0001)-(0.0021764*0.0121)
问：计算结果应有几位有效数字？
求高人指教，并请大概讲一下怎么得来的。

作者: 3266364gxf 时间: 2016-8-18 18:50
回复 1# tangjj

（1.2760*4.17）+(1.7*0.0001)-(0.0021764*0.0121)
=（1.276*4.17）+(1.7*0.0001)-(0.002176*0.0121)
=5.32+0.00017-0.000263
=5.32

作者: everloses 时间: 2016-8-18 19:17
保留和算式中有效数字最少的一样

作者: gxf 时间: 2016-8-18 19:34
好，谢谢大家，知道了！

作者: wsm123123 时间: 2016-8-18 19:55
回复2#，我认为答案如下：
（1.2760*4.17）+(1.7*0.0001)-(0.0021764*0.0121)
=（1.276*4.17）+(1.7*0.0001)-(0.002176*0.0121)
=5.32+0.0002-0.000263
=5.32
解释：乘除运算中按有效数字最少的保留，加减运算中按小数位最少的保留。那么第一个乘法中最少的有效数位是4.17即3位，第二个乘法中最少的有效数字是0.0001即1位，第三个乘法中最少的有效数字是0.0121即3位。相加时则按小数位最小的保留，即按5.32。

作者: 2支棒棒糖 时间: 2016-8-18 20:06
（1.2760*4.17）+(1.7*0.0001)-(0.0021764*0.0121)=（1.276*4.17）+(1.7*0.0001)-(0.002176*0.0121)=5.32+0.0002-0.000263=5.32
乘除运算中按有效数字最少的保留，以有效数字最少的数据为基准，其他数据多保留一位有效数字，再进行乘除运算，计算结果仍保留最少的有效数字加减运算中按小数位最少的保留。那么第一个乘法中最少的有效数位是4.17即3位，第二个乘法中最少的有效数字是0.0001即1位，第三个乘法中最少的有效数字是0.0121即3位。相加时则按小数位最小的保留，以小数点后位数最少的数据为基准，其他数据比它多保留一位，再进行加减计算，最终计算结果保留最少的位数。即按5.32。

作者: 光头人1 时间: 2016-8-18 20:20
中间结果可以多保留1位

作者: 流氓插件 时间: 2016-8-18 22:45
乘除运算中按有效数字最少的保留，加减运算中按小数位最少的保留。

欢迎光临耐特信计量检测服务平台_计量管理软件 (http://weblims.cn/)