耐特信计量检测服务平台_计量管理软件

快捷导航
计量基础
收藏本版 |订阅

计量基础 今日: 0|主题: 1927|排名: 2 

发新帖
打印 上一主题 下一主题

求助:有效数字混合运算...

[复制链接]
蔡鑫 发布于: 2016-8-18 17:59 2788 次浏览 7 位用户参与讨论
跳转到指定楼层
有效数字混合运算,如题:
   (1.2760*4.17)+(1.7*0.0001)-(0.0021764*0.0121)
   问:计算结果应有几位有效数字?
   求高人指教,并请大概讲一下怎么得来的。
回复

使用道具 举报

已有7人评论

沙发
3266364gxf 发表于 2016-8-18 18:50:53
回复 1# tangjj


    (1.2760*4.17)+(1.7*0.0001)-(0.0021764*0.0121)
=(1.276*4.17)+(1.7*0.0001)-(0.002176*0.0121)
=5.32+0.00017-0.000263
=5.32
回复 支持 反对

使用道具 举报

板凳
everloses 发表于 2016-8-18 19:17:40
保留和算式中有效数字最少的一样
回复 支持 反对

使用道具 举报

地板
gxf 发表于 2016-8-18 19:34:44
好,谢谢大家,知道了!
回复 支持 反对

使用道具 举报

5#
wsm123123 发表于 2016-8-18 19:55:32
回复2#,我认为答案如下:
(1.2760*4.17)+(1.7*0.0001)-(0.0021764*0.0121)
=(1.276*4.17)+(1.7*0.0001)-(0.002176*0.0121)
=5.32+0.0002-0.000263
=5.32
解释:乘除运算中按有效数字最少的保留,加减运算中按小数位最少的保留。那么第一个乘法中最少的有效数位是4.17即3位,第二个乘法中最少的有效数字是0.0001即1位,第三个乘法中最少的有效数字是0.0121即3位。相加时则按小数位最小的保留,即按5.32。
回复 支持 反对

使用道具 举报

6#
2支棒棒糖 发表于 2016-8-18 20:06:29
(1.2760*4.17)+(1.7*0.0001)-(0.0021764*0.0121) =(1.276*4.17)+(1.7*0.0001)-(0.002176*0.0121) =5.32+0.0002-0.000263 =5.32    
  乘除运算中按有效数字最少的保留,以有效数字最少的数据为基准,其他数据多保留一位有效数字,再进行乘除运算,计算结果仍保留最少的有效数字加减运算中按小数位最少的保留。那么第一个乘法中最少的有效数位是4.17即3位,第二个乘法中最少的有效数字是0.0001即1位,第三个乘法中最少的有效数字是0.0121即3位。相加时则按小数位最小的保留,以小数点后位数最少的数据为基准,其他数据比它多保留一位,再进行加减计算,最终计算结果保留最少的位数。即按5.32。
回复 支持 反对

使用道具 举报

7#
光头人1 发表于 2016-8-18 20:20:14
中间结果可以多保留1位
回复 支持 反对

使用道具 举报

8#
流氓插件 发表于 2016-8-18 22:45:13
乘除运算中按有效数字最少的保留,加减运算中按小数位最少的保留。
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册   

本版积分规则

QQ| 耐特信计量检测服务平台_计量管理软件  

Copyright © 2001-2016 Netson Inc.   All Rights Reserved.

Powered by Netson ( 粤ICP备14061212号-1 )

快速回复 返回顶部 返回列表