耐特信计量检测服务平台_计量管理软件

快捷导航
计量基础
收藏本版 |订阅

计量基础 今日: 0|主题: 1927|排名: 2 

发新帖
打印 上一主题 下一主题

请教 混合计算中数据如何修约...

[复制链接]
CCH 发布于: 2016-8-18 20:41 4995 次浏览 13 位用户参与讨论
跳转到指定楼层
11#
一条龙 发表于 2016-8-18 23:44:51
回复 1# lishengchun

  近似计算的规则是“取少”原则。
  即乘除计算取参与计算的各个数值中最少有效数字的数值确定计算结果有效数字个数,加减计算取参与计算的各个数值中小数点后最少的位数为计算结果的小数点后位数。在计算过程中以前述原则为基础,可以再多保留一位。
  4.400+0.012×18.352÷0.2002-1.52×2
  =4.400+0.012×18.35÷0.2002-1.52×2
  (说明:中间的乘除算式中0.012可以看作为三位有效数字,所以计算中各个数值可以保留为四位有效数字,计算结果1.0999圆整至四位有效数字为1.100。最后的乘除算式中2可以看作为常数,因此有效数字以1.52为准是三位有效数字,计算结果只有三位有效数字3.04。)
  =4.400+1.100-3.04
  (说明:现在是加减计算,其中参与计算的三个数值中,小数点后最少位数是二位,即3.04,且仍然处于计算之中,不是最终结果,因此在计算中其它数值可以保留小数点后三位。)
  =2.460
  =2.46
  (说明:由于加减计算时参与计算的三个数值小数点后的位数最少的是二位,且这是最终的计算结果,所以最终计算结果应圆整至小数点后两位。)
回复 支持 反对

使用道具 举报

12#
lkamxmk 发表于 2016-8-19 00:13:18
我一直认为,有效数字是从第一个不是零的数查起,到末位为止的数。
回复 支持 反对

使用道具 举报

13#
gooobooo 发表于 2016-8-19 00:39:06
回复 12# 规矩湾锦苑


我认为21000就是5位有效数字,这从有效数字定义上可以看出。同样是二万一千,有效数字可能是2位、3位、4位、5位,这要看它怎么来表示了。如果写成2.1×10的4次方,则是2位有效数字;若写成2.10×10的4次方,则是3位有效数字,2.100×10的4次方,则是4位有效数字,而21000的写法就是5位有效数字。
回复 支持 反对

使用道具 举报

14#
wsm123123 发表于 2016-8-19 01:34:12
可以去复习一下数据修约这一章节。
回复 支持 反对

使用道具 举报

12
您需要登录后才可以回帖 登录 | 立即注册   

本版积分规则

QQ| 耐特信计量检测服务平台_计量管理软件  

Copyright © 2001-2016 Netson Inc.   All Rights Reserved.

Powered by Netson ( 粤ICP备14061212号-1 )

快速回复 返回顶部 返回列表