耐特信计量检测服务平台_计量管理软件

快捷导航
计量基础
收藏本版 |订阅

计量基础 今日: 0|主题: 1927|排名: 2 

发新帖
打印 上一主题 下一主题

请教 混合计算中数据如何修约...

[复制链接]
CCH 发布于: 2016-8-18 20:41 4996 次浏览 13 位用户参与讨论
跳转到指定楼层

已有13人评论

沙发
ck99945 发表于 2016-8-18 21:12:49
1. ASTM E29提供了详细的计算方法。
2. 更为科学的方法是评估测量结果的不确定度,不确定度值保留1~2位,测量结果修约到与不确定度位数对齐。
回复 支持 反对

使用道具 举报

板凳
spiegesq 发表于 2016-8-18 21:18:03
对于一个近似数,从左边第一个不是0的数字起,到精确到的位数止,所有的数字都叫做这个数的有效数字(significant figure)
要特别注意0的情况。0在非零数字之间与末尾时均为有效数;在小数点前或小数点后均不为有效数字。如0.078和0.78与小数点无关,均为两位有效数字。506与220均为三位有效数字。
参考文献...百度百科....
回复 支持 反对

使用道具 举报

地板
buffona 发表于 2016-8-18 21:35:51
回复 11# 长度室

  我认为21000是常说的二万一千,不能明确看出有效数字个数,可以看成为2位、3位、4位和5位都有可能,不可以看作为就是五位有效数字。0.21×10[5次方]同样是21000,可是只有两位有效数字。如果要表示21000是五位有效数字,应该写成21.000×10[3次方]或者写成0.21000×10[5次方]。
回复 支持 反对

使用道具 举报

5#
光头人1 发表于 2016-8-18 22:26:37
回复 4# 规矩湾锦苑


这样理解一时还不能接受啊。
回复 支持 反对

使用道具 举报

6#
darny 发表于 2016-8-18 22:27:10
21000的有效位数是不定的,要看测量仪器的准确度(测量精度)。这时候一般应写成2.1*104或2.10*104或2.100*104或2.1000*104,表示不同的有效位数。
回复 支持 反对

使用道具 举报

7#
ttyn727 发表于 2016-8-18 22:31:28
回复 8# 规矩湾锦苑


规矩湾老师,21000是5位有效数字的。
回复 支持 反对

使用道具 举报

8#
everloses 发表于 2016-8-18 23:08:52
回复 3# lishengchun


     0.012应该看成三位有效数字,即小数点后的0、1、2三个数字。如果是两位有效数字(1和2),就应该写成1.2×10的-2次方,或者12×10的-3次方。
回复 支持 反对

使用道具 举报

9#
威风凛凛 发表于 2016-8-18 23:24:35
回复 2# 规矩湾锦苑


    谢谢,0.012为什么看成三位有效数字啊!
回复 支持 反对

使用道具 举报

10#
vooper 发表于 2016-8-18 23:28:25
回复 5# lishengchun

  你和6楼的说法是正确的。我关于0.012是三位有效数字的说法是错误的,应该是二位有效数字。在第一个非零数值前的零无论有多少不能改变有效数字的位数多少,而后面的每一个零都会增加一位有效数字。在没有小数点的情况下,不赞成数值后面的0的个数还代表有效数字的个数。例如21.000可以认为是五位有效数字,对于21000,并不能认可其有效数字位数为5个。如果要表示21000是五位有效数字,应该写成21.000×10[3次方]。
  所以,我在2楼的计算示例应该减少一位有效数字,即:
  近似计算的规则是“取少”原则。
  即乘除计算取参与计算的各个数值中最少有效数字的数值确定计算结果有效数字个数,加减计算取参与计算的各个数值中小数点后最少的位数为计算结果的小数点后位数。在计算过程中以前述原则为基础,可以再多保留一位。
  4.400+0.012×18.352÷0.2002-1.52×2
  =4.400+0.012×18.4÷0.200-1.52×2
  (说明:中间的乘除算式中0.012为2位有效数字,所以计算中各个数值可以保留为3位有效数字,计算结果1.104圆整至3位有效数字为1.10。最后的乘除算式中2可以看作为常数,因此有效数字以1.52为准是三位有效数字,计算结果只有三位有效数字3.04。)
  =4.400+1.104-3.04
  (说明:现在是加减计算,其中参与计算的三个数值中,小数点后最少位数是二位,即3.04,且仍然处于计算之中,不是最终结果,因此在计算中其它两个数值可以继续保留小数点后三位。)
  =2.464
  =2.46
  (说明:由于加减计算时参与计算的三个数值小数点后的位数最少的是二位,且这一步是最终的计算结果,所以最终计算结果应圆整至小数点后两位。)
  在此衷心感谢5、6、7楼量友的指正
回复 支持 反对

使用道具 举报

12下一页
您需要登录后才可以回帖 登录 | 立即注册   

本版积分规则

QQ| 耐特信计量检测服务平台_计量管理软件  

Copyright © 2001-2016 Netson Inc.   All Rights Reserved.

Powered by Netson ( 粤ICP备14061212号-1 )

快速回复 返回顶部 返回列表