耐特信计量检测服务平台_计量管理软件

标题: 请教混合计算中数据如何修约 [打印本页]

作者: CCH 时间: 2016-8-18 20:41
标题: 请教混合计算中数据如何修约
例如：

4.400+0.012×18.352÷0.2002-1.52×2 如何计算？

中间这步0.012×18.352÷0.2002需要先按乘除修约规则，即0.012×18.4÷0.200=1.10 修约吗？

作者: ck99945 时间: 2016-8-18 21:12
1. ASTM E29提供了详细的计算方法。
2. 更为科学的方法是评估测量结果的不确定度，不确定度值保留1~2位，测量结果修约到与不确定度位数对齐。

作者: spiegesq 时间: 2016-8-18 21:18
对于一个近似数，从左边第一个不是0的数字起，到精确到的位数止，所有的数字都叫做这个数的有效数字（significant figure）
要特别注意0的情况。0在非零数字之间与末尾时均为有效数；在小数点前或小数点后均不为有效数字。如0.078和0.78与小数点无关，均为两位有效数字。506与220均为三位有效数字。
参考文献...百度百科....

作者: buffona 时间: 2016-8-18 21:35
回复 11# 长度室

　　我认为21000是常说的二万一千，不能明确看出有效数字个数，可以看成为2位、3位、4位和5位都有可能，不可以看作为就是五位有效数字。0.21×10[5次方]同样是21000，可是只有两位有效数字。如果要表示21000是五位有效数字，应该写成21.000×10[3次方]或者写成0.21000×10[5次方]。

作者: 光头人1 时间: 2016-8-18 22:26
回复 4# 规矩湾锦苑

这样理解一时还不能接受啊。

作者: darny 时间: 2016-8-18 22:27
21000的有效位数是不定的，要看测量仪器的准确度（测量精度）。这时候一般应写成2.1*104或2.10*104或2.100*104或2.1000*104，表示不同的有效位数。

作者: ttyn727 时间: 2016-8-18 22:31
回复 8# 规矩湾锦苑

规矩湾老师，21000是5位有效数字的。

作者: everloses 时间: 2016-8-18 23:08
回复 3# lishengchun

　 0.012应该看成三位有效数字，即小数点后的0、1、2三个数字。如果是两位有效数字（1和2），就应该写成1.2×10的-2次方，或者12×10的-3次方。

作者: 威风凛凛 时间: 2016-8-18 23:24
回复 2# 规矩湾锦苑

谢谢，0.012为什么看成三位有效数字啊！

作者: vooper 时间: 2016-8-18 23:28
回复 5# lishengchun

　　你和6楼的说法是正确的。我关于0.012是三位有效数字的说法是错误的，应该是二位有效数字。在第一个非零数值前的零无论有多少不能改变有效数字的位数多少，而后面的每一个零都会增加一位有效数字。在没有小数点的情况下，不赞成数值后面的0的个数还代表有效数字的个数。例如21.000可以认为是五位有效数字，对于21000，并不能认可其有效数字位数为5个。如果要表示21000是五位有效数字，应该写成21.000×10[3次方]。
　　所以，我在2楼的计算示例应该减少一位有效数字，即：
　　近似计算的规则是“取少”原则。
　　即乘除计算取参与计算的各个数值中最少有效数字的数值确定计算结果有效数字个数，加减计算取参与计算的各个数值中小数点后最少的位数为计算结果的小数点后位数。在计算过程中以前述原则为基础，可以再多保留一位。
　　4.400+0.012×18.352÷0.2002-1.52×2
　　＝4.400+0.012×18.4÷0.200-1.52×2
　　（说明：中间的乘除算式中0.012为2位有效数字，所以计算中各个数值可以保留为3位有效数字，计算结果1.104圆整至3位有效数字为1.10。最后的乘除算式中2可以看作为常数，因此有效数字以1.52为准是三位有效数字，计算结果只有三位有效数字3.04。）
　　＝4.400+1.104－3.04
　　（说明：现在是加减计算，其中参与计算的三个数值中，小数点后最少位数是二位，即3.04，且仍然处于计算之中，不是最终结果，因此在计算中其它两个数值可以继续保留小数点后三位。）
　　＝2.464
　　=2.46
　　（说明：由于加减计算时参与计算的三个数值小数点后的位数最少的是二位，且这一步是最终的计算结果，所以最终计算结果应圆整至小数点后两位。）
　　在此衷心感谢5、6、7楼量友的指正。

作者: 一条龙 时间: 2016-8-18 23:44
回复 1# lishengchun

　　近似计算的规则是“取少”原则。
　　即乘除计算取参与计算的各个数值中最少有效数字的数值确定计算结果有效数字个数，加减计算取参与计算的各个数值中小数点后最少的位数为计算结果的小数点后位数。在计算过程中以前述原则为基础，可以再多保留一位。
　　4.400+0.012×18.352÷0.2002-1.52×2
　　＝4.400+0.012×18.35÷0.2002-1.52×2
　　（说明：中间的乘除算式中0.012可以看作为三位有效数字，所以计算中各个数值可以保留为四位有效数字，计算结果1.0999圆整至四位有效数字为1.100。最后的乘除算式中2可以看作为常数，因此有效数字以1.52为准是三位有效数字，计算结果只有三位有效数字3.04。）
　　＝4.400+1.100－3.04
　　（说明：现在是加减计算，其中参与计算的三个数值中，小数点后最少位数是二位，即3.04，且仍然处于计算之中，不是最终结果，因此在计算中其它数值可以保留小数点后三位。）
　　＝2.460
　　=2.46
　　（说明：由于加减计算时参与计算的三个数值小数点后的位数最少的是二位，且这是最终的计算结果，所以最终计算结果应圆整至小数点后两位。）

作者: lkamxmk 时间: 2016-8-19 00:13
我一直认为，有效数字是从第一个不是零的数查起，到末位为止的数。

作者: gooobooo 时间: 2016-8-19 00:39
回复 12# 规矩湾锦苑

我认为21000就是5位有效数字，这从有效数字定义上可以看出。同样是二万一千，有效数字可能是2位、3位、4位、5位，这要看它怎么来表示了。如果写成2.1×10的4次方，则是2位有效数字；若写成2.10×10的4次方，则是3位有效数字，2.100×10的4次方，则是4位有效数字，而21000的写法就是5位有效数字。

作者: wsm123123 时间: 2016-8-19 01:34
可以去复习一下数据修约这一章节。

欢迎光临耐特信计量检测服务平台_计量管理软件 (http://weblims.cn/)