耐特信计量检测服务平台_计量管理软件

快捷导航
计量基础
收藏本版 |订阅

计量基础 今日: 0|主题: 1927|排名: 2 

发新帖
打印 上一主题 下一主题

数据运算规则...

[复制链接]
caixin 发布于: 2016-8-22 20:23 3727 次浏览 1 位用户参与讨论
跳转到指定楼层
数据运算规则
在近似数运算过程中,所有参与运算的数据,在有效数字后可多保留一位以上数字,称为安全数字。
⑴加减法的运算
多个观测值相加或相减时,求得的和或差只能保留一位欠准确数字。因此,最后结果的有效数字位数,应和参与运算各数中小数点后的有效数字位数最少的一个数相同。
在加减运算中,应先运算后修约,不得先修约后运算;即不得在加减运算之前,先把小数点后位数较多的数进行舍入修约,使之比小数点后位数最少的数多一位小数,然后再加减,最后对计算结果进行修约,使其与参与运算的数字中小数点后位数最少者相同。
⑵乘除法的运算
在乘或除运算时,积或商的有效数字的位数一般应与参与运算的有效位数最少的那个观测值相同。
在相乘或除之前,不得先翁多余位数进行舍入修约,然后再相乘除。
⑶乘方和开方的运算
对观测值进行乘方或开方运算时,原数值有几位有效数字,计算结果就可保留几位有效数字。
⑷对数运算
进行对数运算时,对数值的有效位数由尾数部分的位数决定;首数部分为10的幂数,与有效数字位数无关。
对数值的有效数字位数应与原数的有效数字位数相等。
回复

使用道具 举报

已有1人评论

沙发
chaojiwantong 发表于 2016-8-22 21:01:47
希望楼主以后能把这些规定摘自哪本资料交代清楚,以便于大家讨论和学习
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册   

本版积分规则

QQ| 耐特信计量检测服务平台_计量管理软件  

Copyright © 2001-2016 Netson Inc.   All Rights Reserved.

Powered by Netson ( 粤ICP备14061212号-1 )

快速回复 返回顶部 返回列表