耐特信计量检测服务平台_计量管理软件

快捷导航
计量基础
收藏本版 |订阅

计量基础 今日: 0|主题: 1927|排名: 2 

发新帖
打印 上一主题 下一主题

修约算法问题...

[复制链接]
CCH 发布于: 2016-8-18 20:40 3320 次浏览 6 位用户参与讨论
跳转到指定楼层
求助 修约算法问题
回复

使用道具 举报

已有6人评论

沙发
spiegesq 发表于 2016-8-18 21:42:42
四舍六入五考虑,有余进一奇配偶。
回复 支持 反对

使用道具 举报

板凳
darny 发表于 2016-8-18 22:09:00
你这个问题太大了,别人没法回答
回复 支持 反对

使用道具 举报

地板
cy4080 发表于 2016-8-18 22:52:58
到本论坛去下载GB8170吧。
回复 支持 反对

使用道具 举报

5#
gooobooo 发表于 2016-8-18 23:16:10
还有不确定度的修约按三分之一原则进行。
回复 支持 反对

使用道具 举报

6#
爱上阿南 发表于 2016-8-19 00:15:20
1、舍弃地数字最左一位小于5时舍去。如34.945修约成3位则为34.9(拟舍弃地数字为45,最左一位4)。
2、舍弃地数字最左一位大于5时(包括等于5而其后还有非“0”的数字)则进1,即保留地末位再加1。如34.965修约成3位则为35.0(不能写成35)。
3、拟舍弃的数字最左一位恰好等于5(其后没有数字或皆为“0”),则看“5”前面地数字:为奇数时5进1,为偶数时去5不进,即使数据地末位数总是偶数。如573.5及74650两个数,都修约成3位则分别为574和746×102。
回复 支持 反对

使用道具 举报

7#
everloses 发表于 2016-8-19 00:57:37
效数字及其运算规则
一、有效数字:实际可以测得的数字
1. 有效数字位数包括所有准确数字和一位欠准数字
例:滴定读数20.30mL,最多可以读准三位, 第四位欠准(估计读数)±1%
2. 在0~9中,只有0既是有效数字,又是无效数字
例: 0.06050 四位有效数字,定位有效位数
例:3600 → 3.6×103 两位 → 3.60×103 三位
3.单位变换不影响有效数字位数
例:10.00[mL]→0.001000[L] 均为四位
4.pH,pM,pK,lgC,lgK等对数值,其有效数字的位数取决于小数部分(尾数)数字的位数,整数部分只代表该数的方次. 例:pH = 11.20 → [H+]= 6.3×10-12[mol/L] 两位
5.结果首位为8和9时,有效数字可以多计一位
例:90.0% ,可示为四位有效数字
例:99.87% →99.9% 进位
二、有效数字的修约规则
1.四舍六入五留双
例:0.37456(0.375) , 0.3745(0.374) 均修约至三位有效数字
2.只能对数字进行一次性修约
例:6.549(6.5), 2.451(2.5) 一次修约至两位有效数字
3.当对标准偏差修约时,修约后会使标准偏差结果变差,从而提高可信度.
例:s = 0.134 → 修约至0.14,可信度↑
三、有效数字的运算法则
1.加减法:以小数点后位数最少的数为准(即以绝对误差最大的数为准).例: 50.1 + 1.45 + 0.5812 = 52.1. δ ±0.1 ±0.01 ±0.0001,保留三位有效数字.
2.乘除法:以有效数字位数最少的数为准(即以相对误差最大的数为准).例:0.0121 × 25.64 × 1.05782 = 0.328,δ ±0.0001 ±0.01 ±0.00001 , RE ±0.8% ±0.4% ±0.009%,保留三位有效数字.
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册   

本版积分规则

QQ| 耐特信计量检测服务平台_计量管理软件  

Copyright © 2001-2016 Netson Inc.   All Rights Reserved.

Powered by Netson ( 粤ICP备14061212号-1 )

快速回复 返回顶部 返回列表