耐特信计量检测服务平台_计量管理软件
标题:
关于有效数字
[打印本页]
作者:
zhoujingli
时间:
2016-8-18 21:50
标题:
关于有效数字
关于有效数字
作者:
gooobooo
时间:
2016-8-18 22:54
四舍六入五考虑,有余进一奇配偶。这句话概括了数字的修约规则。
作者:
爱上阿南
时间:
2016-8-18 23:48
我想楼主3#说的比较的清楚,也比较的详细。
作者:
3266364gxf
时间:
2016-8-19 00:05
"在实验结果的表达式中,绝对不确定度,以4以下开头的可保留两位,4以上开头的只保留一位,其尾数采用3收2舍进行舍入。如0.12、0.26、0.0005、0.008,而0.123→0.13,0.0054→0.006。"
这一条真有些搞不明白!!!:o :o :o
作者:
cy4080
时间:
2016-8-19 00:14
三楼的贴子都是精华呀:D
作者:
流氓插件
时间:
2016-8-19 00:23
c. 若被舍其的第一位数字等于5,而其后数字全部为零时,则是被保留末位数字为奇数或偶数(零视为偶),而定进或舍,末位数是奇数时进1,"末位数为偶数时还进1",例如28.350、28.250、28.050处理成3位有效数字时,分别为28.4、28.2、28.0。
引号中的内容我觉得有问题,应为末位数为偶数时应舍去....:D :D :D
作者:
一条龙
时间:
2016-8-19 01:45
四舍六入 逢五时奇进偶不进
作者:
wsm123123
时间:
2016-8-19 02:24
我也觉得有问题,暂说不清。以下数字修约规则供参考:
数字修约规则
我国科学技术委员会正式颁布的《数字修约规则》,通常称为“四舍六入五成双”法则。四舍六入五考虑,即当尾数≤4时舍去,尾数为6时进位。当尾数4舍为5时,则应是末位数是奇数还是偶数,5前为偶数应将5舍去,5前为奇数应将5进位。
这一法则的具体运用如下:
a. 将28.175和28.165处理成4位有效数字,则分别为28.18和28.16。
b. 若被舍弃的第一位数字大于5,则其前一位数字加1,例如28.2645处理成3为有效数字时,其被舍去的第一位数字为6,大于5,则有效数字应为28.3。
c. 若被舍其的第一位数字等于5,而其后数字全部为零时,则是被保留末位数字为奇数或偶数(零视为偶),而定进或舍,末位数是奇数时进1,末位数为偶数时还进1,例如28.350、28.250、28.050处理成3位有效数字时,分别为28.4、28.2、28.0。
d. 若被舍弃的第一位数字为5,而其后的数字并非全部为零时,则进1,例如28.2501,只取3位有效数字时,成为28.3。
e. 若被舍弃的数字包括几位数字时,不得对该数字进行连续修约,而应根据以上各条作一次处理。如2.154546 ,只取3位有效数字时,应为2.15,二不得按下法连续修约为2.16:
2.154546→2.15455→2.1546→2.155→2.16
作者:
ttyn727
时间:
2016-8-19 02:32
JJF1059-1999测量不确定度评定与表示中规定,不确定度有效数字保留1~2位。根据国际惯例,一般情况下,第一个非零数字大于3保留1位。保留2位有效数字时根据“1/3”原则进行修约。
作者:
nshukwrd
时间:
2016-8-19 02:41
测量结果的数字位数修约规则:
①不确定度有效位数
规则一、保留两位有效位数字时,按“不为零即进位”。
例:不确定度部分的数据为0.001101,保留两位有效数字,多余位数数字01不为零,故进位为0.0012;
规则二、当保留一位有效位数字时,按“三分之一原则”进行修约。
例:不确定度部分的数据为0.008001,要保留一位有效数字,如改“三分之一”原则进行修约,原不确定度数据修约为0.008。
例:如数据为0.003334,多余位数334大于该基本单位999的1/3,原不确定度数据修约为0.004。
规则三、U的第一个有效数字为1或2时,U取两位有效数;第一位有效数字为3或3以上时,U只取一位有效数字。
例:不确定度部分数据为0.001334时,第一位有效数字是1,该数据保留2位有效数字,修约为0.0014。
例:不确定度部分数据为0.007334时,第一位有效数字是7,该数据保留1位有效数字,修约为0.008。
欢迎光临 耐特信计量检测服务平台_计量管理软件 (http://weblims.cn/)
Powered by Discuz! X3.2