耐特信计量检测服务平台_计量管理软件

快捷导航
计量基础
收藏本版 |订阅

计量基础 今日: 0|主题: 1927|排名: 2 

发新帖
打印 上一主题 下一主题

EXCEL四舍五入时的一个漏洞分享,以避免数据处理错...

[复制链接]
lisi 发布于: 2016-8-18 17:46 3273 次浏览 6 位用户参与讨论
跳转到指定楼层
[size=14.0000009536743px]在用EXCEL计算误差时,发现四舍五入与手算不一致,提醒各位注意一下。示例如下:标准源输出40,被校仪器示值40.01,用EXCEL计算相对误差保留3个小数位数时为0.025%,但保留2位时为0.02%。

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有帐号?立即注册   

x
回复

使用道具 举报

已有6人评论

沙发
darny 发表于 2016-8-18 19:22:26
你给出的数据没错呀,符合奇变偶不变规则,漏洞在哪儿?
回复 支持 反对

使用道具 举报

板凳
飞翔de希望 发表于 2016-8-18 19:28:43
四舍五入出现问题,实际是EXCEL换算机制的问题,十进制转换成二进制进行计算,计算完再转换为十进制,运算过程保留位数问题,最终导致计算结果不是正好是0.025,你将小数位数保留十五位,就会出现我上传图中的数值,最后四舍五入就出现你这结果了 。可以用ROUND函数取整后计算,楼主的这种计算误差的情况,基本不会出现问题,实际可以用excel函数实现四舍六入的。
回复 支持 反对

使用道具 举报

地板
wsm123123 发表于 2016-8-18 20:11:05
EXCEL的[size=14.1176462173462px]四舍五入是不会奇变偶的,此计算是特例。你可以用40和40.1去算就为是0.3%而不是0.2%了
回复 支持 反对

使用道具 举报

5#
vooper 发表于 2016-8-18 20:50:01
该示例40及40.01两个数据后面全是零,你可以自己试下。该漏洞的原因3楼已经解释清楚了。
回复 支持 反对

使用道具 举报

6#
快乐.每一天 发表于 2016-8-18 20:56:34
恩。乘上一定倍数转成整数再算是可以的,但必竟使用中小数位不清楚,再加上此种情况极少,没必要为这了个去随时设置公式,大家知道避免一下就好。至于ROUND也是4舍5入,和EXCEL上面手动调小数位数一样的,不能避免此问题。
回复 支持 反对

使用道具 举报

7#
光头人1 发表于 2016-8-18 21:43:16
execl没有错,和你的保留位数有关系,另外execl没有四舍六入五成双的功能,如需要使用要自定义函数来实现。
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册   

本版积分规则

QQ| 耐特信计量检测服务平台_计量管理软件  

Copyright © 2001-2016 Netson Inc.   All Rights Reserved.

Powered by Netson ( 粤ICP备14061212号-1 )

快速回复 返回顶部 返回列表