首页 > 开发 > 综合 > 正文

为什么用ROUND四舍五入总是无法得到正确数值?

2024-07-21 02:06:55
字体:
来源:转载
供稿:网友

为什么用round四舍五入总是无法得到正确数值?
作者:cg1  摘自:access911.net
问题:


为什么用round四舍五入总是无法得到正确数值?
比如
round(11.115,2) 竟然会等于  1.11 而不是 1.12


又比如:我在access查询中写了以下语句:
select round(0.005, 2) as id;
结果不是我期望的0.01,而是0,如果想得到0.01,应该怎样做?

 



回答:

原因很简单,在进行精确计算时应该使用“货币”类型字段而不是常用得“数字”“双精度”,应为双精度得存储方式不是以十进制直接存储,而是用科学计数法算出来的,总会产生误差的。
如果你必须使用双精度,建议分开存储小数位以及整数位。


关于在查询中可以使用以下语句解决
select format(0.005, '#.##')  as id;



发表评论 共有条评论
用户名: 密码:
验证码: 匿名发表