有大佬知道为什么0.06*45^=2.7吗

是 否 +2 论坛币

k人 参与回答

经管之家送您一份

应届毕业生专属福利!

求职就业群

赵安豆老师微信：zhaoandou666

经管之家联合CDA

送您一个全额奖学金名额~ !

立即领取

感谢您参与论坛问题回答

经管之家送您两个论坛币！

+2 论坛币

今天遇到了个问题，在中文和unicode里面计算0.06*45都不等于2.7，但是换成6*0.45就等于2.7，或者round 0.1也等于2.7，有大佬知道为什么吗

扫码加我 拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

分享0 收藏0 回帖

关键词：unicode ROUND code ODE NIC

这个涉及到浮点数在计算机内的存储问题，底层的数字都是二进制的，浮点数大多数都是只能近似表达的。0.06表达精度相差略大，所以计算出来的结果并不是2.7。虽然当你不使用if的时候看不出来，但你用a去判断是否等于时是使用的实际计算的结果值。而不是我们看到的使用了format best12.后的a的值。

xiaobo_mx 发表于 2021-4-22 09:51
这个涉及到浮点数在计算机内的存储问题，底层的数字都是二进制的，浮点数大多数都是只能近似表达的。0.06表 ...

谢谢，查了下资料明白了