excel中两个含有小数的数值相减小数位数变多了,例如:89421.347319153减去89421.3473191527得到的小数位数,变得更多了,这是为什么呢?求大神赐教,已经困扰好久了。
楼主: 张子瞻
|
11242
6
[实际应用] excel中两个含有小数的数值相减小数位数变多了 |
讲师 24%
-
|
回帖推荐zhangbaoqian 发表于4楼 查看完整内容 你连个图都没有,我只能猜。你的数据可能精度不只是显示的10位或者9位,所以在进行浮点计算时,位数太多造成计算机出错。你试试在excel选项——高级——计算选项中勾选计算以显示结果为准试试。如果不行的话,建议你采用round函数(四舍五入)进行计算。或者在计算前(如果精度要求不是很高的话,貌似你也不需要)提前将数据的精度减少,即减少数据的小数位数,四舍五入,再进行计算。
本帖被以下文库推荐 | ||
| ||
| ||
京ICP备16021002-2号 京B2-20170662号 京公网安备 11010802022788号 论坛法律顾问:王进律师 知识产权保护声明 免责及隐私声明