excel中两个含有小数的数值相减小数位数变多了,例如:89421.347319153减去89421.3473191527得到的小数位数,变得更多了,这是为什么呢?求大神赐教,已经困扰好久了。
|
楼主: 张子瞻
|
13150
6
[实际应用] excel中两个含有小数的数值相减小数位数变多了 |
|
已卖:744份资源 讲师 24%
-
|
回帖推荐zhangbaoqian 发表于4楼 查看完整内容 你连个图都没有,我只能猜。你的数据可能精度不只是显示的10位或者9位,所以在进行浮点计算时,位数太多造成计算机出错。你试试在excel选项——高级——计算选项中勾选计算以显示结果为准试试。如果不行的话,建议你采用round函数(四舍五入)进行计算。或者在计算前(如果精度要求不是很高的话,貌似你也不需要)提前将数据的精度减少,即减少数据的小数位数,四舍五入,再进行计算。
本帖被以下文库推荐 | ||
|
|
| ||
| ||
加好友,备注cda京ICP备16021002号-2 京B2-20170662号
京公网安备 11010802022788号
论坛法律顾问:王进律师
知识产权保护声明
免责及隐私声明


