苹果/安卓/wp
硕士生
0%
还不是VIP/贵宾
签到天数: 11 天
连续签到: 1 天
[LV.3]偶尔看看II
截图.png (27.79 KB)
2022-5-7 18:57:55 上传
whymath 查看完整内容
whymath 发表于2楼 查看完整内容
使用道具 举报
实习版主
whymath 发表于 2022-5-8 11:27 可能是浮点型错误。 试用 put(i30g30_chg_,24.12) 查看变量的精确值
cinaiyimu 发表于 2022-5-11 11:59 用put函数后发现原始数据(3位小数点)相减后出现小数点变为15位的情况,有的数值相减没有变,有的变了。 ...
whymath 发表于 2022-5-11 18:10 关于浮点数错误的成因和解决办法网上有很多资料,一搜便知。 一种简单的解决办法是将要比较的两个数作差 ...
发表回复 回帖后跳转到最后一页
京ICP备16021002-2号 京B2-20170662号 京公网安备 11010802022788号 论坛法律顾问:王进律师 知识产权保护声明 免责及隐私声明