楼主: ofzhengyi
7366 11

0.9==(1.1-0.2)的结果是FALSE? [推广有奖]

11
旗木卡卡西 发表于 2010-9-11 00:19:14
教你一招,以后碰到这种比较,假设你想比较a==b,选一个最小的tolerance,比如1e-10

写成这个表达式  abs(a-b) < (1e-10)


上例是

ERROR = 1e-10
abs( 0.9 - (1.1-0.2) ) < ERROR

ERROR可以随意修改,满足你的最小误差即可!
已有 1 人评分学术水平 热心指数 收起 理由
ofzhengyi + 1 + 1 根据规定进行奖励

总评分: 学术水平 + 1  热心指数 + 1   查看全部评分

一想到经济学就头大……

12
kobe4a 发表于 2010-9-14 00:30:24
shenyu2070 发表于 2010-9-8 00:29
1.1-0.2被R默认为是字符串格式,如果你改为 "0.9"==(1.1-0.2),结果就是TURE了!
楼主试一试。主要还是数据结构的差异。
R对数据结构是很重视的!
可是如果你试一下,identical(0.9,1.1-0.2),依然是false,我同意十楼的观点,这应该是由于计算机二进制表示的舍入问题
已有 1 人评分热心指数 收起 理由
ofzhengyi + 1 根据规定进行奖励

总评分: 热心指数 + 1   查看全部评分

您需要登录后才可以回帖 登录 | 我要注册

本版微信群
加好友,备注cda
拉您进交流群
GMT+8, 2025-12-27 03:12