C5.0的变量重要性和决策树问题

是 否 +2 论坛币

k人 参与回答

经管之家送您一份

应届毕业生专属福利!

求职就业群

赵安豆老师微信：zhaoandou666

经管之家联合CDA

送您一个全额奖学金名额~ !

立即领取

感谢您参与论坛问题回答

经管之家送您两个论坛币！

+2 论坛币

为啥 变量重要性里面变量“ 总签单金额 ”不重要（系数几乎为0）
但是决策树里面 “ 总签单金额 ”却是第一个分支？
求高手解答，先谢过

扫码加我 拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

分享0 收藏0 回帖

关键词：决策树 重要性 求高手解答 求高手

两个模型反映的关系角度不一样。

kuangsir6 发表于 2013-10-24 20:15
两个模型反映的关系角度不一样。

请简单一点介绍两个的角度什么区别，谢谢咯

285743489 发表于 2013-10-25 09:48
请简单一点介绍两个的角度什么区别，谢谢咯

两个方法选择的分割属性不同。
C5.0是信息熵，CART)是最小基尼（GINI）指标。

kuangsir6 发表于 2013-10-25 10:34
两个方法选择的分割属性不同。
C5.0是信息熵，CART)是最小基尼（GINI）指标。

高手，你好，我在Clementine里面用的只是C5.0节点，没有添加C&RT。
C5.0运行结果的“模型”里面左侧 “总签单金额”排第一，右侧的变量重要性却说“总签单金额”系数几乎=0.

你的意思是右侧的变量重要性是按照 C&RT算法---最小基尼（GINI）指标计算的？  
还有就是C5.0节点运算后，得到的影响输出结果最重要的变量是左侧的“总签单金额”还是右侧的“总付费签单数”？

285743489 发表于 2013-10-25 15:48
高手，你好，我在Clementine里面用的只是C5.0节点，没有添加C&RT。
C5.0运行结果的“模型”里面左侧 “ ...

不是高手，是爱好者。
我现在明白你的意思了。
右侧的变量重要性是主要考虑的自变量与因变量相关的p值的大小以及相关系数的大小。
是综合的判断结论，不是单指相关系数的大小的。

kuangsir6 发表于 2013-10-25 17:19
不是高手，是爱好者。
我现在明白你的意思了。
右侧的变量重要性是主要考虑的自变量与因变量相关的p值的 ...

呵呵，变量“总签单金额”到底是依照左侧决策树的第一个分支对输出变量很重要，还是按照右侧的变量重要性完全不重要 ？

285743489 发表于 2013-10-28 09:39
呵呵，变量“总签单金额”到底是依照左侧决策树的第一个分支对输出变量很重要，还是按照右侧的变量重要性 ...

分支第几个与右边的重要性没有直接关系。
是看信息增益的大小的。

285743489 发表于 2013-10-28 09:39
呵呵，变量“总签单金额”到底是依照左侧决策树的第一个分支对输出变量很重要，还是按照右侧的变量重要性 ...

准确地讲
选择哪个变量进行分支，看信息增益的大小。
C5.0算法的属性选择度量就是使用信息增益，选择最高信息增益的属性作为当前节点的测试属性。

左边的重要性，不用多说了。右图重要性得分的计算式：
某变量的得分=(1-Pi)/sum(1-Pi)
其中pi是该变量与目标变量之间的显著性检验结果值。