信息熵、交叉熵、相对熵（KL散度）

是 否 +2 论坛币

k人 参与回答

经管之家送您一份

应届毕业生专属福利!

求职就业群

赵安豆老师微信：zhaoandou666

经管之家联合CDA

送您一个全额奖学金名额~ !

立即领取

感谢您参与论坛问题回答

经管之家送您两个论坛币！

+2 论坛币

在机器学习中信息熵、交叉熵、相对熵（KL散度）都是常用的概念，这里mark一下。首先给出信息熵的概念，度量系统不确定性的，本质是香农信息量()的期望：H(p)=。


参考链接：
https://www.zhihu.com/question/41252833
http://blog.sina.com.cn/s/blog_80ce3a550102wko1.html

扫码加我 拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

分享0 收藏1 回帖

关键词：交叉熵 信息熵 question Quest Mark