最大熵模型 与 自然语言处理讲义

相似文件 换一批

是 否 +2 论坛币

k人 参与回答

经管之家送您一份

应届毕业生专属福利!

求职就业群

赵安豆老师微信：zhaoandou666

经管之家联合CDA

送您一个全额奖学金名额~ !

立即领取

感谢您参与论坛问题回答

经管之家送您两个论坛币！

+2 论坛币

求条件极值就可以证明了（求偏导数，条件是：所有的概率之和为1）
结论：均匀分布的时候，熵最大。
有两个变量：x,y。它们不是独立的。已知y，x的不确定度又是多少呢?

关于某个特征(x,y)的样本--特征所描述的语法现象在标准集合里的分布：
(xi,yi) pairs
yi是y的一个实例
xi是yi的上下文
(x1,y1) (x2,y2) (x3,y3)……

NLP与随机过程的关系（背景）
最大熵模型的介绍（熵的定义、最大熵模型）
最大熵模型的解决（非线性规划、对偶问题、最大似然率）
特征选取问题
应用实例
总结与启发

扫码加我 拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

分享0 收藏0 回帖

关键词：最大熵模型 非线性规划 最大似然 线性规划 语法现象