最大熵方法及其在自然语言处理中的应用

是 否 +2 论坛币

k人 参与回答

经管之家送您一份

应届毕业生专属福利!

求职就业群

赵安豆老师微信：zhaoandou666

经管之家联合CDA

送您一个全额奖学金名额~ !

立即领取

感谢您参与论坛问题回答

经管之家送您两个论坛币！

+2 论坛币

摘要：近年来，计算机技术得到了飞速的发展，机器的存储量越来越大，运算速度越来越快，而价格却越来越便宜，这样的客观条件推动了基于语料库的统计自然语言处理方法成为目前自然语言处理研究领域的一个热点。最大熵方法是一种基于统计的机器学习方法，近10年来，成功应用于自然语言处理的许多领域，并且都接近或达到最佳水平。所谓最大熵方法就是遵循最大熵原则建模，也就是选择这样的一个统计概率模型：在满足约束的模型中选择熵最大的那个。最大熵方法的优点在于它有简单的哲学原理以及数学推理作为基础，在最大熵模型这个统一的框架下，非常方便的使用多种特征，而且特征之间没有独立性假设，模型表达能力强。它的缺点是训练速度非常慢，耗资源。在这篇论文中，我们首先介绍最大熵方法的基本原理，数学推导和基本算法。然后分别从训练和执行两个方面提出快速方法：选择性增益计算方法和稀疏特征树方法。选择性增益计算是一种快速的特征选择方法，它能使特征选择的速度提高2到3个数量级。稀疏特征树是一种高效的特征集合表示方法，基于稀疏特征树的特征匹配算法的时间复杂度与特征个数的对数成正比。最后介绍我们实现的最大熵通用工具包，以及把最大熵方法用于自然语言处理的一些实践。 　　

原文链接:http://d.wanfangdata.com.cn/Thesis/Y769488

送人玫瑰，手留余香~如您已下载到该资源，可在回帖当中上传与大家共享，欢迎来CDA社区交流学习。（仅供学术交流用。）

扫码加我 拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

分享0 收藏1 回帖

关键词：自然语言 语言处理 最大熵 wanfangdata wanfang 最大熵方法 自然语言处理 特征选择 特征匹配