一种基于信息熵的中文高频词抽取算法

是 否 +2 论坛币

k人 参与回答

经管之家送您一份

应届毕业生专属福利!

求职就业群

赵安豆老师微信：zhaoandou666

经管之家联合CDA

送您一个全额奖学金名额~ !

立即领取

感谢您参与论坛问题回答

经管之家送您两个论坛币！

+2 论坛币

摘要：为扩展分词词典，提高分词的准确率，本文提出了一种基于信息熵的中文高频词抽取算法，其结果可以用来识别未登录词并扩充现有词典。我们首先对文本进行预处理，将文本中的噪音字和非中文字符转化为分隔符，这样文本就可以被视为用分隔符分开的中文字符串的集合，然后统计这些中文字符串的所有子串的相关频次信息，最后根据这些频次信息计算每一个子串的信息熵来判断其是否为词。实验证明，该算法不仅简单易行，而且可以比较有效地从文本中抽取高频词，可接受率可达到91．68％。http://www.cqvip.com//QK/96983X/200605/22732901.html

送人玫瑰，手留余香~如您已下载到该资源，可在回帖当中上传与大家共享，欢迎来CDA社区交流学习。（仅供学术交流用。）

扫码加我 拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

分享0 收藏0 回帖

关键词：信息熵 cqvip 大家共享 HTML 简单易行 人工智能 自然语言处理 分词 中文抽词 信息熵