ChineseWebText 中文网络文本数据集

是 否 +2 论坛币

k人 参与回答

经管之家送您一份

应届毕业生专属福利!

求职就业群

赵安豆老师微信：zhaoandou666

经管之家联合CDA

送您一个全额奖学金名额~ !

立即领取

感谢您参与论坛问题回答

经管之家送您两个论坛币！

+2 论坛币

ChineseWebText 是目前最新、最大的中文数据集，包含 1.42 TB 的数据。每个文本都被分配了一个质量分数，方便大语言模型的研究人员根据新的质量阈值选择数据。这里还发布了一个更清洁的子集，包含 600 GB 的中文文本，质量超过 90% 。该目录包含 ChineseWebText 数据集和用于处理 CommonCrawl 数据的 EvalWeb 工具链。

扫码加我 拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

分享0 收藏0 回帖