FiNER-139 的测试集有 108,378 句、512 万个 token,其中 82.7% 的句子一个标注实体都没有;真正带标签的 token 只占 0.62%。这份数据集做的是"给财报里的数字打 XBRL 标签",而绝大多数句子在这件事上什么都不用做。
数据集全名 FiNER-139,来自雅典经济与商业大学的 NLP 组,2022 年随论文公开。规模 112 万句,标注 139 类 XBRL 实体类型,覆盖约 1 万家美国上市公司的年报与季报,报告期 2016—2020 年,语料取自 SEC 的 EDGAR 系统。
三个划分与文件构成
| 划分 | 句子数 | 解压后大小 |
| train | 900,384 | 608.4 MB |
| validation | 112,494 | 77.3 MB |
| test | 108,378 | 76.0 MB |
| 合计 | 1,121,256 | — |
下载的是一个 103.2 MB 的 zip,里面三个 jsonl 文件,解压后合计约 762 MB。每行一个 JSON 对象,三个字段:id、tokens(分词后的词表)、ner_tags(与 token 等长的标签表)。
它标注的是什么
不是"人名、地名、机构名"这类通用实体,而是财报里每个数字属于哪一项会计科目。举个原数据里的例子:句子"In March 2014, the Rialto segment issued an additional 100 million of the 7.00% Senior Notes, at a price of 102.25% of their face value"里,"100"带有一个实体标签(示例中是第 37 号类),"7.00"也带有一个(第 41 号类),其余词全部是 O(不标注)。
关键点在这里:同一个数字在不同上下文里是完全不同的科目。"100"可以是发行规模、"102.25"是发行价格占比、"7.00"是票面利率——所以这个任务不能靠数字本身判断,必须看上下文。这也是它比通用 NER 难的地方。
139 类标签的构成
XBRL 的 US-GAAP 分类标准里有约 6,000 个实体类型,这份数据集只取出现至少 1,000 次的前 139 类。标注采用 IOB2 方案(B 表示实体开头、I 表示实体内部、O 表示不标注),因此标签空间是 139×2+1=279 种。
但实际下载的 jsonl 里,标签是字符串形态(如
O、B-DebtInstrumentFaceAmount),不是 README 示例里的整数编号。测试集里实际出现 155 种不同标签——不是 279,因为有些类型只有 B 没有 I,或只以单一形态出现。取用时先确认拿到的是字符串还是整数,两种映射关系不同。
类别极不平衡,这是使用时的第一道关
测试集 5,120,260 个 token 里,非 O 的只有 3.2 万个左右,占 0.62%。最高频的三类是债务工具票面利率(1,399 次)、信贷额度最高借款能力(1,345 次)、可变利率基准利差(1,340 次),而长尾很薄:测试集 139 类里有 28 类的 B 标签出现不足 100 次,最少的只有 28 次。
后果很直接:按准确率评估,全判 O 就能拿到 99.4%;按 micro F1 评估,少数类几乎不影响分数。所以用这份数据训练或评测,指标必须用 macro F1 或按类报告,否则看不出模型到底学到了什么。82.7% 的无实体句子还意味着,随机切分时大量样本是纯背景句,训练效率会被稀释。
能做什么、不适合做什么
适合:财报数字的科目分类(XBRL 自动打标);少样本与长尾标签研究(139 类里分布极不均,天然适合测长尾方法);上下文依赖的数值理解(同一数字不同科目);金融领域的预训练与领域适配实验;以及把"抽取数字"和"判断科目"两步拆开的流程验证。
不适合:中文财报(语料全为英文美国公司);2021 年以后的报告(数据固定到 2020 年);需要原始 PDF 版式的任务(只保留文本与标签,没有表格结构、没有坐标);需要科目层级关系的任务(139 类是扁平的,没有上下位关系)。
拿到它的条件
Hugging Face 上公开,直接下载 zip 即可,不需要申请、不需要登录、不需要运行远程脚本。许可为 CC BY-SA 4.0:署名、相同方式共享两条,无禁止商用条款。平台页面显示累计下载约 1,594 次、点赞 29 次,是平台计数,不代表独立用户数。
需要提醒的是格式:三个文件都是 jsonl,一行一句,标签与 token 等长对齐。用 Excel 直接打开会很难读,常规做法是先展开成"句子 id、token 序号、token、标签"四列的长表。这属于使用门槛而非获取门槛——文件本身是直接可下的。
以上是免费部分。139 类的完整标签清单、字段格式的逐项说明、以及下载入口放在下面论坛币区。
────────────────
想看标签清单和字段格式说明,回帖留下邮箱,我按顺序发给你。
把经管之家装进你常用的 AI 智能体中 一键快捷安装经管之家 MCP/技能,让 AI 帮你查教程、找数据、读论坛帖子。 检索、阅读公开帖子不收费,安装可申请领取:3 通用积分+100 论坛币+3 元论坛资金 说明: AI 算力按所用平台规则计算;附件按原帖条件获取;福利领取条件以活动页面为准。 |


雷达卡


京公网安备 11010802022788号







