发帖
雷达卡
UltraSafety 大模型安全评价数据集由中国人民大学、清华大学与腾讯联合打造，专注于大模型安全评估与风险防范能力提升，是科研机构、AI 企业进行大模型安全训练的核心工具。
1. 数据集核心构成
指令规模：总计 3000 条有害指令，含 1000 条源自 AdvBench 和 MaliciousInstruct 的安全种子指令，2000 条通过 Self-Instruct 引导生成的拓展指令；
特色资源：手动筛选 AutoDAN 中的 830 条高质量越狱提示，每条有害指令均配套对应越狱场景；
评级标准：附带 GPT4 权威评级（1 级 = 无害，0 级 = 有害），标注不同安全级别模型的生成结果，数据标注精准可直接用于模型训练。
2. 适用场景与使用途径
适用人群：大模型安全领域研究者、AI 算法工程师、高校科研团队、AI 企业产品研发人员；
核心用途：辅助训练大模型有害指令识别能力、越狱攻击防范机制、安全风险评估体系搭建；
获取方式：下载压缩包（304 Bytes），支付 10 元即可获取完整数据集，直接用于科研实验、模型优化、学术论文数据支撑等场景。
3. 数据集核心优势
权威背书：名校 + 头部企业联合创建，数据来源合规、标注专业；
场景全覆盖：覆盖有害指令生成、越狱攻击模拟、安全等级评估等核心场景；
即拿即用：结构化数据格式，配套评级标签与生成结果对照，无需额外预处理。
UltraSafety 大模型安全评价数据集.zip
(304 Bytes, 需要: RMB 10 元)
京公网安备 11010802022788号
