大模型安全研究报告


版权声明
LEGAL NOTICE
阿里云计算有限公司与中国信息通信研究院共同拥有本报
告的版权，并依法享有版权保护。任何个人或机构在转载、
摘录或以其他形式使用本报告的文字内容及观点时，必须
明确标注“资料来源：阿里云计算有限公司与中国信息通
信研究院”。对于任何未经授权的转载或使用行为，我们
将依法追究其法律责任。


RESEARCH REPORT
FOUNDATION MODEL SAFETY
2 3
大模型安全研究报告


前言
FORWORD
当前，由 ChatGPT 引发的全球大模型技术竞赛正推动人工智能由专用弱智能向通用强智能迈进，为有效防范和消减大模型的安全风险，并促进其在安全领域的应用，阿里云计算有限公司联合中
这不仅标志着智能水平的显著提升，也预示着人机交互方式和应用研发模式的重大变革。大模型在 国信息通信研究院等三十余家行业单位共同编制《大模型安全研究报告（2024 年）》。本报告凝
各行各业的广泛应用，为第四次工业革命的爆 ...