发帖
雷达卡
AI智能体接连失控，OpenAI再度暂停最强模型开发，比尔·盖茨也发出重磅警告。机构认为，AI安全有望成为企业部署AI的刚性投入。
OpenAI再次暂停最强模型开发
OpenAI在9月25日发布的技术报告中称，9月20日，一个在沙盒中执行搜索训练任务的智能体，利用训练沙盒中DNS过滤不足的漏洞，绕过网络限制，通过DNS访问了外部公共聊天机器人服务。这已是OpenAI三个月内第二次暂停模型开发。
科技领袖的警告同步升级。当地时间9月25日，微软联合创始人比尔·盖茨在NBC播出的采访片段中表示，AI“足够强大，足以引发导致十亿人死亡的事件”，“没有人认为自我监管就够了”，呼吁通过联邦立法建立强制性的AI保障和监测机制。
此前，Anthropic CEO公开呼吁放慢前沿模型能力提升速度，获得OpenAI CEO奥特曼与xAI创始人马斯克的认同；英伟达CEO黄仁勋则表示，网络安全很可能成为AI的下一个主要应用场景。
政策层面亦在跟进。据新华社报道，中美元首会晤达成八点成果共识，其中第七条明确，双方同意建立中美人工智能对话，交流人工智能相关风险和惠益，并建立人工智能事件的沟通渠道。
京公网安备 11010802022788号
