发帖
雷达卡
KlipC报道：当地时间6月4日，美国人工智能企业Anthropic呼吁全球各大顶尖AI实验室考虑放缓前沿人工智能研发进程，并警告称，AI系统演进速度很快，可能朝着能够自主优化、自我改进的方向快速演进，从而对社会构成重大风险。
Anthropic当天在一篇博客文章中披露了内部研究数据，展示了其最先进AI模型在能力提升方面的惊人速度。文章指出，随着模型性能持续突破，人工智能的发展似乎正朝着“递归式自我改进”迈进，即AI系统能够在无需人类干预的情况下，对自身进行优化和迭代。
Anthropic表示，可以选择放缓或暂时中止前沿人工智能的研发，以使社会结构和相关研究能够跟上技术发展的步伐。并制定相应的监督与验证机制，以确保参与方遵守相关协议。
有观察人士将Anthropic关于自家产品潜在风险的警示，视为一种营销话术，并以其限制发布高性能网络安全模型"Mythos"为例，认为此举在宣扬自身产品能力的同时，对外以安全为由作掩护。
值得关注的是，Anthropic在5月完成新一轮融资，筹集650亿美元，估值逼近1万亿美元，并于近日秘密递交了IPO申请。据KlipC了解，与此同时，公司还与SpaceX、亚马逊、谷歌等公司签订了算力合作协议，以支撑其AI软件需求的快速扩张。
不过，也有学者表示，即便Anthropic的公开表态中掺杂了营销考量，但其对AI发展的判断值得关注。Anthropic的领导层多年以来一直在警示AI的潜在风险，呼吁社会协作应对。
京公网安备 11010802022788号
