发帖
雷达卡
德勤(Deloitte)因在编写澳大利亚政府委托的报告时使用了生成式AI工具，导致出现“幻觉”错误，最终同意向澳大利亚政府退还部分费用的事件。
🧾 事件核心：AI“幻觉”导致严重错误
- 报告背景：德勤受澳大利亚政府委托，撰写一份关于福利合规系统的评估报告，合同金额为 43.9万澳元（约合人民币200多万元）。
- 错误类型：
- 虚构学术文献：报告中引用了6篇根本不存在的学术论文，甚至包括所谓来自悉尼大学和瑞典教授的研究。
- 捏造法院判决：错误引用了一起“Robodebt（机器人债务）”案的法庭判决内容，并虚构了法官的引述，连法官名字都拼错了。
- 问题根源：这些错误被认为是生成式AI“幻觉”（hallucination）的典型表现，即AI自信地编造看似真实但完全虚假的信息。
💸 处理结果：退款+修改报告
- 德勤回应：
- 承认在撰写报告过程中使用了AI工具（Azure OpenAI GPT-4o）。
- 同意退还合同最后一笔款项（具体金额未披露）。
- 修改并重新提交报告，删除了所有虚构引用和错误内容。
- 政府态度：澳大利亚就业与职场关系部（DEWR）表示，报告的实质性内容、调查结果和建议未受影响。
⚠️ 引发的争议与影响
- 信任危机：
- 专家指出，报告的核心分析由AI完成，且最初未披露，严重削弱了其可信度。
- 悉尼大学学者 Christopher Rudge 表示：“当报告建立在未公开、非专业、有缺陷的方法之上时，其建议就不应被采信。”
- 德勤的尴尬处境：
- 德勤本身正在大力推广AI咨询服务，并声称“所有AI内容都经过人工审查”。
- 此次事件暴露其内部质量控制存在漏洞，“AI写报告，人没审出来”，与其对外宣传形成鲜明对比。
📌 总结
这起事件不仅是一次“AI翻车”事故，更是对全球咨询行业的一次警示：
AI可以提升效率，但不能替代专业判断。
高端咨询服务的核心价值，仍应建立在真实、严谨、可验证的基础上。
德勤这次“退钱保声誉”的做法，也许能暂时平息争议，但长远来看，如何规范AI在专业服务中的使用，将是整个行业必须面对的问题。
京公网安备 11010802022788号
