118 页的手册,最该先看的是目录里那十行原则——每行一句话,主语都是"你",可以直接抄进内部制度再改细节。剩下的一百多页,一半在解释这十条为什么这么写,一半在讲怎么买、怎么管、怎么保证。
十项原则,一句话一条
| 原则 | 要求 | 落地在哪 |
| 1 | 你知道 AI 是什么、局限在哪 | 先学清楚能力边界,再谈用 |
| 2 | 你合法、合乎伦理、负责任地使用 | 早找法务、合规、数据保护 |
| 3 | 你知道怎么安全地使用 | 按 Secure by Design 与网络安全策略做 |
| 4 | 你在合适阶段保留有意义的人工控制 | 高风险决策必须有人确认 |
| 5 | 你懂整个 AI 生命周期怎么管 | 选型、搭建、日常维护、更新、退役 |
| 6 | 你用对的工具做对的事 | 先看需求,不先看模型 |
| 7 | 你开放且协作 | 用跨部门的实践社群,别各自重造 |
| 8 | 你从一开始就拉上采购同事 | 商业要求前置到设计阶段 |
| 9 | 你具备实施和使用所需的技能 | 团队里要有技术与伦理能力 |
| 10 | 你把这些原则与组织既有政策并用 | 该有的保证机制到位 |
十条的顺序不是随意的:先讲认知
(1),再讲合规(2、
3),然后是最容易被忽略的人工控制
(4),接着是生命周期
(5)、选型
(6)、协作
(7)、采购
(8)、技能
(9),最后落到"和你们单位已有的规矩怎么并存"
(10)。
第 4 条讲得最具体:什么叫"有意义的人工控制"
手册对这一条的要求是两句:要监测 AI 的行为,并且有预案防止它对用户造成有害影响;要确保任何受 AI 影响的高风险决策都经过人工确认,还要有可执行的干预策略。
它同时承认有一种情况做不到人工复核——需要即时响应的应用。对这种场景,手册没有要求硬塞一个人进去,而是要求另设安排。这个区分很实用:不是所有 AI 都必须"人在回路",而是高风险决策必须有人确认,即时响应的场景换成别的方式兜住。
第 1 条背后是一张局限清单
原则 1 说"你要知道它的局限",正文把局限拆成六类:
偏见:模型没有意识,输出会复制训练数据里的偏见。手册把偏见分成模型偏差(预测值与实际值的系统性偏离)与算法偏差(结果上的系统性不平等)。
数据数量与质量:数据不够,模型泛化不了;数据脏、有噪声、有偏,结果就不准。
准确性:很难做到任何条件下 100% 准确,所以要先说清楚拿什么客观指标衡量输出。
透明与可解释:深度学习、卷积与循环神经网络这类结构,复杂到很难追溯某个输入怎么就得出某个输出。
成本与可持续性:实施可能复杂、耗时、算力开销大,而且需要持续投入维护、更新数据、保持性能稳定;还要考虑部署的可持续影响,并检查有没有更好的替代方案。
生成式 AI 的额外局限:手册单列了一条幻构(hallucination/confabulation),大语言模型会生成看起来合理但并不存在的内容。
这六条的价值在于它把"AI 不靠谱"这种笼统印象,换成了六个可以逐条检查的位置。
第 8 条:采购不是最后一步,是第一步
很多单位做 AI 的路径是:业务部门先想方案,做完再找采购走流程,结果发现合同、数据条款、供应商锁定都对不上。手册把"和商业同事从一开始就合作"单列为一条原则,理由是 AI 市场变化快,需要商业同事在项目早期就介入,把商业要求前置。
这一条配合第 5 条(生命周期)和第 6 条(选对工具)看,构成一条完整链条:先明确要解决什么问题,再看市面上有什么工具,采购同事同步介入谈条款,然后才谈搭建与维护。
第 9 条区分了两类技能
手册提醒:用 API 调用预训练模型,和自己开发定制方案、训练自己的模型,需要的专长完全不同。前者偏集成与提示,后者要有模型训练与数据能力。团队配人之前先想清楚走哪条路,别按"都要会"来招人。
它还点名提到,决策者、政策岗位与高级责任人应该具备理解 AI 风险与机会的能力,包括对组织文化、治理、伦理与战略的影响;并建议用公务学习平台上的免费 AI 课程入门。
三种格式,按用途选
同一份内容有三种形态:PDF 版 118 页,适合通读与归档;HTML 版分章节,适合按需查某一条;另有十张可打印的海报,一张一条原则,适合贴在办公区或放进内部培训材料。
如果只想拿它做内部制度,海报那十张比 PDF 更好用——十句话就是十条规定,配上你们自己的流程说明即可。
用它之前要知道的两个边界
第一,它是英国政府的口径,采购框架、网络安全策略、数据保护法规都指向英国的制度环境。原则层面可以借,具体条款不能照搬。第 10 条自己就写了:这些原则要与组织既有政策并用,尤其是安全与数据处理方面的规定。
第二,它的读者是非技术管理者与公务员,假设你熟悉组织流程(采购、治理),但不要求会写代码或懂统计。所以它不讲模型怎么训练,只讲一个组织该怎么把 AI 用起来而不出事。
────────────────
十项原则的英文原文、六类局限的逐条表述、OGL 许可条款原句,以及 PDF、HTML、海报三种版本的地址,都整理在下面的回复里;需要的回帖留下,可见后自取。
把经管之家装进你常用的 AI 智能体中 一键快捷安装经管之家 MCP/技能,让 AI 帮你查教程、找数据、读论坛帖子。 检索、阅读公开帖子不收费,安装可申请领取:3 通用积分+100 论坛币+3 元论坛资金 说明: AI 算力按所用平台规则计算;附件按原帖条件获取;福利领取条件以活动页面为准。 |


雷达卡


京公网安备 11010802022788号







