发帖
雷达卡
过去几年，美国AI政策讨论的核心问题是如何让AI发展得更快。随着AI竞争从模型能力扩展到芯片、数据中心、能源、资本和人才，美国希望保持在全球AI产业中的领先地位。但进入2026年，一个新的问题正在进入政策讨论：如果AI能力增长的速度开始超过安全体系建设速度，会发生什么？
9月19日，美国总统特朗普宣布计划成立“AI Force”，并表示将任命新的“AI Czar”。特朗普将这一计划与第一任期推动成立的Space Force进行比较，同时强调政府不会阻碍AI产业发展，而是希望推动AI产业继续增长。不过，截至9月20日，AI Force的具体组织架构、预算、人员规模、监管权限、职责范围和成立时间等仍未完全明确。因此，目前更值得关注的并不是它未来具体如何监管AI，而是为什么美国政府开始考虑建立新的AI协调机制。
这一变化与AI产业自身的发展有关。过去AI安全更多集中在错误信息、隐私、版权、偏见和深度伪造等问题上，而随着AI Agent能力不断提升，产业内部开始更加关注自主编程、操作电脑、调用API、访问数据库、执行代码以及协调多个Agent等风险。AI安全正在从“AI会说什么”逐渐转向“AI能做什么”。如果传统聊天机器人出现错误，通常还需要人进一步判断和执行；但当Agent可以直接操作软件、访问系统甚至完成交易时，风险就可能从信息层面进入行动层面。
这也是AI正在发生的重要变化。传统软件通常是“人—软件—行动”，由人决定任务，软件负责执行。而AI Agent正在逐渐变成“人—目标—Agent—工具—行动”，用户只需要提出目标，AI就可能自行搜索信息、调用工具、运行代码并完成多个步骤。随着AI从Chatbot向Assistant、Agent乃至更高程度的自主系统发展，安全体系也需要同步升级。
美国当前面对的核心问题，是如何在AI发展与风险控制之间寻找平衡。一方面，AI已经成为重要的国家竞争领域，美国需要继续推动GPU、基础模型、数据中心、AI软件、机器人和Agent发展；另一方面，AI能力扩大也带来了网络安全、欺诈、深度伪造、Agent滥用以及关键基础设施等新的风险。因此，未来AI治理可能不会简单采取“放任发展”或“全面限制”的方式，而是更加重视如何在保持创新速度的同时建立相匹配的安全基础设施。
AI安全未来也可能越来越接近航空安全等工程化体系。飞机并不是因为完全没有风险才可以高速运行，而是通过测试、认证、监控、维护、事故报告和故障分析等机制降低风险。AI同样可能逐渐形成模型测试、红队测试、Agent权限管理、部署监控、事故报告和故障分析等体系。核心并不是要求AI永远不犯错，而是让风险能够被测试、发现、限制和追踪。
与此同时，AI Agent还会带来一个更加现实的问题：谁负责？如果未来一个Agent错误转账、泄露数据、删除文件或者错误执行系统操作，责任究竟应该由模型公司、Agent开发商、云服务商、使用企业还是用户承担？传统软件中，人通常会主动点击执行；而Agent的自主程度越来越高之后，AI治理可能从Model Regulation进一步扩展到Agent Accountability。身份认证、权限管理、行为审计和实时监控等能力，也可能因此成为AI基础设施的重要组成部分。
从产业链角度看，AI Force背后的意义也不仅是监管。当前AI已经形成从半导体设备、先进芯片、GPU、HBM、AI服务器、数据中心、基础模型到Agent和机器人的完整产业链。因此AI政策同时涉及产业政策、能源、出口管制、国家安全、资本和人才等多个领域。美国需要考虑的并不只是AI发展速度，还包括如何在全球竞争中继续扩大AI产业规模。
值得关注的是，AI安全本身也可能形成新的产业链。随着企业大规模部署AI和Agent，市场可能出现更多AI模型评估、红队测试、Agent Security、AI Identity、权限管理、AI Gateway、AI Observability、Runtime Security、AI Audit和合规软件等需求。过去安全标准往往被视为企业成本，但随着标准逐步明确，也可能催生新的软件和安全基础设施市场。
因此，未来AI安全的重点可能不再只是模型参数规模，而是AI实际具备什么能力。例如，一个AI是否能够运行代码、访问互联网、调用企业数据库、接触金融账户、控制机器人或者自主调用其他Agent，都可能对应不同的风险等级和权限要求。未来AI治理或许会更加重视“能力—风险—权限—监控—人工监督”这一体系。
QYResearch认为，过去几年AI产业主要围绕Capability展开竞争，包括模型能力、GPU数量、数据中心规模以及Agent任务能力。但随着AI逐渐进入现实业务环境，Control的重要性正在提升。AI产业可能从Model Capability进一步走向AI Agent、Real-World Action、Safety Risk、AI Governance和Safety Infrastructure。
AI Force目前仍处于早期阶段，具体架构和权限尚未完全明确，因此现在判断其最终监管方式仍然过早。但从产业趋势来看，它所反映的变化值得持续关注：AI正在从单纯的科技产业问题，逐渐成为涉及经济、安全和治理的综合性议题。未来AI竞争可能不再只是“谁发展得更快”，还将增加“谁能够安全地规模化部署”。当AI从Chatbot走向Agent和自主系统，安全能力也可能从配套功能逐渐成为AI产业继续扩大应用的重要基础设施。
京公网安备 11010802022788号
