发帖
雷达卡
前言
2025年岁末，AI领域呈现出一种独特的双线发展态势：学术界持续探索大模型的能力边界，而产业界则对Agent的落地路径展现出空前热情。从NeurIPS到re:Invent，从硅谷创业车库到各大云厂商展厅，“Agent”已成为高频热词。然而，在这股热潮之下，越来越多一线工程师和创业者开始冷静反思——技术热度并不等同于商业成熟。
作为一名长期关注AI基础设施演进的观察者，笔者认为，当前Agent正处于关键转折点。它既承载着释放人工智能深层价值的巨大潜力，也面临算力、成本与生态适配的严峻挑战。本文无意唱衰或鼓吹，而是尝试拨开喧嚣表象，从工程实践、系统架构与经济模型三个维度出发，剖析Agent真正要走通的距离。我们所需要的，不是更多“干杯就醉”的口号，而是一套支撑其稳定运行的底层逻辑。
1. Agent为何被寄予厚望？
1.1 范式跃迁：从被动响应到自主决策
传统AI系统多为被动响应模式：用户提问，模型作答。在此框架下，AI始终是人类指令的执行终端。而Agent则实现了根本性突破，具备目标驱动、环境感知、工具调用与自我反思能力。例如面对“帮我规划一次跨州自驾游”的任务，一个典型Agent可自主拆解步骤，调用地图API、酒店预订接口、天气服务，并根据实时反馈动态调整路线与安排。这种由“问答机”向“协作者”的转变，标志着人机协作进入新阶段。
1.2 开发效率的指数级跃升
业界普遍预期，Agent有望将软件开发效率提升数十乃至百倍。其核心在于能够自动完成需求分析、代码生成、测试验证等多个环节。对于规则明确、重复性强的任务（如数据清洗、报表生成），Agent已接近实现“零人工干预”。这一前景吸引了大量风险投资涌入，也促使主流云服务商将其视为下一代AI基础设施的核心组成部分。
2. 推理成本：横亘在Agent面前的第一重障碍
2.1 成本结构失衡：超八成支出集中于推理
当前主流Agent架构高度依赖大语言模型（LLM）进行推理运算。每一次任务分解、工具选择、结果整合均需触发模型调用，尤其在长上下文或多轮交互场景中，Token消耗呈几何级增长。据多位创业者披露，推理成本占总运营开支的80%–90%。这意味着即便订阅费设定为每月30美元，一旦推理成本超过25美元，商业模式便难以为继。
- 模型调用频次高：简单任务可能引发5–10次模型调用
- 上下文长度膨胀：为维持任务连贯性，必须携带完整历史记录，显著增加Token使用量
- “Pro”模型依赖：普通模型难以处理复杂逻辑，必须采用更昂贵的高性能版本
2.2 算力瓶颈正由GPU转向内存
过去几年，行业焦点集中在GPU短缺问题上。但随着Agent对万级Token上下文处理需求的增长，内存带宽与容量逐渐成为新的制约因素。训练支持长序列记忆的Agent不仅需要高显存GPU，还需配备高速HBM内存以支撑状态存储。一位亚马逊工程师指出：“我们现在不缺算力，缺的是‘记性’——Agent需要记住太多中间过程。”
| 资源类型 | 2023年瓶颈 | 2025年瓶颈 | 主要原因 |
|---|---|---|---|
| GPU | 高 | 中 | 分布式推理优化、模型压缩技术逐步成熟 |
| 内存 | 低 | 高 | 长上下文处理、多Agent并发执行需求上升 |
| 网络带宽 | 中 | 中高 | 频繁调用外部工具、跨系统数据同步压力增大 |
2.3 “Develop for Cost”：新兴的开发哲学
在美国Agent创业圈，“为降低成本而开发”已成为共识。开发者不再单纯追求功能完整性，而是在架构设计初期即嵌入成本控制机制：
- 缓存常用推理结果，避免重复调用
- 使用轻量级模型处理简单子任务
- 设计任务中断与恢复机制，减少无效计算开销
这一趋势表明，Agent开发正从“功能导向”全面转向“经济可行导向”。
3. 软件生态尚未为Agent做好准备
3.1 现有系统为人服务，非为AI构建
当前绝大多数软件系统基于人类交互假设设计：图形界面、点击操作、表单填写等。这些交互方式对Agent而言效率低下甚至无法使用。Agent需要的是结构化、可编程、低延迟的访问接口。例如，若某电商平台仅提供网页UI而无开放API，则Agent无法实现自动比价或下单。
- 数据孤岛问题：用户订单、物流信息、客服记录分散于不同系统，Agent需多次认证并转换格式才能获取全局视图
- 接口语义模糊：REST API缺乏统一描述规范，导致Agent难以理解“/api/v1/createOrder”所需的具体参数
- 错误处理不友好：人类能理解“库存不足”提示，但Agent若未预设该错误码，可能陷入无限循环
3.2 Agent亟需专属交互语言
正如SQL之于数据库，Agent也需要一套标准化的交互协议。理想中的语言应具备以下特征：
- 声明式语法：Agent只需说明目标，无需指定执行流程
- 工具发现机制：可自动列出可用工具及其输入输出规范
- 状态感知能力：支持查询当前任务进度与上下文状态
目前，OpenAPI、Tool Calling等标准仍在演进过程中，尚未形成统一且广泛采纳的生态系统。
3.3 幻觉与失控风险源于交互复杂性
当Agent需协调多个异构系统、处理模糊语义或应对异常响应时，极易产生误解或执行偏差。这类“幻觉”并非源于模型本身缺陷，而是交互链条过长、反馈机制缺失所致。例如，某个支付接口返回非标准错误码，Agent可能误判为成功交易，进而引发后续操作混乱。因此，真正的风险往往隐藏在系统集成的缝隙之中。
当Agent需要在数十种可用工具中进行选择时，注意力机制可能因选项过多而被稀释，从而引发工具误选或参数误解的问题。例如，系统可能将“发送邮件”错误识别为“创建日历事件”。这种看似“智力下降”的现象，并非源于模型本身的能力缺陷，而是由于交互环境过于复杂和嘈杂所导致。正如黄东旭所言：“AI讨厌不确定性，而当前的软件世界恰恰充满了不确定性。”
4. 基础设施：被忽视的破局关键
4.1 Infra层创业迎来黄金窗口
要降低推理成本，不能仅依赖模型压缩技术，更需从底层基础设施入手进行创新。进入2025年，Infra赛道涌现出多个具有突破潜力的方向：
- 专用推理芯片：如Enfabrica采用的DPU架构，通过硬件级卸载通信与调度开销，显著提升效率
- 向量数据库优化：支持快速记忆检索，避免重复计算，减少不必要的推理消耗
- Serverless推理平台：按实际Token使用量计费，有效防止资源闲置与浪费
英伟达大手笔收购多家Infra领域的初创企业，正是看中了它们在降低单位Token处理成本方面的巨大潜力。
4.2 数据库厂商的战略转向
Snowflake、MongoDB等传统数据库厂商已不再满足于仅仅作为数据存储方，而是积极调整战略以适配Agent的实际需求：
- 支持自然语言查询：允许用户或Agent直接以“找出上月销售额最高的产品”这类语句发起请求
- 内置工具注册中心：使数据库自身可作为一个可被调用的功能模块
- 集成实时数据流：确保Agent能够获取最新的业务状态信息
这一系列转变标志着数据库正从传统的“被动数据仓库”进化为智能化的“主动协作者角色”。
4.3 模型层需具备“Agent原生”能力
目前大多数大语言模型仍以文本生成为核心目标，在工具调用、状态管理以及多步推理方面缺乏原生支持。未来的模型应内建以下关键能力：
- 工具使用控制器：实现对各类外部工具的安全、精准调用
- 任务分解模块：自动将复杂任务拆解为可执行的子步骤
- 自我验证机制：对执行结果进行内部校验，提升决策可靠性
唯有当模型“天生就会使用工具”，Agent的整体架构才有可能真正简化并趋于稳定。
5. 泡沫还是机遇？关键取决于基建进展
5.1 应用先行、基建滞后是危险信号
回顾技术发展史，每一次重大浪潮都曾出现“应用爆发”与“基建滞后”的结构性错配。互联网早期大量“.com”公司相继倒闭，正是因为支付、物流和安全等基础支撑体系尚未成熟。若Agent领域重演这一路径——众多创业公司蜂拥至应用层，却无人愿意深耕基础设施与数据底座——那么泡沫破裂只是时间问题。
5.2 真正的机会蕴藏于“脏活累活”之中
当前最被低估的并非那些炫目的Agent应用产品，反而是那些看似枯燥却至关重要的基础建设工作：
- 开发专用于Agent的监控与调试工具
- 设计低成本且高可靠的记忆存储解决方案
- 推动建立跨平台的工具调用标准
这些任务虽不具话题性，却是实现Agent规模化落地不可或缺的基石。
5.3 行业亟需形成理性共识
Anthropic员工的观点值得深思：“当前Agent还不构成泡沫，但如果所有人都追逐最显眼的应用层机会，而无人投入相应的基础设施建设，泡沫终将形成。”整个行业必须达成一个基本共识：Agent的价值释放是一个系统工程，不能寄希望于单一模型的突破。开发者、云服务提供商、数据库公司以及芯片制造商必须协同演进，共同构建可持续的技术生态。
结语
Agent所描绘的愿景令人振奋——一个能自主思考、行动并持续学习的数字协作者。然而通往这一理想的道路上，遍布着成本高昂、生态割裂与架构复杂的重重障碍。如今的热潮如同夏日正午的阳光，耀眼夺目却极易灼伤前行者。真正推动Agent走向成熟的，不是展会上的喧嚣庆祝，而是深夜实验室里对一行推理代码的反复打磨，是对某个API语义定义的严谨推敲，是对每一GB内存带宽的极致压榨。
技术史一再证明，伟大的变革往往始于对“不可能”的冷静审视。Agent不是魔法，它是一场需要耐心、协作与工程智慧的长跑。当我们不再急于宣告“Agent时代已经到来”，而是静下心来逐一解决“为什么跑不动”“为什么太贵”“为什么出错”这些具体问题时，真正的时代才会悄然降临。
京公网安备 11010802022788号
