科教兴国-思维链是大模型的符号神助攻：走向神经网络+符号操作的合二为一！

是 否 +2 论坛币

k人 参与回答

经管之家送您一份

应届毕业生专属福利!

求职就业群

赵安豆老师微信：zhaoandou666

经管之家联合CDA

送您一个全额奖学金名额~ !

立即领取

感谢您参与论坛问题回答

经管之家送您两个论坛币！

+2 论坛币

思维链是大模型的符号神助攻在人工智能发展的历史长河中，符号逻辑和神经网络一直如两条平行线，难以交汇。然而，2024年春节，DeepSeek发布的推理大模型R1揭示了一个令人惊叹的技术突破——思维链(Chain of Thought, CoT)的自主生成，其展现出的语言序列仿佛在模拟人类的符号逻辑。这一强化学习的进展或将重新定义符号逻辑与神经网络的融合路径。 DeepSeek R1 CoT 示例符号逻辑的回归 DeepSeek推理模型的发布引发全球关注，其强化学习框架下自主生成的思维链展现出惊人的问题解决能力与创作能力。尽管其核心机制仍是GPT风格的自回归下一词元预测 (next token prediction, NTP)，但模型生成的中间结果——思维链，却呈现出令人惊讶的符号逻辑特征，有效模拟了人类的推理过程。 这一现象值得深思：大语言模型的本质从未改变，包括最新的推理模型，其内部运作仍是基于向量计算的条件概率。然而，为了模拟人类的符号推理，这些模型竟然学会了通过自然语言构建推理链条。更令人惊讶的是，这些符号链条确实有效，它们结合内部的词元预测机制，显著提升了模型的推理和创造能力。这是一个非常值得回味反思的技术进展。这件事的奇妙，是ChatGPT核爆以来最大的震撼。 符号与神经的无缝对接 这项奇迹的发生尤其让我们符号AI的老司机感慨。多少年来，我们心心念念地追求两条路线的融合，希望符号逻辑能在关键时刻帮助神经系统和统计模型，但一直看不到入口。忽然间，在大模型预训练进入平台期的关口，神经社区内部打开了一扇通向符号逻辑的大门，找到了一种神经与符号融合的路径。这一突破来得如此突然而有力，不能不让人既惊且叹。可惊的是，符号逻辑终于开始发力了；可叹的是，闯出这条路的还是神经社区的研发者，没有符号研究者什么事儿。 大模型就是个端到端的黑盒子，符号仅在输入输出两个端口出现。具体说，我们只能在输入端将符号“嵌入”（embedding）至高维向量空间，并在输出端通过 softmax 映射回符号，而内部的多层前馈的数据流则完全由向量运算主导，与符号逻辑无关，也很难以人类可以理解的符号来解释（因此才有专门的大模型可解释性研究）。此前所有结合符号与向量的努力都失败了，感觉这两种表示就是不同物种，无法融合。符号逻辑一直坐冷板凳，而符号本身除了作为训练数据燃料，在内部智能运作上一点也帮不了忙。 符号与概率的桥梁：CoT的奥秘 现今的推理大模型将内在“思考过程”外化为自然语言CoT，很像是模型的内心独白或意识流。模型在生成最终答案前，CoT重新嵌入系统中助力最终答案的生成。看似简单的这一过程，却在推理时成功地利用了自然语言这一符号载体，使得符号逻辑与神经网络在端口上实现了全程对接，没有一点违和或不容。 这是怎么发生的呢？一切多亏了自回归的 NTP 范式。下一词元预测的GPT生成方式，使得内部的“思维过程”可以在输出端外化为符号CoT，从而利用符号推理的形态，一步步模拟人类思维过程。 从信息论的角度看，推理大模型在 question-CoT-answer 的生成过程中，实际上构建了一条低熵的信息传输路径。相比传统的 question-answer 直接映射，这种显式的中间步骤大大降低了输入question与输出answer的信息鸿沟，显著提升了正确答案的生成概率。正如我在之前的博客（推理新范式 query+cot+answer 支持新的 scaling law 吗）中所论述的，CoT 充当了信息桥梁的角色。虽然不是严谨的符号逻辑推断过程，但它无需改变概率模型的底层运作机理，实现了对于人类推理的有效模拟。 自然语言vs形式语言：CoT的载体选择 CoT 本质是思维，语言只是载体，原理上没必要用自然语言，或任何特定的语言（例如中文，或英文）。但现在的实现方式，无路DeepSeek的R系列，还是OpenAI的O系列，就是直接用了中文或英文的思维链表示。推理模型在运行时，CoT先在输出端外化为中文或英文的符号序列，然后自回归循环运作，最终生成答案。看上去简直就是在符号与神经之间变戏法。以前何曾想到符号介入神经，还带这么玩的，内部与端口天衣无缝。 我们都要感谢DeepSeek，要不是 DeepSeek 给了这样一个开源的春节大礼包，又完全公开了自己的CoT，我们会一直蒙在鼓里，绞尽脑汁也想不明白 reasoning 这种符号逻辑，怎么就悄悄进入了神经过程。符号与向量的矛盾通过端口外化，化解于无形。 从符号逻辑的角度看，自然语言虽然老妪能解，但其精确性远逊于数学符号、形式逻辑表达式或编程语言代码。对于数理问题或逻辑推演，CoT 用这些形式语言比用自然语言显然更合适。然而，目前思维链生成采用自然语言，而不是形式语言。偶然也夹杂了一些数学符号，但思维链整体还是压倒性的使用英语或中文。R1论文中还提到他们的CoT连计算机代码都排斥在外。感觉上，这其实不是推理的正道，但可以理解其成因。CoT 是模型自主生成的序列，而据以生成的基座大模型本身，其训练数据以自然语言压倒多数。原因之二是开发者刻意追求的可解释性以及对用户的透明性，觉得自然语言大家都容易看明白。R1在设计CoT强化训练的时候，强调了格式的奖励，其中语言一致性当成了一个目标。夹杂不同语言或代码的CoT，剔除出局了。从长远来看，这未必是最明智的决策。 前景与思考 推理模型的 CoT 无疑是神经网络与符号逻辑融合的一次创新，也是近年来人工智能领域的重要里程碑。未来的CoT研究方向，可以考虑越来越多地奖励 CoT 以更加严谨的形式语言表示。至少要文理分科，文科任务（如创作）继续用自然语言做CoT的载体，这类思维过程涉及的主要是篇章规划和表达斟酌，而非严格推理；理工任务（数学、编程、逻辑等）则不同，应该训练模型尽量使用形式语言来表示CoT推理过程。当然，要做到后者，可能还要进一步加强基座模型等代码和其他形式语言的数据配比，否则 LLM也许 “憋”不出来合适的表示。 最后说一下概率模型与符号逻辑的严谨性差异。推理模型的 CoT 是推理模型的现场发挥，很多时候显得不够严谨。但其实人脑也是一样。没人能出口成章地把一个复杂数学证明一气呵成，就如同没人能一口气写出一个没有bugs的程序。严谨性都是在反复校验、修正，甚至是几代科学家前赴后继不断探究中完成的。CoT 不够严谨是拿模型的草稿与人类专家的定稿对比产生的对比。可以预见，对于非常复杂的问题，推理模型应该像人类一样反复校正，独立复现结果比对。这可能要指望各种推理 agents 的相互协作，以及它们与人类反馈的多层交互。 【相关】 •  再谈自然模态数据是高维空间的低维流形
•  深度学习的局限性研究综述  
•  o3 deep research: 深度学习局限性研究报告  •  深度学习的基石：多层感知机
•  o3 Deep Research: DeepSeek R1 多阶段训练流程问答解析
•  RPA 赛道与大模型Copilots早期创业者的困局  
•  Transformer 和注意力机制简介  •  立委科普：如何理解自注意力机制中的QKV分工？  
•  DeepSeek 笔记：推理新范式 query+cot+answer 支持新的 scaling law 吗？  
•  DeepSeek 笔记：R1 部署阶段的推理机制  
•  从R1幻觉谈起，大模型幻觉是缺陷还是创意火花？
•  推理强化学习是端到端的监督，推理过程的非监督  
•  DeepSeek 风暴下看看它的论文  
•  大模型风云诡谲的下半场：scaling 失效？
https://blog.sciencenet.cn/blog-362400-1476115.html

扫码加我 拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

分享0 收藏1 回帖

关键词：合二为一 科教兴国 神经网络 神经网 Prediction

符号主义被打入冷宫太久了，难道神经是AI的终结者吗？
https://blog.sciencenet.cn/home. ... blog&id=1474512
虽然没人可以预测未来，虽然抛弃两条路线的一条感觉政治不正确，但的确不能排除这种单极主义的可能性。

众所周知，AI自从诞生，就有符号理性主义和数据经验主义的两条路线竞争，以及此伏彼起来回震荡的历史轨迹，直到30年前，钟摆就再也没有回落到符号主义一边的迹象。

这是为什么？

看大模型的当代史（still on-going）很有意思。每一次遇到挑战和障碍，都是主流自己跨过去的。将来是不是还是如此，可以观望，但感觉大概率还会持续。

大模型刚问世，大家惊异于其表现，但很快就从它的简单的“下一词预测”（ntp，next token prediction）的目标函数以及它概率模型的统计特性，得出一个结论：这不过是高级的统计模型，大号鹦鹉而已，它并没有理解。

伊利亚和辛顿不得不站出来一再解释：不要小看 next token prediction，它绝不是以前统计时代的 ngrams，而是抽象了人类各种知识的理解系统。当下一词预测越来越准的时候，没有对上文的深入理解是不可想象的。这种解释并不容易说服人。后来伊利亚追溯到了 K氏复杂性理论，似乎有了拿得上台面的理论支撑。但这一套说法对于绝大多数受众，太过玄妙和高冷，甚至很多博士和教授，也一样是雾里看花，不得不半信半疑。但除此之外，其实也没有更好的理论解释。

最后解开这个质问心结（“大模型根本就没有真正理解，一切不过是统计”）的是无数人与大模型交互的切身体验。 自己的体验不会骗自己： 每一个玩过大模型的人现在都意识到，大模型真能听懂自己的话，无论你怎么说，无论你用什么语言，甚至你话语背后的机锋和细微之处，它也比多数人理解更到位。

好，理解的问题大家搁置一边了，现在很少人还质疑大模型理解能力了。但接着就是另一个问题： 大模型不会推理。

杨立昆去年还把这一条作为自己反对主流大模型路线的根本理由（并鼓吹他的以视觉为基础的世界模型才是真正的出路）。很多人曾津津乐道的是大模型不会多位数乘法这样的小学算术。

但这条理由现在不成立了。在主流业界退出了 OpenAI的o系列和 DeepSeek的r系列等推理模型的今天，这种大模型不懂推理的指责不攻自破。

极端批判派当然可以从概率模型的不稳定的角度，继续质疑其推理不是真正的推理，不具有符号推理的严谨性和确定性。但用过推理模型做数学、代码以及做项目计划的人，绝大多数不再被此困扰了，因为很明显，大模型推理正在超越人类，现在已经修炼到硕士或博士的水平，代码能力也已经超过了大多数码农。而这只是推理模型刚刚起步上线的阶段，再给一两年，推理模型成为奥数冠军或代码冠军，都不是不可想象的事儿。

Again，跳过这个障碍，仍然来自内部，是大模型预训练几乎撞墙后的又一次内部创新。基本性质和基础未变，强化学习还是靠 ntp 去生成思维链（cot，chain-of-thought），推理模型仍然是概率模型。符号AI并没有帮任何忙。符号的作用仍然局限在 input 和 output 两端，连所谓内心独白的思维过程 cot，也是以 output 形式表现的。

这种领域流派内部的创造性和潜力，让人瞠目结舌。以前我们出身符号流派的人老一厢情愿地想着，AI主流遭遇困难了，我们逻辑派、文法派可以出手帮忙了。各种结合符号AI与神经AI的幻想，在我们的心中激荡。

如果把回顾AI历史的眼光拉得更远，我们可以看到现代大模型的前身是当年的各种统计模型，而神经基本是其中的一个支流。当年的那些统计模型遭遇种种瓶颈或天花板，最后还是在内部被深度学习突破了，从来没有符号主义任何事儿。

一个值得深思的问题是：为什么两条路线融合互补的理论美好，一直都是不可实现或不必实现的梦想呢。

可能说明了两件事。

第一是这种数据经验主义的路线，的确具有极大的韧性和潜力，远超我们想象。

这种潜力应该有更深层的原因。众所周知，人工神经网络是受到人脑神经启发而来的一种模拟，停滞多年后爆发了深度学习革命。十几年前的这场革命给我们带来了一次又一次的震撼，这些亮丽的拟人或超人的智能表现，使我们不禁在想，人脑神经也许就是这么工作的，具有同样的原理。人工智能达到或超越人类智能，机理相同应该是最有力的一个支持（虽然脑科学总有人说，我们对大脑知之甚少，貌似有一种把大脑神经的工作机理神秘化的倾向）。其他的一切手段，例如符号逻辑的公式和算法、统计模型的 feature engineering，都不是从真正意义上模拟人脑神经的工作方式，也许这就是它们注定走不远的症结所在。甚至可以说，神经框架内的各模态信号编码嵌入后的高维向量空间的确就是上帝的语言，或宇宙信息的本质，而符号不过是迁就人类感官的表象而已，或者说是人类强加给世界的一种体系。

第二，当一种路线具有超出我们想象的潜力的时候，科技进步所需要的就是足够人才密度去挖掘这种潜力。

我们知道，AI 领域具有这种聚集天才的优势。无数年轻才俊、聪明的大脑被吸引到这个领域，其天才密度超过了大多数领域。

在这样两个条件都具备的时候，我们永远不要低估它突破各种瓶颈的内部力量。那些AGI（Artificial General Intelligence，通用人工智能）的信仰者们一直在疯狂内卷，同时也的确不断在交出自己的成绩单。他们可能是AI的终结者吗？

【外一篇：符号逻辑“沦落”为辅助工具还是有自己不可取代的智能补足作用的】
yanyongxin：人之所以区别于其他动物，是因为进化出了推理能力。这种推理能力虽然是建立在神经元上的，但跟单纯的“本能反应”有了质的飞跃。它有了对象关系的抽象，从而可以进行多步骤推理，从而可以以对象关系链——语言的形式传播和记忆。推理本质上是一个离散过程，因此是可以符号化的，是一个在神经元体系上建立出来的模拟系统。但这种模拟的可能，很可能要求神经元系统与其他动物有结构上的差异。

推理系统与原始神经元思维的最显著差异，就是可以长时间思考。而不是“肌肉记忆”、“直觉”。不同人之间的差异很大。大学期间，注意到有些学生遇到简单问题时反应很快，面对复杂问题时，给他多少时间也没用。现在的LLM大致达到了文科生的推理水平。但还与训练有素的理科生，尤其是数学、物理的理科生有差距。数理专业的特征，就是将现实世界的问题严格的符号逻辑化。要在人的神经元系统上模拟出如此严谨的符号逻辑系统是需要特殊的机会（好大学，好老师）、长期的训练、和特殊的脑结构（“天赋”）的，要遵循良好的规则化习惯。但达到这个能力，就可以与机械化的严谨逻辑系统接口了，可以使用 Mathematica 之类了。

这就是人工智能下一步的走向：在神经元上建立更好的逻辑模拟系统，直到能与纯符号逻辑工具无缝链接。人脑中逻辑模拟系统是一个高能耗、高错误率、高构建成本的系统。它的一大好处，是能够跟底层神经元系统无缝联结。

立委：说得很好。

与符号逻辑系统接口就是 tool use，例如，遇到复杂数学问题，不要用自然语言的思维链（cot）去强行推理来影响概率性推理结论，而是LLM自己写代码去 call Mathematica。现在这种 tool use 的能力被定义为 LLM-native agent 的根本特性（之一）。所以 这种能力也还是 from within。

所以 我们看到了清晰的演进路线：

1 传统统计模型人工智障 不理解自然语言 solution： LLM e.g. ChatGPT 2. pretrained LLM 缺乏推理能力 solution： reasoning LLM e.g. o1 / r1 3. reasoning LLM 缺乏严谨的符号逻辑能力 solution： LLM agent （interfacing symbolic tools）
yanyongxin: 传统统计模型之所以人工智障 不理解自然语言，是因为没有足够大的参量空间和足够复杂的数据结构，来容纳理解语言所必须的世界模型。

谢谢分享呀！

感谢分享！