隐式思维链 · Implicit CoT
语言模型能否不写出每一步，也完成推理？
显式思维链把中间步骤写成文字。隐式思维链（Implicit Chain-of-Thought，简称 Implicit CoT）让模型在内部完成推理，再输出答案。相关研究也使用潜在推理（latent reasoning）、潜空间推理和 latent CoT 等名称。
Yuntian Deng 等人在 2023 年首次提出 Implicit CoT：训练语言模型通过连续隐藏状态推理，而不写出显式中间步骤。论文中的知识蒸馏方法是这一方向的一种实现。2024 年的工作提出逐步内化（Stepwise Internalization），让模型在训练中逐渐减少对文字步骤的依赖。
先读什么？
按时间了解研究思路，再比较不同方法如何训练、如何计算。
-
Implicit Chain of Thought Reasoning via Knowledge Distillation
首次提出隐式思维链（Implicit CoT）：让语言模型通过连续隐藏状态完成中间推理，而不把这些步骤写成文字。论文先定义这一推理方式，再用知识蒸馏给出一种实现。
-
From Explicit CoT to Implicit CoT: Learning to Internalize CoT Step by Step
提出逐步内化（Stepwise Internalization）来实现 Implicit CoT：从显式思维链模型开始，在微调中逐渐移除中间步骤，让模型学会在内部完成这些计算。
-
Training Large Language Models to Reason in a Continuous Latent Space
Coconut 将最后一个隐藏状态作为下一步输入，在连续空间中反复计算，完成后再生成文字答案。
-
CODI: Compressing Chain-of-Thought into Continuous Space via Self-Distillation
CODI 通过自蒸馏对齐显式思维链与连续推理的隐藏状态，用较少的连续步骤承载推理过程。
-
Reasoning Beyond Language: A Comprehensive Survey on Latent Chain-of-Thought Reasoning
综述 Implicit CoT 与 latent CoT 的主要方法、表示方式和评测问题，并维护 Awesome-Latent-CoT 论文目录。
研讨会与致谢
ICLR 2026 Latent and Implicit Thinking（LIT）研讨会：日程、演讲与活动信息。
感谢 Awesome-Latent-CoT 的作者与维护者。其论文目录和综述为本站的文献整理提供了基础。