它不会见好就收：知止不殆

过犹不及。 ——《论语·先进》

最近我总在琢磨一件事：你让一个大模型“再多想一会儿”，它不一定答得更好，用的多了，会经常发现它反而会把一道原本答对的题，给想错了。

这让我想起自己小时候做数学题。一道题算出来，心里不踏实，就翻回去验算；验算一遍还好，可要是揪着某个数不放心、反复重算，最后往往把对的改成错的——不是算错了，是算怕了。我后来才明白，那种反复，不是严谨，是不放心。人尚且如此，何况机器。

直到翻到今年的几篇论文，我才知道机器这毛病有个正经名字，叫“过度思考”（overthinking）。研究者给模型加算力、把它的思考链拉长，发现那条“越想越好”的曲线，过了某个点就往下塌——多出来的那些步，不再帮忙，反而在帮倒忙：它会在某一步里，把先前那个对的答案丢掉，换上一个错的¹。另一篇更极端，它一次塞给模型一大摞题，只配一个总额度，看它怎么分。结果这模型压根不会分：它照着题目的先后顺序来，先把前面的喂饱，后面的饿着；题目值几分、难不难，它一概不看。像个只顾埋头抄写、从不抬头看钟的学生¹。

工程上的第一反应：这算什么难题，训一下分配策略就好了。据说真有人这么干了，还挺灵——让模型动笔前先挑个档：“不想”“想短点”“想长点”¹。看起来，漏洞堵上了。

可我总觉得，这里头藏着两个它自己答不上来的问题：一个是“它到底为什么会这样”，另一个是更底层的：“人凭什么不会这样”。

先说头一个——它为什么会没完没了地想。

顺着往下翻，就能揪出两条病根：一条长在训练里，一条长在推理时。

训练那条是这样。这类会“长想”的模型，多半是用一种叫“可验证奖励的强化学习”（RLVR）训出来的：给它一道有标准答案的题，答对了给奖励，答错了不给——只认最后那个答案，中间怎么想，一概不管。毛病就出在“一概不管”上。因为答案只有到手才能验，模型在成千上万次试里，慢慢“摸”出一条规律：写得越长，蒙中的概率越高。它就把“长”和“对”焊在了一起——不是它偏爱啰嗦，是“多写”在训练里真能多拿奖励²。有人把这叫“长度偏置”（length bias）：奖励只要你答对，它就用“多写”去把答对的概率往上顶；至于那些多出来的字到底有没有用，没人管过。

推理这边，更加有意思。就算它已经被训得爱写长，为什么长反而会把对的写错？把翻到的这几篇论文拼起来，是一幅挺清晰的画：

首先，每一步都是一次“采样”，而采样必然带噪声。 想得越长，步数越多，每一步那点小偏差，就有越多次机会被后面继承、放大。有人画出了那条曲线：准确率随思考长度是个倒 U 形——先升，过了某个点就往下掉³。这跟我小时候验算那个病，是一回事：不是你在原地打转，是你在把自己往回带。

其次，它那个“自我检查”，没有外面对照物。 这是个挺惊人的结论：论文研究者发现，不让它借助任何外部反馈、只叫它自己“再想想”，推理的正确率往往不升反降⁴。为什么？因为它所谓的“再检查一遍”，不是拿一份新证据去核对旧结论，而是拿它自己再猜一遍——同一个脑子，同一批先验，掷第二把骰子。它能把对的“检查”成错的，恰恰是因为它没有那面外面的镜子。

第三，最耐人寻味：它其实“隐式地知道”该停了。 这篇论文的标题就是问这个——“你的推理模型暗中知道什么时候该停手吗？”作者的答案是：知道。它内部有个信号，指着“够了”；只是这个信号，被眼下这套“使劲采样”的范式给盖住了⁵。

最后，讲“熵”的那篇，把这事看得更透。 它发现模型的思考分两段：前一段是“不确定区”，它在几条可能的思路上来回探；后一段是“确信区”，熵一下子坍缩，答案稳稳落定——可就在答案已经落定之后，它还在不停地往下写⁵。换句话说：它有一个“答案早就定了”的事实，却没有一个“我知道它定了”的行为。它明明“见”着了好，却收不了手。

这四篇论文搁一块儿，其实都在说同一句话：它的每一步“思考”，都是在自己内部重新采样，而不是向世界问一句。

我们再回头看人是怎么做这件事的。人的想，是一场跟世界的对话。你觉得不对劲，就去称一称、看一眼、翻翻书、问问人——你的“再想想”，中间总有东西从外面插进来：秤偏了、菜糊了、数对不上。正是这些“外面插进来的话”，替你把话头掐住，告诉你“这儿不对”“行了”。所以你停下来那一刻，不是你自己算出了一个“停”，是世界替你说了“停”。

机器这场“想”，却是一场独白。它从第一句到最末一句，听众只有它自己。它当然也能“再想想”，可它的“再想想”里，没有任何东西从外面插进来——没有秤，没有菜，也没有另一个人。于是它的“更多”，只是更多的它自己；它的“再检查”，只是拿它自己再猜一遍。这样一场独白，转得越久，就越容易把自己绕进去——前头那些“越算越错”的怪事，落到它身上，就成了规律。

这让我想起我从前借康德那句话琢磨过的一层：“无直观则概念空”⁶。没有直观喂进来的概念，不只是空——它会空转。机器的过度思考，就是一场再典型不过的空转：概念在概念之间来回倒腾，没有一刻被外面的东西碰一下。它像个关在屋里自言自语的人，越说越大声，却始终没开过那扇门。

再往根上挖一层，是“表征”这个词（前面琢磨过）⁷：机器的思考，是表征在不断地啃着自己。表征这东西，本身没有能让它停下的地面——它尽可以再表征一遍、再表征一遍；而“在世”有那个地面，你活在世里，世界是会推你一把的：它不听你讲理，它直接给你一个结果。人之所以能“知止”，是因为他脚下踩着地；机器脚下是空的，所以它只能一直走、一直走，直到把配额走完。

“知止而后有定。”《大学》这句话，我总觉得分量很重——它把“止”摆在最前头：知止，才有定，有定才有静、有安，往后才谈得上“虑”，才谈得上“得”。我们眼前这台机器，恰好把次序倒过来了：它有“虑”（思考），而且多得很；它独独缺了打头的那个“止”。所以它“虑”得再多，也难得其“定”，更难得其“得”——它把对的答案丢掉，就是把那个“得”弄丢了。

那人的“止”，又是从哪儿来的呢？

我们平时夸一个人“想得深”，好像“深”和“久”是一回事。其实不是。人的想，是一口气一口气呼吸出来的——会累，会烦，会忽然亮一下，也会在某个说不清的当口停住，嘟囔一句“就这样吧”。那个“就这样吧”，不是算出来的，是感觉出来的。中文给这种感觉，留了一个特别传神的词：火候。

烧菜讲火候，打铁讲火候，泡茶也讲火候。它从来不是“时间越长越好”——恰恰相反，火候的意思是：在那一口气上，刚刚好。早一秒生，晚一秒老，只有中间那一瞬是熟的。你没法把“火候”写成一条公式，因为它的答案每天都在变：同一锅菜，今天的火大一点，明天就得小一点；同一个人，这会儿想三秒，那会儿得想三天。火候，是一个关于“此刻”的分寸。

说到“此刻”，就想起我早先反复琢磨过的那个“变”（Werden）⁸。我说过，主流的 AI 骨子里无时间、无变化——它同时认得“晴”和“雨”，却认不出“从晴转雨”的那一段；你问它“现在几点”，它答得出钟面上的数字，却没有一个真的“现在”。这一回，“过度思考”这件小事，等于给那个旧判断又添了一个新证据：模型不是在“想”，它是在往下接；它不是在“时间”里走，它是在长度上爬。它有的是“已经生成了多少 token”，没有一个“此刻”。

而火候，恰恰是“此刻”的孩子。

我曾借轮扁的一句话说过——斫轮的诀窍，“不徐不疾，得之于手而应于心，口不能言”⁷。那个“不徐不疾”的分寸，是长在手上的，说也说不出来。机器的麻烦正出在这儿：它只有“言”，没有“手”；它只会在“徐”和“疾”（想多、想少）两头之间挑，却永远够不着那个“不徐不疾”。论文们想塞给它的，是一个更聪明的分配器；可“该停了”这个念头，不是分配出来的——它背后站着的，得是一个正在此刻活着的人。

想到这里，我又绕回那件小事上。机器把对的答成错的，不是因为它“想得不够好”，而是因为它没有一个会觉得“够了”的身体。它会一路算下去，直到预算烧完，因为它不知道什么叫“正好”——预算是个数目，火候不是。而人这一边，“知止”从来不是靠聪明，是靠一个活得够久、摔得够多的身体，一点点磨出来的那点分寸感。《老子》里甚至说“知止不殆”——懂得停，才不至于翻车。

“过犹不及”，孔夫子当年是说给两个学生听的：子张过了头，子夏差一点，都没到“正好”。我忽然觉得，这句话拿来评今天的大模型，竟也严丝合缝——它不是不及，它是太过了，而且它自己看不出“过了”。它会说出全世界关于“够了”的句子，却没有一次，是真的觉得够了。

后记：这篇是接着轮扁那句“不徐不疾”往下写的。写着写着，我还是忍不住往技术那层多挖了两铲——它为什么会没完没了地想，训练里埋了什么、推理时又出了什么岔子，我都摊开说了说；挖到底下才发现，那些岔子其实都通进同一个洞：它跟自己说话，却不跟世界说话。这么一看，“火候”“变”“此刻”“身体”这几样东西，原来都串在一条线上——火候是时间的，不是数目的；而知止，是世界的，不是算出来的。下一篇，我想聊聊另一个今年很热的词：神经符号。