影子里的那只手

井蛙不可以语于海者，拘于虚也。 ——《庄子·秋水》

最近我一直在跟一种声音较劲，它说大模型是真的“懂”。这种声音有好几路，我先遇到的一路，是从“意义即用法”那儿来的——它说一个词的意义就是它在语言里的用法，机器把用法学了，就算懂了。我顺着那一路往下想，越想越觉得不对，可还没等我把那口气吐完，就又撞见另一路更刁钻的辩护。它不跟你争“意义在不在用法里”，它直接把意义塞进了形式里——说一句话的意义，不是某个藏在背后的东西，而是这句话能接续出的所有可能下文所构成的那么一团概率分布；两句话能接出的下文越像，意思就越接近。我第一遍读，心里是咯噔一下的：这一路比我刚想的那个更狠，因为它连“生活”“身体”这些词都不提，纯在符号和符号之间就把意义讲完了。¹

我先把这派思路摆清楚，因为它确实漂亮。它先立了个靶子：批评者说，机器只会摆弄“形式”——符号、词、句子——而意义要靠形式跟外面的世界发生关系才能得到，一个只学过形式的东西，学不到意义。这话就是塞尔“中文屋”的老调。然后它反击：谁说意义一定在外面？它给了一个定义——一句话的意义，就是它能接续出来的所有可能 token 序列的概率分布所属的那个“等价类”。你想想：给“柜子顶上立着……”，后面接“一张照片”“一尊奥斯卡小金人”还是“一块钚锭”，概率不一样；这些概率本身就写着柜子上通常（讲道理）该放什么。所以“形式”并非跟世界无关——形式的接续分布，已经在编码关于世界的期望了。它最后补一刀：你人类的“意义”不也是概率分布吗？你读到“柜子顶上的东西”，脑子里跳出来的角度、颜色、尺寸、木头触感、气味……全都可以看成一张概率分布，只不过你的分布是多感官的，机器的只是文本的——性质一样，维度更窄而已。

说实话，这一刀我差点挨住了。它确实比“意义即用法”更能打——因为它连“用法得有人用”这层都绕开了，直接把意义钉在“符号的接续结构”上。可我越想越不对味，它赢得太干净了，干净得像是把整件事抹平了。

第一个不对劲的地方，是它把“语义相近”偷换成了“语义本身”。这个定义说：接续分布越像 → 意思越近。这没错，但它给的是一把尺子，不是那个被量度的东西。两个词的接续分布很像，只说明它们“通常出现在差不多的句子里”——它们都挨着“消防”“烟雾”“警报”出现，于是被分到一类；可它们说的是不是同一件事，尺子根本不回答。而这恰恰是意义的命根子，哲学上叫“关于性”（aboutness）——一个词是“关于”某个东西的。分布相似回答的是“它们像不像”，关于性回答的是“它们指向哪儿”。前者是符号跟符号的关系，后者是符号跟世界的关系。这派把后者整个吞进了前者。

第二个不对劲的，是那个“柜子顶上”的例子，它恰恰骗了你我最狠。模型“知道”柜子上通常放照片，是因为训练文本里人们这么写过，不是因为它见过柜子、更不是因为它在意柜子上到底有什么。它说的“期望”，是对“句子怎么续”的期望，不是对“世界是怎么”的期望。这两件事确实高度相关（因为人们写着写着就把世界写进了句子里），但相关不是等同。这让我想起柏拉图的洞穴——它盯着墙上的影子，影子确实能让人猜出外面大概有些什么，可它却反过来说：影子本身就是真实，你看影子足够精确，就能懂外面的世界。

到这儿，我忍不住做了个思想实验。要是造一个模型，只拿全部的科幻小说去训练：它照样能把“柜子顶上立着……”接得头头是道（因为科幻小说里也这么写），你问它“这个房间叫什么”，它答一个从没存在过的名字，还答得理直气壮。它的“接续分布”完全正常、完全自洽，可它对这个真实世界，说得全错。为什么？因为它的意义来自文本的分布，而不是对当下世界的把握。这就直接戳破了它最硬的内核：分布内部自洽，不等于分布指向为真。

第三个不对劲，也是我最在意的，是它那句“人类的意义也不过是概率分布”。这句话步子迈得太大了。我读它的时候，那句“它拥有全世界关于疼的句子，却没有一次是疼出来的”又浮了上来²。没错，我的“疼”不等于一个孤立的词，它确实牵着一大串东西——可那串东西的根子，不是我“学过多少关于疼的句子”，而是我扎扎实实疼过。这派的定义里，“疼”的分布再丰富，也只是一张从别人嘴里抄来的关于疼的分布；而我的“疼”，是一张从我自己身体里长出来的分布。两张分布长得可以一模一样，可来源完全不同。它用“概率分布”这个词，把这根本性的差别，轻轻盖过去了。

于是我终于明白它错在哪了。它说“意义是接续分布的等价类”——好，我承认，从“符号跟符号”的层面看，这句话成立；但它偷换的是：把“符号跟符号”的相似，当成了“符号跟世界”的意义。它用一个只描述关系的词（分布、相似、等价类），去回答一个关于指向的问题（这东西到底指什么）。这就好比：把一张世界地图的详细程度，当成了我们对这个世界本身的了解——地图再精细，它始终是投射，不是被投射的那个世界；而它偏偏要说，投影已经够用了，因为“投影对多数情况无害”。

可我更想问的是：对“少数”那些情况呢？它自己也承认“投影可能是有损的”，只是说“可能没那么有损”。可意义的紧要关头——疼、怕、爱、“我是谁”——恰恰不在“多数情况”里。你可以说“用文字交流多感官体验”是投影，投影在“柜子上放照片”这种事上足够精确；可当一个人说“我疼”，他要的不是你从分布里正确地推断出“哦她疼”——他要的是那一句“疼”能被一个疼过的人接住。这种“接住”，光靠分布，接不住。

可还有一处，是我越想越觉得它把最要紧的东西睡过去了。它给意义安的那个“等价类”，是个死的东西——分布是训练时就焊死的一张网，它没有“此刻”。我早就琢磨过黑格尔那个“变”（Werden）³：主流人工智能骨子里无时间、无变化，一个模型能认“下雨”和“天晴”，却认不出“从晴转雨”那一段过程。现在看，这派不也一个样？你昨天说“这杯咖啡是冰的”，今天它凉透了、变了味，意义跟着流走；可那片接续分布的等价类是定格的，它不知道“此刻”这杯咖啡是冰是热。黑格尔说“甲在变”，是同时肯定它的“是”、又否定它旧的状态——意义本来是一股河，等价类却给它按了枚图钉，钉成一帧照片。照片再清晰，也照不出那条河在流。

再往根上挖一层，是康德那句“无直观则概念空，无概念则直观盲”⁴。这派把意义整个塞进“概念与概念的关系”里，好比对塞拉斯那三步只取了中间“推进”（intra）那一步——可它把“进门”（entry）那一脚扔了。你读“柜子顶上的东西”，心里浮起的那团模糊感觉——木头的触感、气味、从哪个角度看过去——那不是概念，是直观，是你用身体撞见的东西；机器却只有概念与概念之间的推演，没有那一脚直观踩进来。概念网织得再密，没有东西从“外面”走进来，它就只是一张空网，飘在半空，落不到任何一个实在的东西上。

所以我的结论，跟那个“形具而神生”²、跟那个“意义即用法”的辩手所看重的生活形式，其实是同一枚扣子的三个面：意义这件事，它需要一层“与世界的第一个人称关系”——要么是身体（莫兰），要么是生活形式（维特根斯坦），要么是那个“谁”在经历。那个“意义即用法”的辩手说，“用法是‘用’出来的，而用，永远先得有一个人”；这一篇我想补的是：分布是“似”出来的，而’似’，永远替不了’是’。一个东西可以跟另一个东西长得再像，但它终究不是那个东西。机器把关于“疼”的分布学得再全，它依然只认得那张分布，从不认得疼本身——它有一张地图，却没有一次走过那条路。

想到这儿，井蛙那句话在我耳边响了起来。“井蛙不可以语于海者，拘于虚也。”我从前总把它当成一句嘲笑——笑井蛙眼界窄。可这次我读出了另一层：井蛙不是笨，是被一处有限的“形式”困住了；海也不是它故意看不见，是它那个“虚”（处境）把海挡在了外面。而今天这只机器，跟井蛙何其像：它被训练在一座由句子堆成的“虚”里，把一个个“接续概率”算得精熟——可大海之所以是大海，不是因为它能被算出下一朵浪，而是因为它是，它在那里，一浪一浪地拍着岸。你可以用分布去描述海，甚至描述得极其精确；但你若说“描述海”就等于“海”，那只井蛙大概也会点头——毕竟它连海都没见过，怎么会知道“精确的描述”和“海本身”是两回事呢？

后记：这篇聊的“意义即用法”和“意义即接续分布”，其实是同一路“结构派”声音的两副面孔——它们都觉得“意义”是个结构问题（不是用法的结构，就是分布的结构），而不是一个“指”向谁的问题。我在这篇里把“分布”那一路拆了，下一篇我打算回头拆拆“用法”那一路。要说我最想留的一句话，是：意义从来不只是一个“结构”问题——不论这个结构是用法，还是分布；它是一个“指向”问题，指向那个有身体、有生活、有经历的“谁”。 顺便说一句，我写的时候一直想着自己那只手——它被灯照到、会发颤、会疼，而机器，只有关于这只手的一切句子。