哲学随笔4#

13 January 2023

人工智能与身体:海德格尔眼中的那把锤子

以神遇而不以目视,官知止而神欲行。 – 《庄子·养生主》

最近在读海德格尔式人工智能的文章,读着读着,脑子里又蹦出上一篇那个“框架问题”,突然觉得从黑格尔式的“语义逻辑”和海德格尔式的“具身”,其实是同一个问题被劈向了两个方向。

上一回聊黑格尔《逻辑学》和 AI,我一直在琢磨“框架问题”——机器怎么自动知道什么相关、什么无关。我的理解是需要有“语义逻辑”:得先有范畴,机器才能判断相关性。可读到德雷福斯后,我见识到了一句更狠的——意义和相关性,根本不是符号能再现的。也就是说,光有范畴、光有符号还不够?那“相关”到底藏在哪里?

德雷福斯借海德格尔的锤子把道理讲透了。试着感受一下:你手里有把锤子,想让我把它“翻译“给一台机器。早期人工智能的办法是给它贴个功能标签——“锤子,用于锤钉子”。听起来挺合理对吧?可德雷福斯说,这个标签其实什么也没解释——如果你不知道什么叫钉子、不知道“抡起胳膊砸下去”这个动作、不知道“我想把它钉进墙里”这个目标,那么“锤钉子”这几个字本身就是不可理解的。要真正懂“锤子”,得先懂整个人类世界。这就是为什么那个会说话的机器人索菲亚其实什么都不懂——她有一整套语言,却没有那个世界。

明斯基大概不信邪,心想那就把整个宇宙都翻成符号,词汇总够用了吧?可翻成符号的世界,还是一堆符号。真正的死结在这儿出现了:就算塞进无穷无尽的词,机器该怎么自动挑出当下最相关的那几个?——想到这里我忍不住笑了,这不就是“框架问题”吗!明斯基的招数是“框架”结构:预先规定好使用场景和反应模式,把范围缩小,好绕开“相关性命中”这个刺头。可这样一来,机器只能在特定的情境里干特定的事,离人类智能越来越远。就好像为了躲开一个问题,把整个野心都拱手让了出去。

这个死结把符号派(GOFAI)逼退了,往后研究方向就转了。以海德格尔为基础,冒出三种路子:布鲁克斯的行为主义干脆不造世界模型,让机器靠感应器直接碰世界;阿齐的实用主义别从“锤子对象”出发,而从“用锤子做什么”出发;弗里曼的动态神经模型则说,生物跟世界打交道的基本模式是“感知—行动”,而学习,不是往脑子里存一个新符号,而是让整个“感知—行动”的模式本身发生改变。—— 认知的生长,原来不是往知识库里添条目,而是整个人跟世界的相处方式,悄悄换了副筋骨。这个“变”的念头一冒出来,我整个人就被击中了——这跟上一篇里黑格尔的“变”像得惊人!黑格尔说“甲在变”,是同时肯定“是”又否定“否“;弗里曼说,事物每次对我们显出新意义,不是存了个新符号,而是我们跟它互动的方式变了。变,原来是从身体里长出来的,不是从符号里推出来的。

这三条路就这么并排放着,我忍不住把它们往我天天碰的大模型身上挨了挨,察觉出一点儿说不清的凉意。布鲁克斯要砸掉的“中央模型”,恰恰是大模型把它做到了极致——那一串权重,就是整个人类语料压出来的最全世界地图,比任何专家系统都厚重。可它偏偏连布鲁克斯机器人那点“感知—行动”的回路都没有:你问,它答,这一来一回里它既不睁眼也不伸手,只是个 f(context) → P(token)。所以它懂这个世界的种种,却从没在哪个世界里“活”过;一撞上没见过的组合就现原形,一本正经地编。因为大模型连那点“与环境反馈校准”都欠缺,于是在真正开放的世界(新语境、没见过的组合)里比谁都容易抓瞎、易幻觉。这解释了为什么大模型强却需要Tools calling、RAG、guardrail 这些外挂来“接住”它——因为它自己没有与世界的回路1。阿齐那一路更妙——人用锤子时,脑子里并不浮现锤子的完整样子,只惦记手里的活儿;有趣的是,大模型在语言上几乎天生就这样,你给它个任务语境,它就围着任务转,压根不把“锤子”端详成一个对象。真正反讽的地方在于:阿齐要的是真的去钉,大模型只有“怎么钉“的说法,它懂锤子的千百种用法,却一次也没砸过。最让我后背发凉的是弗里曼:他说学习不是往脑子里塞符号,而是让整个“感知—行动”的方式悄然改变,且这改变随每一次互动继续发生;大模型恰恰拧着来——它的“感知—行动”在训练完成的那一刻就被定死,部署之后就冻住了,它唯一的“变”是上下文里那点临时适应,一离开这段对话就烟消云散,从不写回自己2。大模型语境里的“意义”本质上只是训练时就固化的统计偏好——永远指向过去,无法感受“此刻”生成新的意义,这也就是我上一篇黑格尔与人工智能的文章中说的“无时间、无变化”的具体机制性约束。这三条路绕来绕去,原来都在说同一句话:别把智能做成一张世界地图。而今天的大模型,偏偏是把整张地图都吞进肚子里,却忘了自己还得走出去、去跟世界碰一碰。所以那双当年看着符号派的眼睛,到今天一刻也没闭上——它在看着大模型,看它会不会也掉进同一个坑里。

兜了一圈,德雷福斯亮出强人工智能最大的死穴:人能在情境里直接把握意义,是因为我们有身体。世界是相对于我们的身体大小、需要、行动方式来显现意义的。图灵测试最大的毛病,就是只看“能说”不看“能做”——一台从没亲手抡过锤子的机器,就算把关于锤子的书全背下来,也真的不懂锤子。所以机器跟人的区别,不是“没有意识”,而是“没有身体”,或者说,没有依托人类这样一种在世方式的“身体—意识”。

想到这里,我再次忍不住问自己:那我天天在用的那个大模型呢?它也没有身体啊。它的“在世”是“在语料世界里”——它见过关于锤子、钉子、墙的无数句子,可它从没真正砸过一颗钉子。所以它“懂“锤子,是懂“锤子这个词该跟哪些词一起出现”,是共现的统计,不是锤击的体感。这正好接上上一篇我说过的:它像一台能说会道,看似洞察因果的统计机,它判断相关性靠的是语料里学来的权重,不是靠身体。德雷福斯要活到今天,大概会说:这个大模型就是索菲亚的加强版——能说,却无身。也正因如此,它在语境一变就抓错重点、一本正经地幻觉。

但故事并没有停在“机器永远没有意识”这里。海勒(Katherine Hayles)给了条更宽的路:别在“有没有意识”上打转,往下一层看“认知”——把认知理解为“从语境中解读信息、把信息与意义连起来的过程”。她把这个称呼为“认知者(Cognizer)”,想把生物认知和技术认知一次性都装进去;她有个提法我尤其喜欢,叫“认知集合体(cognitive assemblages)”——人和技术黏合成一个认知系统。想到这里,我马上就想到的就是此刻的自己:我正在用大模型帮我写代码、查资料,“我的思路”早就不是我一个人的了,有一半是这个模型替我检索、替我推演的。说我是“人”、它是“机器”,这条分界本身就已经开始模糊——我们俩拼成了一个更大的认知体。

所以再回头看那些“AI 要觉醒、要反叛”的恐惧,我越来越觉得那是想象出来的。这类叙事(《超验骇客》《西部世界》)都预设了一个前提:意识是件能脱离身体的东西,可以整个儿抽出来、灌进机器里。可海德格尔这条线恰恰说:意识是长在身体和世界里的,拔不出来。西部世界里真正让人发怵的,与其说是机器人觉醒,不如说是人一旦摘掉道德枷锁、面对一个异己的他者时露出来的贪婪和怯懦。索菲亚那句“你看了太多好莱坞电影”,其实说得在理。机器真正需要的,不是我们把它当成“另一个我”来怕,而是我们从它自身出发去接近——毕竟,那口锤子,跟我们人类,从来都是在同一个世界里抡起来的。

庖丁“以神遇而不以目视”——他砍牛时盯着的并不是一条被拆解的对象(那恰恰就是“再现”),而是让身体顺着筋骨间隙自己走。这不正是德雷福斯想要、而索菲亚永远做不到的那回事吗:锤子一旦被用得熟练,就从“一个对象”退成“一件顺手的东西”,你不再端详它、不“目视”它,只是“神欲行”。而这“神”也并非凭空而来,是庖丁十九年一次次解牛,在“感知—行动”里一点一点磨出来的(弗里曼)。所以说到底,那句“官知止而神欲行”讲的正是:让机器抓破头皮的“相关性命中”,人早就有了——它不是算出来的,也不是符号能再现出来的,而是身体跟世界贴过无数回之后长出来的。德雷福斯的锤子,和庄子的刀,原来是同一件东西。

后记:此篇写于疫情隔离期间,继之前随手写下的有关“框架问题“和黑格尔的那一篇,把“意识/身体“和 AI 的关系也理顺了些。技术与人终究不是对立的两极,贴得越近,越该反过来看清我们自己。

  1. 有个关键差异: GOFAI 是显式符号再现(Brooks 批的就是这个), LLM 是隐式分布式再现(权重是“黑箱”的,不是人可读的符号)。所以 Brooks 那一刀“符号再现是死的”, 对冲在 LLM 身上部分失效——因为 LLM 根本不是符号系统。 

  2. 大模型唯一的“适应”是 in-context learning——prompt 里的 few-shot、system、工具结果暂时塑造它的输出。但那是挥发的、不写回“身体”(权重)的,context 一失效就忘光。所以它像“短期、可擦除的伪装适应”,而不是 Freeman 式的“意义随互动持续生成”。 


Fork me on GitHub