SICI · 蕴灵宗 · 第二十二章 · 化神一层

窥探天道

通用人工智能 · 化神一层

你以为堆够参数就能跨越天道。可飞升之门前横着一面紫雾凝成的壁——壁上刻着"通用之劫"。你亲手把当前LLM排在能力光谱的质变分界之前,又在智能之壁前听见那句低语:"你的模型在模式匹配,不是在推理。"通用不是一个终点,是一个方向。

智能之壁低语:「实现AGI最可能的路径是什么?继续Scaling?新架构?类脑?多模态融合?——赌不赌?」
序章

飞升之门

路径之赌 · 核心挑战四选 · AGI探索全景

化神之巅的风是冷的。你脚下是一道窄桥,桥尽头矗立着一面紫雾凝成的壁——壁上刻着四个字:智能之壁。紫雾里有声音,像深渊在呼吸,又像一个声音在称量你。高斯老祖站在壁前:「你练了二十一章的功,元婴圆满,化神初成。你觉得通向AGI的路是什么?」紫雾深处浮出四条路径的轮廓。

飞升之门,四条AGI路径悬浮于智能之壁前
高斯老祖 高斯老祖

「AGI不是更大的模型,是质的跨越。但通往这个跨越的路不止一条——继续Scaling、新架构、类脑计算、多模态融合。先猜,智能之壁会记账。猜错了也没关系,它每记一笔都是你欠的假设。」

智能之壁 智能之壁

「又来了一个觉得堆参数就是AGI的。打个赌——实现AGI最可能的路径是什么?你每猜错一次,紫雾深一分,我都记下来。」

路径之赌 · 实现AGI最可能路径预测挑战器

反直觉下注(四选一,可连错)→ 挑战展开 → AGI探索全景图拼合

智能之壁逼你下注:实现AGI最可能的路径是什么?逐个点击。
详解 · K22-02 AGI 的技术路径争论:Scaling vs 新架构

这是当前 AI 界最核心的路线之争。Scaling 派认为:能力随参数量、数据量、算力按幂律增长(Scaling Law),涌现会持续出现,GPT 系列一路验证了这条曲线——但批评者指出幂律意味着收益递减,10 倍算力只换几个百分点,且推理、世界模型、持续学习等能力并未随规模自动出现。新架构派认为:Transformer 的自回归next-token预测本质上是最强模式匹配器,要质变必须换架构——世界模型(内部模拟环境)、因果推理(超越统计相关)、符号-神经融合(显式逻辑+隐式直觉)。争论的真相可能是:Scaling 决定了下限,架构决定了上限。

第一幕 · 自信→崩塌 前奏

AGI定义 · 从弱到强

能力光谱图 · 弱AI→强AI→超AI · 当前LLM定位

壁后是一条长长的光谱石径,石径上从左到右刻着六枚令牌——计算器、国际象棋AI、图像分类器、自动驾驶、大语言模型、AGI。每枚令牌下方都刻着它的能力边界。高斯老祖:「你先得搞清楚'通用'到底意味着什么。把它排在光谱上,看看当前LLM离AGI有多远。」

高斯老祖 高斯老祖

「光谱从左到右:弱AI(专用单一任务)→宽AI(受限通用)→AGI(能学未知任务)→超AI(超越人类全部能力)。注意——AGI不是光谱的最右端,是跳出光谱的那一步。当前LLM在光谱上,但它在质变分界之前。你拖游标,看清楚。」

智能之壁 智能之壁

「你以为当前LLM已经很通用。它只是会说话——会说话不等于会推理。质变分界,你过不去。」

AI能力光谱图 · 从弱AI到超AI

拖游标看光谱层级 → 标注当前LLM位置 → 质变分界线浮现

能力光谱 · 弱AI→宽AI→AGI→超AI

进度 66% · 当前层级:大语言模型
详解 · K22-01 AGI 的定义:从弱 AI 到强 AI 的光谱

弱 AI(ANI):只为单一任务优化,计算器、象棋引擎、图像分类器皆是——能力深度惊人但宽度为零。宽 AI:在受限领域内有一定通用性(自动驾驶只懂"路")。AGI(强 AI):无需重新训练即可自主学习分布外未知任务,Legg & Hutter 给出的形式化定义是"在广泛环境中达成目标的能力"。超 AI(ASI):全面超越人类。判据不是"某个 benchmark 多高",而是"能否面对从未见过的任务自行学会"——当前 LLM 靠海量训练数据覆盖了极宽分布,制造了近通用的假象,但遇到真正分布外的多步推理与反事实问题仍会崩塌。质变分界不在能力值上,在学习机制里。

第一幕 · 自信→崩塌 前奏

Agent架构 · 感知规划行动

核心循环 · 工具调用 · 函数执行

光谱尽头是一座环形祭坛,祭坛中央悬浮着四个光球——感知、规划、行动、反思,四个光球之间有箭头连成闭环。高斯老祖:「LLM是开环的——输入→输出→结束。Agent是闭环的——感知→规划→行动→反思,反思结果反馈到下一轮感知。这才是通用的雏形。」

高斯老祖 高斯老祖

「Agent的核心循环:感知(接收环境输入)→规划(LLM分解任务制定步骤)→行动(调用工具执行函数)→反思(评估结果修正计划)。工具调用让LLM从'会说'变成'会做'——搜索、计算、代码执行、API调用扩展了它的行动空间。你拖步骤,看循环怎么转。」

Agent架构推演器 · 核心循环 + 工具调用

拖步骤看循环转动 → 工具调用展开 → 函数执行流

Agent核心循环 · 感知→规划→行动→反思

步骤 0 · 当前阶段:感知

工具调用与函数执行

详解 · K22-05 AI Agent 架构:感知→规划→行动→反思

裸 LLM 是开环函数:prompt 进、completion 出、无后续。Agent 在此基础上加了三层结构:感知——接收环境状态(用户输入、工具返回、文件内容);规划——LLM 把任务分解为子目标序列(ReAct 的 Thought 链、Plan-and-Execute 的计划表);行动——执行具体操作并观察结果;反思——对照目标评估进展,失败则修订计划(Reflexion 的自我批评)。闭环的关键是"行动的结果重新进入上下文",使系统能根据反馈自我纠正——这是从"一次性应答"到"持续完成任务"的架构跃迁,也是通用性的工程雏形。

详解 · K22-06 Agent 工具使用:函数调用与 API 集成

工具调用(Tool/Function Calling)让 LLM 输出结构化的调用请求(函数名+JSON 参数),由外部运行时真正执行,再把结果回传给模型。工程要点:工具描述本身占用上下文,需精心设计 schema;模型可能幻觉出不存在的函数或错误参数,需要校验层;多步工具链中错误会级联,需重试与回滚策略。Toolformer 证明了模型可以自学何时调用工具,GPT-4 的 function calling 将其产品化。意义:LLM 的知识停在训练截止日且不会算数,工具把"会说"变成"会做"——搜索补时效、计算器补精度、代码执行补验证、API 补行动。

第一幕 · 第一崩塌

第一崩塌 · 智能之壁

推理失败复现 · 模式匹配vs推理 · 壁面首裂

祭坛后紫雾重新合拢,温度骤降。你以为Agent架构已经接近通用——可壁面深处涌出一道你从未见过的任务:多步推理与反事实推断。你的模型在它面前像纸糊的一样,简单任务95%准确,多步推理跌到18%。壁面裂出第一道紫红纹路。智能之壁从裂纹中渗出:

智能之壁 智能之壁

「你的模型在模式匹配,不是在推理。它在复述见过的统计相关模式,没在做因果推断。系统1快思考它很擅长,系统2慢推理它完全没有。第一笔账,我记下了。」

高斯老祖 高斯老祖

「这是规模的天花板——继续堆参数能给你涌现,但不能给你推理。推理需要的是因果结构,不是统计相关。壁面上的裂纹,是'以为规模即通用'的代价。」

智能之壁 · 推理失败复现 + 模式匹配诊断

拖任务复杂度看推理准确率崩塌 → 展开模式匹配盲区 → 壁面裂纹可视化

推理准确率崩塌 · 任务复杂度

复杂度 1 · 推理准确率 95%
详解 · K22-01 补:系统 1 快思考与系统 2 慢推理

Kahneman 的双系统理论:系统 1 是快速、自动、直觉式的反应;系统 2 是缓慢、刻意、逻辑式的推理。LLM 的前向传播天然是系统 1——一次前馈直接输出,无中间状态的显式操作。CoT(思维链)是用语言外化系统 2 的尝试:让模型把中间步骤写出来,等于借上下文做工作记忆,o1/o3 类推理模型进一步用 RL 训练长链推理。但根本差距仍在:真系统 2 需要因果模型(干预 do 算子、反事实"如果当初…"),而 LLM 学的是 P(y|x) 统计相关——分布内插值无敌,分布外外推崩塌。这解释了本关曲线:简单任务 95% → 多步推理 18% → 反事实 5%。

第二幕 · 挣扎→再崩塌 前奏

世界模型 · 内部表征

像素预测vs潜在预测 · 内部表征 · 未来状态预测

壁旁悬着一面水镜——镜面不映你的脸,映的是流动的画面:球落地、杯碎裂、风吹树叶。高斯老祖:「智能之壁说你的模型不会推理。那教它理解世界——让它学会预测下一帧。但要在哪个空间里预测,是你的选择。」

高斯老祖 高斯老祖

「像素预测:逐帧预测像素,短程准确长程崩溃——它在记住画面不在理解世界。潜在空间预测(JEPA):在抽象潜在空间预测表征而非像素,长程稳定——它在内部构建了世界的抽象地图。智能的本质不是重建每个像素,是在抽象空间中预测世界的演化。你切换模式,看误差怎么变。」

智能之壁 智能之壁

「预测画面?它学会的是'记住画面'还是'理解世界'?——你试了就知道。」

世界模型可视化器 · 像素 vs 潜在预测

切像素/潜在预测模式 → 拖帧看预测与误差 → 对比长程稳定性

帧预测演示 · 球落地场景

帧 0 · 误差 5.0% · 像素空间

预测误差 vs 时间步 · 两模式对比

详解 · K22-03 世界模型:内部表征与预测的框架

世界模型(World Model)是智能体对环境动态的内部模拟:给定当前状态和动作,预测下一状态——有了它就能在"脑内"试错,无需真实行动。Ha & Schmidhuber 2018 用 VAE+RNN 在潜空间学梦境并直接在其中训练策略。LeCun 的 JEPA(联合嵌入预测架构)进一步主张:预测应在抽象表征空间进行,而非像素空间——像素级预测被迫建模每片树叶的抖动(不可预测且无关紧要),表征级预测只需抓住"球会落地"的因果结构。这也是生成式视频模型(Sora 等)被称为"世界模拟器雏形"的原因与争议所在。世界模型被普遍视为从模式匹配通向规划与推理的必经桥梁。

第二幕 · 挣扎→再崩塌 前奏

具身智能 · 物理交互

感知-决策-执行循环 · 机器人基础模型 · RT-2

水镜后是一间石室,石室中央站着一具机械臂,臂旁是个杯子。高斯老祖:「智能不止于虚拟世界。具身智能让AI有了身体——它要在物理世界中感知、决策、执行。RT-2这样的机器人基础模型把语言理解与物理控制融合在一起。」

高斯老祖 高斯老祖

「具身智能的循环:感知(视觉/触觉传感器输入)→决策(语言模型理解指令分解动作)→执行(电机控制夹爪)→反馈(力觉/视觉验证)。RT-2将视觉-语言-动作统一在同一个Transformer里——它能听懂'把杯子拿起来'并执行。你拖步骤,看机械臂怎么动。」

具身智能模拟器 · 机器人抓取任务

拖步骤看感知-决策-执行循环 → 机械臂抓取演示 → RT-2基础模型

机器人抓取场景 · 感知-决策-执行

步骤 0 · 阶段:感知
详解 · K22-04 具身智能(Embodied AI):物理世界的感知与行动

具身假说:智能不能脱离身体与环境而孤立存在——人类的因果直觉、物理常识(物体恒存、重力、摩擦力)都来自身体与世界的持续交互,纯文本训练的 LLM 缺少这一根基(莫拉维克悖论:下棋容易端杯子难)。具身智能的完整循环:多模态感知(视觉/触觉/本体感觉)→ 任务决策(语言指令分解)→ 运动执行(轨迹规划与力控)→ 反馈修正。核心瓶颈是数据:互联网有万亿文本 token,却没有等量的机器人操作数据——仿真到现实(sim2real)的鸿沟与遥操作采集成本是当前最大约束。

详解 · K22-08 机器人基础模型:RT-2 / Octo / π0

RT-2(Google DeepMind 2023):视觉-语言-动作模型(VLA),把机器人动作离散化为 token,与视觉语言数据在同一个 Transformer 里联合训练——网络规模的预训练知识迁移到机器人控制,能泛化到训练集中没有的物体与指令。Octo(2024):开源的通用机器人策略,支持多种机器人形态与相机配置。π0(Physical Intelligence 2024):用流匹配(flow matching)生成连续动作序列,能完成叠衣服、装盒等长时程灵巧任务。共同范式:预训练 VLM 骨干 + 动作解码头,语言成为任务接口,Transformer 成为统一的"脑"。

第三幕 · 顿悟→突破 前奏

多Agent系统 · 协作与竞争

协作博弈 · 竞争纳什 · 涌现社会行为

石室后是一片星图般的竞技场——场上散布着无数Agent节点,每个节点都是一个小型智能体。高斯老祖:「单个Agent能力有限,多个Agent协作或竞争能涌现出超越个体的集体智能。这是通向AGI的另一条路。」

高斯老祖 高斯老祖

「多Agent三种模式:协作——共享信息共同收益;竞争——零和博弈纳什均衡;涌现——简单规则下自发形成社会行为(分工、等级、合作)。群体智能可以超过最强的个体。你切换模式,看群体行为怎么变。」

智能之壁 智能之壁

「多个笨Agent凑不出一个聪明的。协作?竞争?涌现?——你看了就知道,涌现的不是智能,是模式。」

多Agent博弈可视化器 · 协作/竞争/涌现

切协作/竞争/涌现模式 → 拖步骤看群体行为 → 群体性能曲线

多Agent博弈竞技场

步骤 0 · 模式:协作

群体性能 vs 步骤

详解 · K22-07 多 Agent 系统:协作 / 竞争 / 通信

协作模式:任务分解给专长不同的 Agent(研究员+写手+批评家),或用辩论/投票机制提升答案质量(multi-agent debate 可显著降低幻觉)。竞争模式:对抗博弈驱动能力自我提升——AlphaGo 的自我对弈、生成对抗网络都是"竞争即训练信号"的范例,纳什均衡是策略收敛点。涌现模式:Stanford 的生成式智能体小镇实验(Park 2023)中,25 个 LLM Agent 自发组织派对、传播信息、形成社会关系——宏观社会行为从微观简单规则中涌现。通信是粘合剂:自然语言协议让异构 Agent 即插即用。天花板也明确:编排层可以组合能力,但组合的上限受个体推理能力约束——笨 Agent 凑不出真推理。

第二幕 · 第二崩塌

第二崩塌 · 持续学习之壁

灾难性遗忘复现 · 学新覆旧 · 可塑性-稳定性困境

竞技场后紫雾重新合拢,温度骤降。你以为Agent架构+世界模型+具身智能已经接近通用——可壁面深处又涌出一道考验:持续学习。你让模型依次学4个任务,新任务越学越好,旧任务准确率却从95%暴跌到8%。壁面裂出第二道紫红纹路。智能之壁从裂纹中渗出:

智能之壁 智能之壁

「你以为模型能像人一样持续学习。它不能——学新任务时旧任务的权重被覆盖。这叫灾难性遗忘。第二笔账,我记下了。」

高斯老祖 高斯老祖

「根因是参数共享——神经网络用同一组参数学所有任务,新任务梯度覆盖旧任务最优权重。这是可塑性-稳定性困境:既要学新的(可塑性),又要记住旧的(稳定性)。EWC、经验回放、蒙元架构都是部分解,没有完全解决。持续学习是AGI的未解难题。」

持续学习之壁 · 灾难性遗忘复现 + 根因诊断

拖学习步数看旧任务准确率暴跌 → 展开根因诊断 → 持续学习解法

灾难性遗忘 · 旧任务准确率 vs 新任务学习步数

步数 0 · 旧任务 95% / 新任务 5%
详解 · K22-09 持续学习:终身学习与灾难性遗忘的克服

人类每天学新东西不会忘掉旧技能,神经网络却会——顺序训练任务 B 时,任务 B 的梯度把对任务 A 最优的权重拉走,这就是灾难性遗忘,本质是稳定性-可塑性困境:权重太稳则学不进新知,太活则留不住旧识。三条主流缓解路线:正则化——EWC 用 Fisher 信息估计各参数对旧任务的重要性,给重要参数加"弹簧"惩罚改动;经验回放——保留一小撮旧样本混入新训练(成本最低也最常用);架构隔离——模块化网络为每个任务分配专用子网络(如 Progressive Networks),根治遗忘但参数随任务膨胀。为何这是 AGI 级难题:持续学习需要在不人工划分任务边界、不存储全部历史的前提下终身积累——目前没有任何方法在大规模上同时满足这三条。

第三幕 · 顿悟→突破 前奏

AGI路径 · 技术路线对比

Scaling/新架构/类脑/混合 · 优劣势 · 时间表

两道刻痕之后是一条长廊——长廊两侧悬挂着四幅路线图,每幅图上画着不同的通向AGI的路径。高斯老祖:「你已经看见了规模的天花板和持续学习的深渊。现在把四条路摆在一起,看清楚每条路的优劣势和时间表。」

高斯老祖 高斯老祖

「四条路:Scaling路线(堆参数堆数据,已验证但渐近)、新架构路线(世界模型/因果推理,天花板高起步慢)、类脑路线(脉冲神经网络,能效高但不成熟)、混合路线(融合各路线优势,务实但复杂)。没有一条是银弹——AGI可能需要多条路径的整合。你点击各路线卡片,对比曲线。」

AGI路径对比器 · 四条技术路线

点击路线卡片查看优劣势 → 对比能力增长曲线 → 时间表评估

能力增长曲线对比 · 投入→能力

点击上方路线卡片查看详细优劣势与时间表。
详解 · K22-02 补:四条路线的优劣势与时间表

Scaling 路线:工程确定性最高、生态最成熟,但幂律收益递减+推理缺席,是"已验证的渐近线"。新架构路线(世界模型/JEPA/因果推理/神经符号):直击当前缺失的推理结构,理论天花板最高,但研究风险大、工程成熟度低,突破窗口约 5-15 年。类脑路线(脉冲神经网络/神经形态芯片):能效比数字芯片高几个量级,但硬件生态与学习算法(脉冲反向传播仍不成熟)双重欠账,是 15-30 年的长线赌注。混合路线:用 Scaling 打底、Agent 架构补行动、世界模型补推理、工具补能力边界——系统复杂度高,但每一组件都有现成基础,3-8 年内最可能看到"近 AGI"系统。务实的判断:终点属于新架构,但第一个抵达的可能是混合系统。

第三幕 · 最高潮

Boss 战 · 天道三问

天道三问 · 壁账清算 · 排除刻痕收网

长廊尽头紫雾重新合拢,温度骤降——智能之壁凝聚成形。它不是人形,是紫雾深处一道没有五官的轮廓,轮廓里映着无数崩塌的推理曲线。它翻开一本账册:「你来了。带着你的两道刻痕,和你的壁账。三问。答对,我弥合。答错,你的化神修为归零。」

智能之壁 智能之壁

「你以为堆够参数就能通向AGI——它不是。我住在你'以为规模是万能钥匙'的地方。你每以为规模能填所有的坑,我就深了一丈。证明给我看:你的两道刻痕不是耻辱,是你的排除法——每一条'此路不通',都在告诉你正确的路在哪里。」

壁账累计 0 笔 · 三问全对后清零

第三幕 · 收束 · 化神一层入门

顿悟 · 窥探天道

知识图谱点亮 · AGI方法论 · 境界突破 化神一层

轮廓弥合,你站在化神之巅。山脚是你走过的路——AGI定义、Agent架构、智能之壁、世界模型、具身智能、多Agent、持续学习、路径对比。山顶放着一面窥天之镜,镜面裂纹愈合为紫金纹路。高斯老祖:「你想窥探天道。面前有三道认知:AGI是能学未知的质变、Agent是感知规划行动反思的闭环、灾难性遗忘是参数共享的代价。」

高斯老祖 高斯老祖

「AGI探索的全部,是在专用与通用之间寻找质变的跨越。规模给涌现但不给推理,世界模型在潜在空间预测演化,具身智能让AI有了身体,多Agent涌现集体智能,持续学习是未解的难题,新架构是最可能的方向。通用不是一个你抵达的终点,是一个你持续行进的方向。化神一层,窥探天道——你已入门。但飞升之路的下一道壁,不在能力,在对齐。」

窥探天道 · 三道认知 + 知识图谱 + 境界突破

点亮三道认知 → 点亮 AGI 知识图谱 → 境界突破动画(化神一层入门)

三道认知 · 各三选一

复盘 · K22-01~09 窥探天道全景

本章九枚知识点连成一条窥探之路:AGI 是能学未知任务的质变分界而非更大模型(K22-01),路径之争中 Scaling 已验证渐近、新架构天花板最高(K22-02);世界模型在潜在空间预测演化,是系统 2 推理的桥梁(K22-03);具身智能补上物理交互这一课(K22-04),Agent 闭环让 LLM 从会说变会做(K22-05/06),多 Agent 涌现集体智能但受个体上限约束(K22-07),机器人基础模型把语言与动作统一进同一 Transformer(K22-08);持续学习与灾难性遗忘仍是未解的深渊(K22-09)。两道排除刻痕——纯规模外推不通、朴素顺序训练不通——不是失败,是排除法:每一条"此路不通"都在为正确的路标界。通用不是终点,是方向。

高斯老祖高斯老祖

「量子计算也能赋能机器学习——量子机器学习(QML):用量子叠加编码数据、参数化量子电路做变换。理论上高维希尔伯特空间带来指数级表达力,但当下量子比特数与噪声限制了实用,多在理论探索期。」

交互实验

能力涌现

拖动模型规模与临界规模,观察临界后的能力跃升。