脑道共鸣
你以为算力就是一切。可在大脑殿堂前,高斯老祖递来一盏 20 瓦的灯——人脑用 20W 完成感知、推理、学习,GPU 却要烧数百瓦。大脑不是更快的处理器,是另一种计算范式:稀疏、异步、事件驱动、存算一体。向大脑学习不是复制它,是提取其计算原理。
类脑之门
大脑殿堂的门是一面悬浮的神经织网。织网里流淌的不是代码,是脉冲——稀疏、异步、只在需要时发放。高斯老祖站在门前,手里举着一盏 20 瓦的灯:「这是人脑的功耗。你练了二十二章功法,GPU 烧几百瓦做的事,它用 20 瓦就做了。」织网深处涌出一道暗绿轮廓——能效之壁。
「人脑不是更快的处理器,是另一种计算范式。它稀疏、异步、事件驱动、存算一体。类脑计算就是向大脑学习这些原理。先猜,能效之壁会记账。猜错了也没关系,它每记一笔都是你欠的假设。」
「又来了一个觉得算力就是一切的。打个赌——人脑相比 GPU 最大的优势是什么?你每猜错一次,我就记一笔效账。」
能效之赌 · 人脑 vs GPU 优势预测挑战器
反直觉下注(四选一,可连错)→ 挑战展开 → 类脑计算全景图拼合
类脑计算全景 · 向大脑学习图谱
详解 · K23-01 生物神经系统的计算特性:稀疏/异步/事件驱动
先把尺度摆正:人脑约 860 亿神经元、约 10¹⁴–10¹⁵ 个突触——Herculano-Houzel(2009, Frontiers in Human Neuroscience)用各向同性分馏法把流传已久的「千亿」校正到 860 亿量级。皮层锥体细胞平均发放率仅 0.1–4 Hz,任一时刻在发放的神经元约占 1–5%,这就是稀疏编码(Barlow 1972 提出 sparse coding 假设,Olshausen & Field 1996 用稀疏基学习复现了 V1 简单细胞的感受野)。异步指没有全局时钟,脉冲到达即触发下游计算——Maass(1997, Neural Networks 10(9):1659–1671)据此把 SNN 称为「第三代神经网络」,指出其时间编码的表达力高于前两代。事件驱动指只对输入变化响应,视网膜到 V1 的通路本身就是变化检测器。存算一体指突触既是权重存储又是乘加单元,权重从不离开计算发生之地。能耗账可以直接算:整机约 20 W 除以 10¹⁴–10¹⁵ 事件/s,得单突触事件 20–200 fJ;对照 Horowitz(ISSCC 2014「Computing's Energy Killer」)实测——32-bit DRAM 读 64 pJ、FP32 MAC 4.6 pJ、INT8 定点 MAC 0.2 pJ,单操作能耗差约 10²–10³ 倍。这正是台上四选一把正解设为能效比的理由:速度上数据中心 GPU 的 FP32 有数十 TFLOPS,远超人脑;2.5 PB 容量只是科普估算;并行度 GPU 也有数万核心。唯有能效是数量级的差距。教材对照:Maass 1997;Gerstner《Neuronal Dynamics》(CUP 2014) 第 1 章。
详解 · K23-09 类脑计算在AI推理中的应用前景
推理能耗已是部署瓶颈:训练大型模型的能耗达 GWh 量级(Strubell et al. 2019),推理侧则受制于数据中心功耗与散热配额,边缘侧受制于电池。类脑推理有三个能真正落地的窄带。其一,常开感知——事件相机加小 SNN 做振动监测、手势识别、关键词唤醒,整机毫瓦级;关键在于功耗随场景变化量而非时钟频率缩放,静止时几乎不产生事件。其二,微秒级闭环——DVS 事件延迟约 15 μs(Lichtsteiner et al., IEEE JSSC 2008),配合全异步 SNN(如 Loihi)可做高速避障与无人机姿态控制;帧相机 33 ms 的帧间隔在这类任务上是致命的。其三,超大规模稀疏检索与图推理的能效替代。但必须认清口径:SNN 论文里的能耗数字(如 Spike-driven Transformer 系列报告的 4–52 mJ/image)是「脉冲操作计数 × 单操作能耗」的理论估算,不等于端到端墙功耗;在 GPU 上以稠密张量模拟脉冲,稀疏带来的省电会被访存抵消——张量里的 0 照样要走一遍读写。所以现阶段结论是:类脑推理先在低功耗常开传感落地,通用大模型推理仍由 GPU/ASIC 主导,ANN 前端加 SNN 后端的混合架构是过渡形态。呼应台上:S0 押的这张能效赌注,兑现场景是边缘推理,不是云端训练。教材对照:Davies 2018;Fang 2023。
生物灵感 · 大脑的计算原理
殿堂内是一面巨大的对比墙——左墙流淌着生物神经网络的脉冲,右墙流淌着人工神经网络的连续激活。高斯老祖:「大脑用四种原理实现了 20 瓦的智能:稀疏、异步、事件驱动、存算一体。ANN 一个都没用——它密集、同步、帧驱动、存算分离。这就是能效差距的根源。」
「生物神经元是脉冲发放的——膜电位积累到阈值才发放,平时静默,这叫稀疏。它异步工作,没有全局时钟。它事件驱动,只对输入变化响应。它存算一体,突触既是记忆又是计算。ANN 呢?每个神经元每层都激活,全局同步,帧驱动,权重存内存算在 ALU——一次 FP32 乘加 4.6 皮焦,一次 DRAM 访存 64 皮焦,而大脑一个突触事件只花 20 飞焦,能效当然差千倍量级。你切换,看两种网络的活法。」
「你用密集激活换来了精度,用同步换来了可训练性,用帧驱动换来了简单。每一个便利,都是我收的能效税。这笔税我先挂着——等你撞上训练之壁,再一起算。」
生物神经网络展示器 · 生物 vs 人工神经元
切 生物/ANN 神经元 → 看稀疏/异步/事件驱动差异 → 类脑天平倾斜
神经元活动 · 脉冲发放
神经元活动 · 连续激活
详解 · K23-11 大脑的计算原理:预测编码/自由能原理
预测编码(Rao & Ballard, Nature Neuroscience 2(1):79–87, 1999)把皮层重新定义为一个层级生成模型:高层向下发送对低层活动的预测,低层只向上传递「预测误差」,误差为零时上行通路沉默。这篇论文的价值在于它不是抽象类比——它定量复现了 V1 神经元的非经典感受野效应(端抑制、非单调长度调谐),也就是那些用「被动滤波器」解释不了的现象。它与本章四原理同源:误差信号天然稀疏,绝大多数时刻预测成立,于是无事件、无能耗——这正是事件相机与脉冲网络的信息论根据。再往上抽象一层是自由能原理(Friston, Nature Reviews Neuroscience 11:127–138, 2010):任何能持续存在的自适应系统都在最小化变分自由能 F = E_q[ln q(z) − ln p(o, z)],感知即推断(perception as inference),行动即主动推断(active inference)——通过改变世界让观测符合预期。对 AI 的启发是结构性的:自监督的下一帧/下一 token/掩码重建目标本质都是最小化预测误差;变分自编码器与扩散模型的 ELBO 也是同一套变分下界。但要划清边界:自由能原理是解释框架而非可训练算法,至今没有给出能替代反向传播的工程规则;现有类脑硬件实现的是 LIF 加 STDP,不是在最小化自由能。呼应台上:S1 对比墙的生物一侧只画出一个发放点、其余神经元全部沉默——那不是画图省事,那正是「预测成立」时的常态。教材对照:Rao 1999;Friston 2010。
详解 · K23-12 神经科学对AI架构的启发
已经兑现的启发可以逐条对账:视网膜-V1 的感受野结构(Hubel & Wiesel 1962)→ 福岛邦彦 Neocognitron(1980)→ LeCun 卷积网络(1998);海马体记忆索引与互补学习系统(McClelland, McNaughton & O'Reilly 1995;Kumaran, Hassabis & McClelland 2016, Trends in Cognitive Sciences)→ 经验回放与记忆网络;选择性注意(Posner 1980)→ Transformer 自注意力(Vaswani 2017);基底节多巴胺神经元的奖励预测误差(Schultz, Dayan & Montague 1997, Science)→ 时序差分学习,这是神经科学直接写出强化学习目标函数的罕见案例。反向的批评同样有力:Zador(Nature Communications 10:3770, 2019,「A Critique of Pure Learning」)指出深度学习几乎完全靠数据量取胜,而动物用极少样本就学会——差距不在算力,在于大脑内置了亿万年演化写好的归纳偏置(架构、可塑性规则、发育程序),所以「向大脑借架构」比「向大脑借数据」关键得多。Richards & Frankland(Neuron 2017)进一步说明遗忘与成体神经发生是泛化的机制而非缺陷,这与深度学习一味追求记忆保留的直觉相反。当下的判断是:ANN 已经借走了层级与感受野,却没借走稀疏、异步、事件驱动与存算一体——四件里少借了四件;反向传播本身在生物合理性上仍存疑(权重传输问题:突触不可能知道反向传来的确切权重值),这也是本章训练之壁的深层原因。呼应台上:S1 的对比墙画的正是这笔「借了几件」的账。教材对照:Richards 2017/2019;Zador 2019。
脉冲神经网络 · LIF 模型
对比墙后是一座膜电位实验台。台上悬浮一个神经元球,球面是一层半透明的膜。高斯老祖递给你三个旋钮——阈值、时间常数和输入驱动:「LIF 是最简化的脉冲神经元模型。膜电位积累输入,超过阈值就发放脉冲,然后重置,再进入约 2 毫秒的绝对不应期。泄漏让电位自然衰减回静息值。你拖旋钮,看它怎么发放。」
「LIF 方程:τ·dV/dt = -(V - V_rest) + R·I(t)。膜电位 V 随输入电流 I 积累,同时以时间常数 τ 泄漏回静息电位。当 V 超过阈值 V_th,发放脉冲并重置到 V_reset,随后约 2 ms 内不再发放——绝对不应期。阈值越低越敏感,τ 越大遗忘越快。恒定输入下有解析解:稳态电位 V_∞ = R·I,发放率 f = 1 / (τ_ref + τ·ln[R·I / (R·I - V_th)]),这就是 LIF 的 f–I 曲线。皮层实测 V_rest ≈ -70 mV、V_th ≈ -55 mV、τ ≈ 10–30 ms,所以本台的毫伏数都按『相对静息电位』计。这是脉冲神经网络的基本单元。」
LIF 神经元模拟器 · 膜电位 + 脉冲发放
拖阈值 V_th / 时间常数 τ / 输入驱动 R·I → 看膜电位积累与发放 → 脉冲序列与 f–I 曲线;R·I ≤ V_th 则亚阈值不发放
膜电位 V(t) · 脉冲发放
脉冲序列输出
详解 · K23-02 脉冲神经网络SNN:LIF神经元模型
源流要先理清:Louis Lapicque 1907 年提出 integrate-and-fire,比 Hodgkin & Huxley(1952, J. Physiology;1963 年诺贝尔奖)用电导微分方程刻画枪乌贼巨轴突的 Na⁺/K⁺ 动力学早了四十五年;LIF 是把 HH 的阈值行为线性化后得到的最小可解模型,Izhikevich(2003, IEEE Trans. Neural Networks)随后证明两方程模型即可复现皮层全部发放模式,精度与代价一目了然。方程:τ_m dV/dt = −(V − V_rest) + R_m I(t),当 V ≥ V_th 时发放并重置 V ← V_reset,随后进入约 1–2 ms 的绝对不应期 τ_ref。前向欧拉离散正是台上这一步:V ← V + [−(V − V_rest) + R_m I]·Δt/τ_m,Δt = 0.5 ms、总时长 200 ms。常参数解可直接验算:V(t) = V_rest + R_m I·(1 − e^(−t/τ_m)),故发放周期 T = τ_ref + τ_m·ln[R_m I / (R_m I − (V_th − V_rest))],f = 1/T,这是 Type I 的 f–I 曲线(频率可从 0 连续起振)。代入台上默认值:τ_ref = 2 ms、τ_m = 20 ms、R_m I = 20 mV、V_th = 15 mV → T = 2 + 20·ln(20/5) = 2 + 20×1.386 = 29.7 ms,f ≈ 33.7 Hz,200 ms 内应有 6–7 个脉冲,与仿真计数一致;若把 R_m I 拖到 15 mV 以下,ln 的自变量发散,神经元进入亚阈值永不发放。参数的生物范围:皮层 τ_m ≈ 10–30 ms、V_rest ≈ −70 mV、V_th ≈ −55 mV(即 ΔV ≈ 15 mV),所以台上用「相对静息电位的毫伏数」而非绝对膜电位。教材对照:Gerstner, Kistler, Naud & Paninski《Neuronal Dynamics》(CUP 2014) 第 5–8 章;Maass 1997。
第一崩塌 · 训练之壁
膜电位实验台轰然碎裂。你试图用反向传播训练 SNN,可脉冲是一个阶跃函数——要么发放要么不发放,导数几乎处处为零,在发放点是一个 Dirac δ。梯度到这里就断了。能效之壁从裂隙中涌出,暗绿轮廓上刻满了数学公式:
「你的脉冲不可导,梯度怎么传?反向传播要求每一步都可微,可你的发放函数是 Heaviside 阶跃——导数几乎处处为零,发放点上是 Dirac δ,链式法则一乘就归零。你想用 20 瓦的能效,就得用脉冲;你用脉冲,就训练不了。这就是我设的壁。第一笔账,我记下了。」
「这是 SNN 的根本困境。ANN 的 sigmoid 处处可微,ReLU 几乎处处可微、只在零点不可导,工程上取次梯度 ∇ReLU(0)=0,且 x>0 一侧梯度恒为 1——梯度不会归零,所以能反向传播。SNN 的脉冲是离散事件,梯度在这里断裂。但大脑不需要反向传播——它用局部学习规则。训练之壁不是终点,是另一条路的起点。」
训练之壁 · 脉冲不可微复现 + 梯度诊断
切 ANN/SNN 激活函数 → 看梯度断裂 → 展开替代梯度方案
激活函数 · 可微性
梯度 · 导数
替代梯度 · Surrogate Gradient
详解 · K23-03 SNN训练方法:STDP/代理梯度/ANN-to-SNN
三条路的技术细节与各自代价。其一,代理梯度(surrogate gradient):前向仍用真阶跃 Θ(V − V_th),反向把 ∂Θ/∂V 换成光滑替代 g′(V − V_th)。ATan 形式来自 g(x) = (1/π)·arctan(πx/2) + 1/2,求导得 g′(x) = (1/2)/(1 + (πx/2)²),峰值恰好 0.5——台上画的就是这条钟形曲线,虚线是真实导数的 0;其他常用窗还有 sigmoid、三角窗、矩形窗。统一推导见 Neftci, Mostafa & Zenke(IEEE Signal Processing Magazine 36(6):51–63, 2019),更早的在线版本是 Bellec 等的 SuperSpike(Neural Computation 2018)。代价是引入近似偏差,且需沿时间反向传播(BPTT),显存随时间步 T 线性增长。其二,ANN-to-SNN 转换:先在 GPU 上训好 ReLU 网络,再把 ReLU 激活解释为发放率。Diehl et al.(Frontiers in Neuroinformatics 2015)用权重与阈值平衡实现快速高精度转换;Rueckauer et al.(IEEE TCAS-I 2017)给出含负激活、池化与偏置的通用转换规则。代价是需要足够多时间步累积才能逼近原精度,且失去真正的稀疏与事件驱动优势——能耗账要打折扣。其三,局部生物规则:STDP 与三因子规则(前后活动再加一个全局调制信号如多巴胺),硬件友好,Loihi 的片上学习走的就是这条,但没有全局目标函数,做不了大规模监督任务。为什么必须绕:Θ′(x) 几乎处处为 0、在 0 处是 Dirac δ,链式法则一乘即归零,梯度在发放处断裂。工程现状:直接训练已把 ImageNet-1K 推到 80.0% top-1(Meta-SpikeFormer, 55.4M),说明「绕过」不等于「落后」;但 T 越大精度越高、能耗也线性上升,精度与时间步成了新的权衡轴。教材对照:Diehl 2015;Wu 2019;Neftci 2019。
STDP 学习 · 脉冲时序可塑性
训练之壁的裂隙里渗出一缕绿光——那是突触。高斯老祖:「大脑不用反向传播,用 STDP。突触权重的改变取决于前后脉冲的时间差:前突触先发,后突触跟着发,权重增强(LTP);反过来,权重减弱(LTD)。这是局部规则,不需要全局梯度。」
「STDP 公式:Δw = A+·exp(-Δt/τ+) 当 Δt>0(pre 先于 post,LTP);Δw = -A-·exp(Δt/τ-) 当 Δt<0(post 先于 pre,LTD)。约定 Δt = t_post − t_pre。Markram 等人 1997 年在《Science》首次报告这一时序依赖,Bi 与 Poo 1998 年在培养海马神经元上测出 τ+ ≈ 17 ms、τ− ≈ 34 ms——LTD 的时间窗比 LTP 宽,曲线并不对称;单次脉冲配对只改变约 0.5–1% 的突触权重,本台把它归一化成 A+ = A− = 1。时间窗口内,谁先发谁就被强化——'一起发放的神经元连在一起'。你拖 Δt,看权重怎么变。」
STDP 学习规则可视化器 · 脉冲时序 + 权重更新
拖 Δt 看前后脉冲时序 → STDP 权重更新曲线 → LTP/LTD 区域
前后脉冲时序 · Δt 调节
Δt=+20ms · pre 先于 post · LTPSTDP 权重更新曲线 · Δw vs Δt
详解 · K23-07 事件驱动计算与稀疏激活
定义要先钉住:计算只在事件(脉冲到达)时被触发,无事件则电路静默;对照的 clock-driven 设计每个时钟周期都要刷新全阵列。能耗账从动态功耗公式起:P = α·C·V_dd²·f,α 是翻转率。事件驱动把 α 从「每周期所有节点」压到「仅被脉冲命中的路径」;全异步设计还顺带砍掉时钟分布——大型同步芯片上时钟树常占总功耗的 30–40%,这笔钱异步架构一分不花。稀疏激活的账要分两半算:若激活率 s = 5%,理论上 MAC 数与访存量同步降到 5%,但只有当硬件真的跳过零值(结构化稀疏、脉冲驱动的 AER 路由)时才省电;在 GPU 上以稠密张量存放脉冲,0 照样要走一遍读写与乘加,这就是「稀疏但没省电」的经典陷阱,也是 SNN 的能耗优势强依赖专用硬件的原因。学习同样是事件驱动的:STDP 只在前后脉冲都发生时更新权重——台上 Δt 滑块的物理含义就是这两个事件的间隔,无事件即无更新;这与「每个 mini-batch 全参数刷新」的反向传播形成结构对照,Loihi 的片上学习正是这种事件触发的局部更新。代价有三:异步设计失去时序可预测性,形式验证与调试成本显著上升;事件顺序在多核之间要靠 AER(Address-Event Representation)路由,规模扩展时路由拥塞成为瓶颈,SpiNNaker 为此专门设计了片上网络与路由表;稀疏性还会让批处理失效,难以用大 batch 摊薄固定开销。呼应台上:S4 的时序图里只有 pre 与 post 两个脉冲标记之间的区域才有权重改变,空白处什么都不发生——那就是事件驱动的字面意思。
神经形态硬件 · Loihi 与天机芯
突触绿光汇聚成三块芯片——左刻 Loihi,中刻 TrueNorth,右刻天机芯。高斯老祖:「软件模拟 SNN 太慢。真正的能效革命要靠硬件——神经形态芯片把脉冲神经元烧进硅里,权重贴着神经元放,事件驱动。这个词是 Carver Mead 在 1990 年的《Neuromorphic Electronic Systems》里造出来的;2008 年 DARPA 的 SyNAPSE 计划把整条产业线点着。Loihi 是 Intel 的,TrueNorth 是 IBM 的,天机芯是清华的。」
「神经形态芯片的核心是让权重贴着计算——突触就在神经元旁边,没有长距离搬运。传统架构里权重在内存、计算在 ALU,搬运吃掉大部分能耗。Loihi 用 Intel 14 nm、60 平方毫米,128 个神经形态核加 3 个学习核,131,072 个神经元——正好 128 乘 1024——1.3 亿突触,全异步无全局时钟,还能片上学习;Intel 在 LASSO 基准上报告它的能效-延迟积比 1.67 GHz 的 Atom CPU 好一千倍以上。TrueNorth 是三星 28 nm,100 万神经元、2.56 亿突触、约 70 毫瓦、26 皮焦一次突触操作。你切芯片,看规格对比。」
「你终于摸到门道了。不过别把'神经形态'当成'模拟'——TrueNorth 是全数字同步设计,Loihi 是全数字异步,它们靠的是稀疏和事件驱动,不是靠模拟电路的连续值;器件漂移、阈值噪声那套账,要等你走到忆阻器阵列才轮得到我收。存算一体是我唯一无法收搬运税的地方——数据不搬运,我就收不了搬运税。但别高兴太早,精度之壁在后面等着你。」
神经形态硬件对比器 · Loihi / TrueNorth / 天机芯
切芯片型号 → 看规格对比 → 存算一体 vs 冯诺依曼能效
芯片规格 · 参数对比
架构对比 · 存算一体 vs 冯诺依曼
详解 · K23-04 神经形态硬件:Loihi/TrueNorth/天机芯
史实锚点:Carver Mead 1990 年在《Neuromorphic Electronic Systems》(Proceedings of the IEEE 78(10):1629–1636)造出 neuromorphic 一词,主张用模拟 VLSI 直接实现生物物理方程,而不是用数字机去仿真它;2008 年 DARPA 启动 SyNAPSE(Systems of Neuromorphic Adaptive Plastic Scalable Electronics)计划,把 IBM、HRL 等团队的脉冲芯片推上工程化轨道。三块芯片的论文口径要分开记。TrueNorth(Merolla et al., Science 345(6197):668–673, 2014):三星 28 nm、芯片面积 4.3 cm²、54 亿晶体管、4096 个核、100 万神经元、2.56 亿突触,功耗约 70 mW,能效 26 pJ/突触操作,功率密度 5.4 mW/cm²——注意它是全数字同步设计,以约 1 kHz 时基推进,不是模拟电路。Loihi(Davies et al., IEEE Micro 38(1):82–99, 2018):Intel 14 nm、60 mm²,128 个神经形态核加 3 个学习核,131,072(=128×1024)神经元、1.3 亿突触,全异步无全局时钟,神经元模型可编程并支持片上学习;Intel 在 LASSO 基准上报告其能效-延迟积较 1.67 GHz Atom CPU 提升超过 1000 倍。Loihi 2(2021,Intel 4 工艺)单芯可达 100 万神经元量级。天机芯(Pei et al., Nature 572:106–111, 2019):28 nm、156 个功能核 FCore,约 4 万神经元、约 1000 万突触,走异构融合路线——同一芯片上并存 ANN 加速通路与类脑通路,自行车演示中同时运行 CNN、SNN、CANN、MLP 与混合网络五种网络;整芯片功耗论文未公开,故台上只标「未公开」,不做估算。判读要点:神经形态 ≠ 模拟 ≠ 存算一体。三条路线(数字异步脉冲 / 数字同步脉冲 / 模拟忆阻器)的噪声来源与精度上限完全不同,混为一谈就会把器件漂移的账错记到数字芯片头上。教材对照:Davies 2018;Merolla 2014;Pei 2019;Mead 1990;Indiveri & Liu《Neuromorphic Engineering》。
事件驱动 · DVS 事件相机
三块芯片旁悬浮一只眼睛——不是普通相机,是事件相机(DVS)。它不拍帧,只看变化。高斯老祖:「传统相机每帧拍全幅,大部分像素没变也拍——浪费。事件相机每个像素独立,各自记着自己的对数亮度 L;只有当 |log I(t) − L| 超过对比度阈值 C(典型 10–20%)时,才吐出一个事件 (x, y, t, 极性),然后把 L 更新掉。静止场景零数据,运动场景稀疏脉冲——和人眼一样。」
「DVS(Dynamic Vision Sensor)输出 (x, y, t, polarity) 事件流——哪个像素、什么时候、变亮还是变暗。没有帧的概念,时间是连续的。奠基作是 Lichtsteiner、Posch 与 Delbruck 2008 年发在 IEEE JSSC 的那片 128×128 传感器:动态范围 120 dB,普通帧相机只有 60 dB 左右;事件延迟约 15 微秒;整片功耗 23 毫瓦。静止场景不产生事件,功耗趋零;高速运动不会运动模糊。你切相机类型,看数据流差异。」
事件相机可视化器 · 帧相机 vs 事件相机
切 帧相机/事件相机 → 看稀疏事件数据流 → 能效对比
帧相机 · 全幅拍摄
事件相机 · 稀疏事件
数据流对比 · 帧流 vs 事件流
详解 · K23-08 神经形态视觉传感器:事件相机DVS
奠基作:Lichtsteiner, Posch & Delbruck, IEEE JSSC 43(2):566–576, 2008——第一片 128×128 的异步时间对比视觉传感器(DVS)。三个数字要记住:动态范围 120 dB(普通 8-bit 帧相机约 48–60 dB;120 dB 相当于 10⁶ 倍光强跨度,能在同一时刻同时看清隧道内外);事件延迟约 15 μs(帧相机在 30 fps 下的等效延迟是 33 ms,差三个数量级);整片功耗 23 mW。像素级机制:每个像素独立维护一个对数亮度记忆 L,当 |log I(t) − L| ≥ C 时发出事件 e = (x, y, t, p),p = ±1 表示变亮或变暗,随后 L 被更新为当前值;C 是可调对比度阈值,典型 10–20%,时间戳分辨率可达 1 μs。取对数是关键——它让传感器按韦伯-费希纳定律响应相对变化而非绝对亮度,这正是 120 dB 动态范围的来源。带宽账:128×128@30 fps 的帧相机恒定输出 491,520 像素/s;同一片 DVS 在静止场景下只剩背景活动噪声事件。带宽随场景变化量而非像素总数缩放,这就是台上「数据量约 10%」的来源。衍生器件:DAVIS(DVS 与 APS 主动像素同像素共存,兼得事件流与灰度帧,iniVation 与三星 IMX636 走这条)、ATIS(异步时间图像传感器,附带绝对灰度)、CeleX 等国产 1280×1024 阵列。与 SNN 的耦合:事件即脉冲,可直接喂给 LIF 阵列,无需帧到脉冲的 rate coding——那一步会把时间信息重新抹平。工程难点:事件流无序、稀疏、无纹理,卷积核与光流等传统 CV 算子不能直接套用,需要时间面(time surface)、事件累积帧、异步滤波器等专用表示。教材对照:Lichtsteiner 2008;Indiveri & Liu《Neuromorphic Engineering》传感章。
第二崩塌 · 精度之壁
事件相机后横着一面精度之壁——壁上分两栏,左栏 SNN,右栏 ANN,两栏下面各列着 ImageNet-1K top-1 准确率。SNN 80.0%,ANN 81.8%。高斯老祖沉默。能效之壁从壁缝里渗出:
「你以为能效白拿的?SNN 用脉冲换取了 20 瓦量级的整机预算,但脉冲是离散的、模拟通路有器件噪声、局部学习不如反向传播——精度就是代价。80.0% 对 81.8%,同规模只差 1.8 个点,看着不多?可你要拿 87–88% 的强 ANN 来比,差距立刻拉开——只是那时候模型规模已经不可比了。你能效赢了,精度还欠着。第二笔账,我记下了。」
「SNN 精度落后的原因有三:脉冲的量化损失(连续激活值变离散脉冲,且时间步越少损失越大)、模拟通路的器件噪声(忆阻器电导漂移、IR drop、ADC 量化——注意这笔账只落在模拟 CIM 路线上,Loihi 与 TrueNorth 是数字实现,不吃这份噪声)、局部学习不如反向传播全局优化。这是精度-能效的张力,但不是死结:替代梯度让 SNN 也能端到端训练,ANN-to-SNN 转换把训好的网络搬过来,混合架构取两者之长。差距在缩小——同规模已经只差不到两个点。」
精度之壁 · SNN vs ANN 精度差距复现
拖噪声强度看精度差距 → 对比任务表现 → 展开精度-能效张力
模拟通路器件噪声强度 · SNN vs ANN 精度
器件噪声 0%(文献基线) · SNN 80.0% / ANN 81.8% · 同规模对照精度-能效张力 · 不可同时最优
根因诊断 · 精度落后三因
详解 · K23-06 模拟计算的精度与噪声挑战
噪声要分层记账,混在一起就说不清谁的锅。器件层:忆阻器与相变存储器的电导存在 cycle-to-cycle 与 device-to-device 变异,量级约 5–20%;写入后还有随时间的电导漂移(PCM 尤其明显);再叠加热噪声(kT/C)与 1/f 噪声。电路层:交叉阵列的 IR drop——阵列越大,行列导线电阻造成的压降越重,靠边的单元拿到的实际电压低于设定值;潜行电流 sneak path——无选通器件时非目标单元也导通,电流从旁路漏回,通常要用 1T1R(一晶体管一忆阻器)或阈值选择器压住。系统层:ADC/DAC 量化,这是最贵的一笔——文献共识是 ADC 常占整个模拟 CIM 宏能耗与面积的一半以上,等于「省下的搬运费在量化上付回去」。精度上限可以直接算:n 行求和时若各单元噪声独立,误差按 √n 累积,等效信噪比决定可达的有效位数;模拟 CIM 的实际有效精度普遍在 4–6 bit 量级。台上的噪声滑块按此比例设定:SNN 侧每 1% 器件噪声衰减 0.15 个百分点、ANN 侧衰减 0.03,约 5 倍的敏感度差是量级设定而非实测拟合,用来看趋势。缓解手段:hardware-in-the-loop 的噪声感知训练、写入后电导校准、量化感知微调、冗余阵列投票。对照口径必须写清:SNN 的精度落后要在同规模同数据下比——Meta-SpikeFormer(55.4M、4 时间步)80.0% 对 RSB-CNN-152(60M)81.8%,差 1.8 点;跨规模去比 87–88% 的 ConvNeXt-L/Swin-L 级模型,差距更大,但那已不是同一个对照实验。教材对照:Indiveri & Liu《Neuromorphic Engineering》模拟电路章;Strachan 2020。
详解 · K23-13 类脑AI的挑战与局限
把本章两道刻痕摊开成五道壁,才看得清全貌。①训练壁:脉冲不可微,代理梯度是近似而非精确解,且沿时间反向传播使显存随时间步 T 线性增长;T 与精度、T 与能耗又互相拉扯。②精度壁:同规模仍落后 ANN 约 1.8 点(80.0% 对 81.8%),跨规模落后更多。③生态壁:Loihi 只通过 Intel 神经形态研究社区(INRC)向研究者开放,TrueNorth 无公开商用通道,全行业缺少 CUDA 级别的工具链、算子库与调试器,结果是「写得出来、跑不起来、调不动」。④基准壁:SNN 的能耗数字口径混乱——有的按脉冲操作计数乘单操作能耗算理论值,有的报芯片墙功耗,有的只报模拟核心不含 ADC,跨论文数字不可直接比较;本章台上改用 Horowitz 2014 的单操作能耗做锚点,正是为了避开这种不可比。⑤算法壁:至今没有与反向传播等效、又能规模化的生物可塑性规则;三因子规则(前后活动加全局调制信号)看似局部,但那个全局调制项本质上又把全局信息请了回来。反向的诚实话也要说:类脑不是「更省电的同款 AI」,在通用感知基准上它暂无优势;优势区间是常开低功耗感知、微秒级延迟闭环,以及部署后需要在线适应的场景。可用的判据是五项命中——是否稀疏、是否异步、是否事件驱动、是否存算一体、是否有片上学习。只用了脉冲而其余四项全无的系统,能效优势会被稠密访存抵消;这是识别「伪类脑」宣称最省事的滤网。教材对照:Indiveri & Liu;Zador 2019。
存算一体 · 忆阻器阵列
精度之壁后是一座忆阻器交叉阵列——纵横交错的导线,每个交叉点是一个忆阻器,阻值就是权重。高斯老祖:「这是存算一体的终极形态。输入电压加在行线上,电流按忆阻器阻值(权重)分配,列线汇总——一步完成矩阵乘法。没有数据搬运,计算在存储处发生。」
「忆阻器这个第四种基本元件是 Chua 在 1971 年从电路公理推出来的,2008 年 Strukov 等人在《Nature》上用 HP 的二氧化钛薄膜做出了实物——阻值由氧空位边界的位置决定。交叉阵列的算法:输入电压向量 V 加在行线,交叉点电导 G 就是权重,列线电流按基尔霍夫电流定律自动求和,I = G·V,一次就完成矩阵向量乘。所谓 O(1),是说延迟由 RC 充电决定、与阵列行数无关——不是免费。为什么值得?Horowitz 在 ISSCC 2014 给过实测账:一次 32 位 DRAM 读约 64 皮焦,一次 FP32 乘加约 4.6 皮焦,一次 INT8 定点乘加只要 0.2 皮焦。也就是说片外访存比一次浮点乘加贵约 14 倍、比一次定点乘加贵约 300 倍。忆阻器阵列把权重就地变成电流,访存项归零。但要付三笔账:ADC 量化(常占宏能耗一半以上)、潜行电流与 IR drop(要靠 1T1R 选通压住)、电导写入的不对称与漂移(在线训练很难)。你切架构,看模拟 vs 数字的差异。」
存算一体架构器 · 忆阻器交叉阵列 + 矩阵乘法
切 模拟/数字 架构 → 看忆阻器阵列矩阵乘法 → 能效对比
架构对比 · 模拟 vs 数字
能耗对比 · pJ/操作(Horowitz ISSCC 2014 实测锚点 · 对数刻度)
详解 · K23-05 存算一体架构(类脑计算语境):忆阻器交叉阵列的矩阵运算
器件史:Leon Chua 1971 年(IEEE Trans. Circuit Theory)从电路元件的公理完备性推出第四种基本元件 memristor,定义式 dφ = M(q)·dq——磁链与电荷的关系由历史决定;三十七年后 Strukov, Snider, Stewart & Williams 在 Nature 453:80–83 (2008) 用 HP 的 TiO₂ 薄膜做出实物,阻值由氧空位掺杂边界的位置决定,边界移动即写入。阵列计算的确切机制:n×m 交叉阵列,行线加电压向量 V ∈ ℝⁿ,交叉点电导 G_ij 就是权重,列线电流由基尔霍夫电流定律自动求和得 I_j = Σ_i G_ij·V_i,也就是一次矩阵向量乘 I = Gᵀ·V;延迟由 RC 充电决定,亚纳秒到纳秒量级且与 n 无关——这就是「O(1)」的确切含义:时间复杂度上的常数步,不是零成本。能耗账用 Horowitz(ISSCC 2014「Computing's Energy Killer」)的实测数:32-bit DRAM 读 ≈ 64 pJ、8 KB SRAM 读 ≈ 5 pJ、FP32 MAC ≈ 4.6 pJ、INT8 定点 MAC ≈ 0.2 pJ。于是片外访存比一次浮点乘加贵约 14 倍、比一次定点乘加贵约 300 倍;而矩阵乘是访存密集型算子,这笔钱占了实际推理能耗的大头。忆阻器阵列把权重就地变成电流,访存项归零,这是存算一体的能效根基。但要付三笔账:ADC 量化(常占宏能耗与面积的一半以上)、潜行电流与 IR drop(需 1T1R 选通或阈值选择器)、电导写入的不对称性与漂移(使在线训练困难,通常需要离线的写入-校验-补偿流程)。此外多层网络还要层间缓冲与信号重放大,稀疏时反而增加数字开销;工程落地形态是「模拟核心加数字外围」的混合宏,而非纯模拟端到端。教材对照:半导体手册 ch28;Strachan et al. 2020(Nature Communications,忆阻器嵌入式向量机);Chua 1971;Strukov 2008。
Boss 战 · 类脑三问
忆阻器阵列尽头暗绿浓雾重新合拢,温度骤降——能效之壁凝聚成形。它不是人形,是一面布满能效公式的暗绿之壁,壁上刻着 20 瓦的数字。它翻开一本账册:「你来了。带着你的两道刻痕,和你的效账。三问。答对,我弥合。答错,你的化神修为归零。」
「你以为能效是白送的——它不是。我住在你'以为类脑计算就是仿生'的地方。你每以为复制了大脑就等于类脑,我就深了一丈。证明给我看:你的两道刻痕不是耻辱,是你的排除法——每一条'此路不通',都在告诉你正确的路在哪里。」
效账累计 0 笔 · 三问全对后清零
顿悟 · 脑道共鸣
暗绿之壁弥合,你站在山顶。山脚是你走过的路——生物灵感、LIF 模型、训练之壁、STDP、神经形态硬件、事件相机、精度之壁、忆阻器阵列。山顶放着一面脑道镜,镜面暗绿纹路愈合为金光。高斯老祖:「你想向大脑学习。面前有三道认知:能效来自原理而非仿生、脉冲是能效之源也是训练之壁、存算一体是硬件根基。」
「类脑计算的全部,是提取大脑的计算原理而非复制其结构。稀疏编码省激活,异步事件驱动省数据流,脉冲通信省带宽,存算一体省搬运——四个'省'叠出千倍量级的单操作能效:约 20 飞焦一个突触事件,对上 4.6 皮焦一次浮点乘加、64 皮焦一次片外访存。但脉冲不可微是训练之壁,模拟噪声与量化是精度之壁,没有免费的能效。化神二层,脑道共鸣——你已圆满。下一块基石不在更快的算力上,在科学之殿:让数据驱动与物理约束交汇,用 AI 去发现规律而不只是拟合规律。那里等你的,是维度之壁。」
脑道共鸣 · 三道认知 + 知识图谱 + 境界突破
点亮三道认知 → 点亮类脑计算知识图谱 → 境界突破动画(化神一层→二层)
三道认知 · 各三选一
类脑计算知识图谱 · 脑道共鸣
详解 · K23-10 脑机接口BCI与AI的交叉
三条技术路线按侵入程度排:非侵入的 EEG(颅外电极,空间分辨率厘米级、带宽低,但无手术风险,是消费级主流);半侵入的 ECoG(皮层脑电,毫米级);侵入式微电极阵列(Utah 阵列、Neuralink N1 柔性电极,可分辨单神经元)。里程碑按年代排清:Nicolelis 团队 2000 年代初让猴用运动皮层信号控制机械臂;Hochberg et al., Nature 2006 的 BrainGate 试验让四肢瘫痪者用运动皮层信号控制光标;2012 年同一团队实现三维机械臂抓取;Willett et al., Nature 2021 报告手写意念解码达每分钟 90 字符、准确率 94% 以上;2023 年 Metzger et al. 与 Willett et al. 分别在 Nature 报告语音解码达每分钟 60–80 词。与 AI 的交叉点很具体:解码器本质是序列模型——从运动皮层脉冲群到光标速度是回归或自回归问题,近年直接换成 RNN/Transformer,并用大量未标注神经数据做自监督预训练;电极阻抗漂移与胶质增生使数据非平稳,域适应与在线校准成为核心难题,而这正是 STDP 式片上在线学习的用武之地——类脑硬件的低功耗与在线可塑性在植入式设备上是刚需,不是情怀。反方向同样成立:BCI 是神经科学的测量工具,为预测编码与群体编码假设提供数据,反哺类脑架构设计。边界要说清:带宽是硬瓶颈(数千通道对 860 亿神经元)、生物相容性与长期稳定性未解、神经数据的伦理与主权问题尚无成熟规范。呼应台上:S10 结尾高斯老祖提的 BCI,正是本章四原理从「仿脑」转向「读脑」的延伸。教材对照:Hochberg 2006;Willett 2021。
详解 · K23-14 类脑计算的未来路线图
按时间尺度分三段。近期(已发生或正在发生):事件相机加小 SNN 在工业常开感知上落地(振动监测、计数、手势);模拟与数字 CIM 宏进入边缘 AI 加速器充当乘加内核;Loihi 2、SpiNNaker 2 把研究社区的规模推到百万神经元量级;代理梯度直接训练把 ImageNet-1K 从六十出头推到 80.0% top-1(Meta-SpikeFormer, 55.4M、4 时间步)。中期:异构融合会成为主形态——天机芯式的 ANN 通路负责精度、类脑通路负责常开低功耗与在线适应,同芯片共存并共享内存层次;片上学习(三因子规则)用来解决部署后的分布漂移;模拟精度问题靠噪声感知训练、写入校准与冗余投票缓解到工程可用。长期:真正的「大脑级」规模(10¹¹ 神经元量级)必须依赖 3D 集成与光互连——二维平面上的电极密度与散热已经到顶,硅光子路线(半导体手册 ch29)在此交汇;能耗目标也要换口径,对标 20 W 级的整机而不是单芯片的 TOPS/W。可用于跟踪的判断信号有三:是否出现脉冲原生的大规模预训练模型(而非把 ANN 转换过来);是否有类脑芯片在真实产品的墙功耗上击败同精度 ASIC;是否有可规模化、又无需全局调制信号的可塑性规则替代代理梯度。本章落点始终一句话:向大脑学习等于提取原理(稀疏、异步、事件驱动、存算一体),不是复制结构。下一章 ch24 把这套方法论推向科学发现——数据驱动与物理约束的交汇。教材对照:Pei 2019;Davies 2018;半导体手册 ch28/ch29。
详解 · 复盘 · 从类脑之门到脑道共鸣的主线(K23-01~14 收束)
一条链走到底:生物灵感给出四原理——稀疏、异步、事件驱动、存算一体(K23-01),并用 20 W ÷ 10¹⁵ 事件/s ≈ 20 fJ 的算术把能效优势钉成数量级;预测编码与自由能原理说明「为什么只传误差是对的」(K23-11);神经科学持续供给架构灵感——感受野、互补学习系统、注意、多巴胺奖励误差(K23-12)。LIF 把生物的阈值行为写成可解方程(K23-02),f–I 曲线可手算验证;但阶跃发放造成训练之壁,代理梯度、ANN-to-SNN 转换与局部规则是三条绕道(K23-03)。事件驱动不只推理省,学习也省——STDP 只在事件发生时更新权重(K23-07)。硬件把原理烧进硅:TrueNorth 28 nm 数字同步、100 万神经元、70 mW、26 pJ/突触操作;Loihi 14 nm 数字异步、131,072 神经元、片上学习;天机芯异构融合、156 FCore(K23-04)。输入端由事件相机先把冗余掐掉:120 dB 动态范围、15 μs 延迟、23 mW(K23-08)。精度之壁的三因是量化损失、器件噪声与局部学习,同规模差 1.8 点(K23-06),连同生态、基准、算法三壁构成完整局限(K23-13)。忆阻器交叉阵列 I = Gᵀ·V 一步完成矩阵乘、把访存项归零,对照 Horowitz 2014 的 64 pJ 对 0.2 pJ(K23-05)。BCI 是这套原理向「读脑」方向的延伸(K23-10),路线图指向异构融合与 3D/光互连(K23-14),而推理真正落地的位置在边缘常开感知(K23-09)。三句收束:能效来自原理而非仿生;脉冲既是能效之源也是训练之壁;存算一体是硬件根基,但要付 ADC 与器件漂移的账。数字自洽清单:人脑 20 W、约 860 亿神经元、单突触事件 20–200 fJ;FP32 MAC 4.6 pJ、32-bit DRAM 读 64 pJ、INT8 MAC 0.2 pJ;SNN 80.0% 对 ANN 81.8%(同规模对照);Loihi 14 nm/131,072 神经元/1.3 亿突触;TrueNorth 28 nm/70 mW/26 pJ;天机芯 28 nm/156 FCore/约 4 万神经元;STDP τ+ ≈ 17 ms、τ− ≈ 34 ms。
「类脑之外,脑机接口(BCI)把电极贴到大脑皮层,解码神经信号驱动外设——瘫痪者意念打字、机械臂,是 AI 与神经科学的交叉前沿。说回来,AI 架构本身就深受神经科学启发:注意力对应认知聚焦、记忆网络对应海马体、脉冲网络直接模仿生物神经元——AI 不只是工程,是与脑科学的对话。」