存深之墙

存深域的入口是一道峡谷。峡谷尽头矗立着一面墙——不是石墙，是无数细密裂缝拼成的暗影，像被速度差撕裂的断面。

墙上有声音，像很多数据包在排队，又像一个声音在数数。

诺依曼老祖

「1980年到现在，CPU的速度翻了三万倍。DRAM的延迟呢？降了不到十倍。」

内存墙之影

「打个赌吧。你说——cache够大，这面墙就不存在了？」

石径尽头是一座镜像殿。殿中立着四面铜镜，每面镜子里映着同一行数据：A = 0。

诺依曼老祖

「四个核心，各有一份cache副本。你让它们各读各的，看起来天下太平。」

内存墙之影

「四份一样的副本，怎么可能不一致？你试试。」

镜像殿的后巷狭窄，头顶悬着一根铜线——总线。总线嗡嗡振动，像一条公共的神经。

诺依曼老祖

「每次有核心读写内存，信号都会经过这根线。每个cache都能偷听——这叫监听。」

内存墙之影

「偷听？你以为偷听就能一致？搭线吧。」

巷子尽头是一座四相阵台。台上四个方位各亮着一盏空灯，灯下无字——等你来填。

诺依曼老祖

「一致性的答案，不在书上，在你手上。你来推：一条cache行，到底有几种状态？」

扩展阁里，你S3的四相阵被原样搬来。但阵台旁多了一张空台，上有一盏未点亮的第五灯。

诺依曼老祖

「S→M要广播invalidate，等所有人确认。还有一个问题——两个核心同时执行A++，你觉得结果是什么？」

内存墙之影

「A++不是一条指令。它是读A、加一、写A——三步。两核同时做，丢一次更新，不是理所当然吗？」

扩展阁的穹顶裂开，露出一排核心插槽——4、8、16、32、64。

内存墙之影

「MESI？监听？加核啊。加到64。你觉得总线还撑得住？」

诺依曼老祖

「推吧。自己看。」

时序殿没有铜镜，只有一张巨大的时间轴横亘殿中。轴上排列着两个核心的读写操作，像两条并行的河。

诺依曼老祖

「一致了——同一个地址，所有核心看到的值相同。但顺序呢？Core 0先写A=1再写B=1，Core 1先读B再读A——你保证B=1时A也一定=1吗？」

内存墙之影

「一致性和一致性序，差一个字，差一道天堑。」

交错阵台上排列着八块内存bank，像八条平行的河道。

诺依曼老祖

「一次访存只走一条bank，其余七条闲着。你把连续地址分散到不同bank——让它们并行流。这叫交错。」

内存墙之影

「带宽翻倍？你试试。但——你能预取的，只有你能预测的。」

回廊两侧是两面巨大的全景图。左图：四个NUMA节点，每个节点有自己的本地内存和四个核心。右图：存储层次金字塔——顶端CPU寄存器，向下L1/L2/L3 cache，再向下DRAM，最底层SSD。

诺依曼老祖

「左边：你的核心访问本地内存~80ns，访问隔壁节点的内存~150-300ns——这叫NUMA。右边：DRAM和SSD之间，多了一层——非易失性内存。」

回廊灯火齐灭。暗影从四面八方压过来，凝成一面巨大的、布满裂缝的墙。

内存墙之影

「我是内存墙之影。我不住在你的无知里——无知救不了我。我住在你'以为优化能消灭物理极限'的地方。你每以为加一层cache、开一个预取就能填平我，我就厚了一寸。三问。答错一题，墙就厚一分。」

墙影凝固成DRAM单元结构后，峡谷透进一缕金光。你手里的延迟沙漏还在——CPU侧金沙飞落，DRAM侧沙粒迟滞。差距仍在，但你不害怕了。

诺依曼老祖

「你入门了。不是因为你答对了三问——答对的会忘。是因为你摔过的每一道裂痕，都刻在你手上了。但——这些核心，到底怎么连在一起？总线？互连网络？片上网络？你说说，64个核心要怎么通信才不堵？」