摘要:8月24日,小米发布全球首颗6nm 3D晶圆级堆叠AI加速芯片玄戒O100,带宽1.22TB/s达旗舰手机16倍,端侧推理速度330 Tokens/s。本文解析这颗芯片如何用堆叠工艺打破“内存墙”。

8月24日,小米在玄戒芯片技术沟通会上发布了一颗芯片:玄戒O100。

官方口径是“行业首颗6nm 3D晶圆级堆叠的AI加速芯片”。三个关键词:6nm、3D堆叠、AI加速。小米不是第一次做芯片,但这是第一次把“堆叠”两个字写在产品定义的最前面。

堆叠不是为了炫技,是为了解决带宽

先看一组数字。

玄戒O100的峰值带宽是1.22TB/s。什么概念?是当前主流旗舰手机的16倍。

这组数字背后是一个行业公认的难题——“内存墙”。大模型在端侧跑,算力往往够用,但数据搬运跟不上。芯片和内存之间的通道太窄,算得快但喂不饱,推理延迟就上来了。传统手机SoC的I/O带宽在运行生成式AI任务时,数据搬运效率普遍偏低。

玄戒O100的做法是把内存和计算芯片“焊”在一起。

它采用3D Wafer on Wafer晶圆级垂直堆叠工艺,搭配Hybrid Bonding混合键合技术,把两层DRAM晶圆和一层NPU计算晶圆垂直堆叠融合。键合间距1.4微米,内置258万个键合节点。数据连线从传统POP封装的96路扩展到28672路,数据通路提升了近300倍。

通俗点说,传统方案里数据和计算之间隔着一条“马路”,玄戒O100直接修了300条并行的“立交桥”。Face-to-Face金属层直连架构把DRAM和底层计算逻辑的物理距离大幅缩短。TSV硅通孔直径只有0.7微米。

这不是简单的封装技术升级,是在物理层面对数据传输效率做了一次重构。小米在研发阶段完成了多轮版图迭代,解决了晶圆堆叠中的翘曲、碎裂等工艺难题,F2F金属层直连结构已获得多项技术专利。

实测数据:330 Tokens/s

带宽是基础,最终要看跑起来怎么样。

在运行小米MiMo 3B端侧大模型时,玄戒O100的推理速度最高可达330 Tokens/s。现场演示的原型机采用玄戒O3主SoC加玄戒O100协处理器的双芯架构——主SoC管系统调度和通用计算,O100专职承担端侧大模型推理的高强度算力负载。

官方给出的整体AI性能提升数据是传统方案的10倍。

内置14核大模型专用NPU,搭配玄戒高带宽矩阵总线XRING HB-Matrix,支持多核并行处理、动态路由和总线拓扑。配合风冷主动散热可实现10瓦级解热能力。

三颗芯片一起发,O100是中间那块拼图

玄戒O100不是单独亮相的。同场发布的还有玄戒O3和玄戒D100。O3是3nm旗舰手机SoC,安兔兔跑分破522万;D100是国内首款3nm智驾AI芯片;O100夹在中间,定位端侧AI加速。

雷军说了一句话:“玄戒不只是小米的芯片战略,更是小米AI战略的物理基础。”

这句话不是套话。O100要对接的是澎湃OS和小米AI大模型,打通手机、汽车、智能家居的整套生态。小米的“人车家全生态AI算力底座”,O3管手机、O100管端侧AI推理、D100管智驾。三颗芯片拼在一起,才算把底座搭完。

商用节奏和技术含金量

玄戒O100已经研发完成,明年正式商用。原型机已经在沟通会上展示过,不是PPT芯片。

技术含金量方面,已申请15项专利,其中4项发明专利已获授权。全球首颗6nm 3D晶圆级堆叠AI加速芯片这个身份,意味着在3D堆叠这个方向上,小米走在了行业前面。

当然,6nm工艺放在2026年不算最前沿——O3已经是3nm了。O100用6nm可能是出于成本、良率和量产节奏的综合考量。但这颗芯片的价值不在制程节点,在堆叠架构本身。用6nm把1.22TB/s的带宽做出来,比用3nm做更有说服力。

端侧AI的竞争正在从“能不能跑”转向“跑得快不快、省不省电”。玄戒O100用堆叠工艺解决带宽瓶颈,给端侧大模型铺了一条更宽的路。明年商用之后,真正值得看的是它在真实设备上的表现——带宽数字再好看,最终要看用户手里的AI响应够不够快。