小米玄戒O100芯片正式发布：行业首颗6nm 3D堆叠AI芯片，端侧大模型迎来1.22TB/s带宽

8月24日，小米在玄戒芯片技术沟通会上一口气发布了三款自研芯片：玄戒O3旗舰SoC、玄戒O100端侧AI加速芯片和玄戒D100智驾芯片。其中，玄戒O100最受关注——它是全球首颗采用6nm制程、晶圆级垂直堆叠（Wafer on Wafer）封装的AI芯片，直接把端侧大模型的算力天花板抬高了一个台阶。

1.22TB/s带宽意味着什么

要理解玄戒O100的价值，先要看端侧AI的瓶颈在哪。如今百亿参数大模型想在手机、车机、PC上本地运行，最难的不是算力，而是内存带宽——数据从DRAM搬运到计算单元的速度跟不上，再强的NPU也只能”等数据”。传统旗舰SoC的内存带宽已经明显吃力。

玄戒O100给出的答案是”把存储和计算叠在一起”。它采用6nm逻辑晶圆加两层DRAM晶圆的三层3D堆叠结构，通过Hybrid Bonding混合键合技术实现高温键合，内部包含258万个键合节点，节点间距仅1.4微米。数据连线从传统封装的96路扩展到28672路，近乎300倍的通路提升，让内存带宽达到1.22TB/s，是主流旗舰手机的约16倍。

330 Token/s：端侧大模型实测速度

带宽上去了，推理速度自然水涨船高。官方数据显示，玄戒O100内置14核大模型专用NPU核心，配合小米自研的XRING HB-Matrix高带宽矩阵总线，运行Xiaomi MiMo 3B端侧模型时，推理速度可达每秒330个Token。

这个速度意味着什么？过去在手机上跑大模型，用户敲一行字往往要等上好几秒；而在玄戒O100的加持下，本地对话、摘要、文生图等任务能做到近乎实时的响应，即便在弱网甚至无网环境下，AI功能也能流畅运转，数据还全程留在本地，隐私更有保障。

打通”人车家全生态”的算力底座

雷军通过微博表示，玄戒O100将应用于手机、汽车、机器人等全生态品类。这款芯片已完成回片验证，预计2027年正式商用，届时将对接澎湃OS与小米AI大模型，打通手机、智能汽车与智能家居的整套生态。

从行业视角看，玄戒O100的意义不止于小米一家。它证明国产厂商完全有能力在先进封装和近存计算这些硬核环节实现自主突破。目前该芯片已申请15项专利，其中4项发明专利已获授权。在AI Agent时代，端侧算力正在成为新的竞争焦点，而玄戒O100把”大模型装进口袋”这件事，又向前推进了一大步。