小米玄戒O100 AI芯片发布：端侧大模型速度提升10倍！

8月24日消息，在今日举行的小米玄戒技术沟通会上，小米正式发布了首款自研AI加速芯片——玄戒O100。

作为专为端侧大模型设计的协处理器，该芯片依托先进3D堆叠封装技术大幅突破端侧AI带宽瓶颈，官方实测整体AI性能较传统方案提升10倍。

传统手机SoC在运行生成式AI任务时，普遍存在数据搬运效率偏低的问题，容易导致大模型生成卡顿、推理速度受限。

玄戒O100从底层传输架构优化入手，采用6nm Wafer on Wafer晶圆级垂直堆叠工艺搭配Hybrid Bonding混合键合技术，实现双晶圆垂直键合堆叠，大幅缩短数据传输路径。

硬件规格方面，玄戒O100实现业界领先的1.4μm超小键合间距，高密度垂直互连通道带来1.22TB/s超高内存带宽，带宽规格达到主流旗舰手机的16倍。

在运行小米MiMo-3B端侧大模型场景下，芯片推理速度最高可达330Tokens/s，显著提升本地AI文本生成、智能总结、内容创作的流畅度。

为验证技术可行性，小米现场展示玄戒O3主SoC搭配玄戒O100协处理器的技术原型机，整机采用双芯协同架构，由主SoC负责系统调度与基础运算，O100独立承接高强度端侧大模型推理负载。

目前小米尚未公布玄戒O100在量产机型上的具体落地时间。