高效端侧运算 小米推出玄戒O100 AI加速芯片

小米推出自研AI加速芯片玄戒O100,据小米方面介绍,玄戒O100为6nm工艺端侧专用AI加速芯片,可与玄戒O3协同工作,提升设备端侧大模型推理速度,支持弱网、离线场景AI运算。

PChome 8月24日报道,小米凭借MiMo大模型的出色表现,跻身全球顶尖大模型行列。而为了发挥出大模型能力,为消费者打造更具安全性和隐私性的端侧使用体验,小米特意打造了玄戒O100自研AI加速芯片。

据小米方面介绍,玄戒O100为6nm工艺端侧专用AI加速芯片,可与玄戒O3协同工作,提升设备端侧大模型推理速度,支持弱网、离线场景AI运算。

该芯片采用3D Wafer On Wafer立体堆叠工艺与Hybrid Bonding键合技术,将两层DRAM晶圆与一层NPU计算晶圆堆叠融合,内置258万个键合节点,节点间距1.4μm,内存互联规格优于常规云端HBM方案。而这会带来史无前例的带宽与传输速度。

玄戒O100能带来16倍于常规手机的内存带宽,端侧大模型最高推理速度可达330Token/s。内置14核大模型专用NPU,搭配XRING HB-Matrix高带宽矩阵总线,提升多核心协同运算效率。

官方表示,该芯片在研发阶段完成多轮版图迭代,解决晶圆堆叠翘曲、碎裂等工艺难题,F2F金属层直连结构已获得多项技术专利。

玄戒O100目前已研发完成,将于2027年正式商用。搭载玄戒O3+玄戒O100的原型机也已经公布,其能够进行双芯片协同计算,内置风冷散热,并内置MiMo端侧模式,能够为创新的断则AI体验,提供平台级支持。

也许你还喜欢

《绝地潜兵2》应对孢子强袭虫方法

《绝地潜兵2》中的孢子强袭虫是虫族里的重甲单位,然而很多玩家不清楚孢子强

Game Pass 6月上旬阵容公开 《FC 2

Xbox Game Pass 6月上旬游戏阵容公开,《EA Sports

《造作海岛》烹饪配方分享

《造作海岛》中烹饪是游戏里的玩法之一,然而很多玩家不知道有哪些烹饪配方,

《东京地下杀手》新PV公布 赛博朋

近日,由日本Phoenix Game Productions工作室开发,

引擎革命!《巫师4》演示虚幻5.6性能

近日,Epic产品战略高级总监Wyeth Johnson在接受采访时透露

800美元以上高端机型销量榜 华为已

时过境迁,苹果已经不在是“高大上”的首选了,有机构统计了今年第一季度全球

《寂静岭f》更注重近战战斗 PS5Pro

近日在PlayStation State of Play发布会上,科乐美

初次设置switch2主机时别犯这个错

昨天,任天堂switch 2主机全球发售了,对于刚拿到主机的小伙伴一定要

《Lunar Eclipse》游戏游玩平台介

《Lunar Eclipse》是一款由Black Rabbit's Ta

《Lunar Eclipse》下载安装教程介

《Lunar Eclipse》是一款由Black Rabbit's Ta