差友们乡亲们,时隔一年多,小米又发新的芯片了!
本来托尼以为这次只是新手机芯片的发布,所以就没搞那么隆重。
直到我到了沟通会现场,才知道原来小米在芯片的野心,已经不止于用在手机了:
AI、车机、智驾,它是都想要啊。。。
不过首先还得聊聊先上场的玄戒 O3 移动端芯片。
去年直奔旗舰性能的玄戒 O1,给大伙留下了深刻的印象。而这次的 O3,托尼认为是在 O1 的基础上,继续对标第一梯队的性能。
因为 O3 跑出了 500 多万的安兔兔跑分。。。先不说别的,至少跑分这块是直接把苹果、高通和发哥目前已发布的旗舰芯片踩在脚下了。
至于能不能和今年 8E6、 9600 等新旗舰们掰掰手腕,还得等友商出手。
不过小米自己也说了,500 多万的跑分是在实验室环境下测得的,还算诚实嗷。
至于为啥 O3 能做到这个性能水平,我只能说小米还真有点东西。毕竟玄戒 O3 的工艺可没什么变化,依然是基于 3nm 工艺打造的。
最明显的变化是在架构方面。可能是觉得四丛集太难调度,玄戒 O3 这次选择相对成熟的三丛集十核 CPU 设计。
而且和友商们一样,放弃了小核,转而使用了全大核设计 —— 2 个 C1-Ultra、4 个 C1-Premium、4 个 C1-Pro。
这不就是中杯大杯超大杯么!
对比同样使用 3nm 和 C1 架构的 天玑 9500,玄戒 O3 不仅多了一个 Ultra 核心 + 一个 Premium 核心,而且频率进一步提了 0.14 GHz。
核心更多,频率更高,性能自然强了不少。根据小米的说法,GeekBench 6 单核 3945 分,已经能和 A19 Pro、 骁龙 8E Gen5 平起平坐;而多核 15221 更是拿下了目前手机 CPU 第一的宝座。
不过制程工艺没更新,反而让我有点担心玄戒 O3 的能效表现。毕竟在 O1 同样是极限性能很强,但在能效比上还是差了点意思。
这点小米也有专门提到,这次玄戒 O3 通过改进的动态调频调压、并且应用了直穿式顶层走线和沟道消除工艺,玄戒 O3 在中低负载下的能耗对比玄戒 O1 可以降低 25%。。。
GPU 部分就更夸张了。这回玄戒 O3 首发了 ARM 最新的 G2-Ultra,并且和 O1 一样,依然堆了 16 个核心。。。
两代的架构提升之后,不论是性能还是能效比,对比 O1 都有非常明显的进步。
根据小米提供的资料,除了架构的提升,玄戒 O3 还吸取了 O1 的经验,继续加码缓存。
不光 CPU 加了块 16MB 的 L3 缓存,同时系统又加了一块 16MB 的 SLC 缓存。
更大的缓存,意味着更快的数据读取速度和更低的功耗。玄戒 O3 在制程不变的情况下还能进一步提升能效,缓存的加入肯定算一个原因。
当然了,SoC的其他部分,小米堆料也很足:像是可以提供 200TOPS 张量算力(A8W4)的 NPU、支持 H.266 的硬件解码器,以及 RISC-V 安全核心,最新的 LPDDR6 内存规格支持等等。。。
可以说,玄戒 O3 对比 O1 塞了更多的东西。这点可以在晶体管数量上体现出来。对比玄戒 O1 190 亿个晶体管,O3 来到了 240亿,多了 26%。
但仔细看的话,133 mm² 的芯片面积,对比 O1 的 109 mm² 增大了约 22%。
也就是说,尽管工艺不变,但晶体管密度却有小幅提高。
托尼专门问了小米的工程师,他们的答案是:一方面小米在 O1 的基础上,自主设计了更多的 StdCell 单元,有了更多的通用件,就可以进一步减少芯片面积。
另一方面,小米这次用上行业内比较常见的沟道消除技术,可以进一步减少走线面积。在芯片设计中,这种"不留沟道直接穿越"的原理其实都能想到,但想完整贯彻这套逻辑,确实需要一定芯片设计能力。
这么看下来,玄戒 O3 这颗处理器,托尼觉得提升还蛮大的。。。
而且小米这次看起来信心也很足:直接把玄戒 O3 的首发机型定给了小米 18 Fold,9 月正式上市,托尼届时也会看看玄戒 O3 的实机表现到底如何。
前面说了,原本托尼以为今天只有一颗玄戒 O3,没想到小米又端出来两款定位完全不一样的芯片 ——
玄戒 O100 和 D100。
先说更有意思的 O100。简单来说,O100 是专门用来 AI 加速的芯片,它给了完全不一样的端侧大模型的运行方案。
虽然它是一颗 6nm 芯片,但是这张 PPT 里的关键词是 “3D晶圆级堆叠”。
众所周知,想要让大模型跑得更快,不仅要看芯片算力,还要看配套的内存速度。
芯片算力影响大模型需要多久吐出第一个字,内存速度影响了这个字吐出来的速度能有多快。而在手机上,芯片算力倒是提升不少,但内存速度就没怎么跟上。。。
就拿 LPDDR5X 来说吧,目前在用的 LPDDR5X 带宽最快大约 85GB/s,而下一代 LPDDR6,大约在 114 GB/s。
看上去有 30% 的提升,但对于 LLM 来说,这点带宽还是太少了。。。
这就导致想要在端侧部署大模型,总会卡在内存速度上。而玄戒 O100 就是要解决内存这个问题的。
那么它具体有多快呢?答案是 1.22TB/s!
跑起端侧上比较常见的 3B 模型,生成速度来到了 330 Tokens/s。。。
根据小米的说法,为了达到这个效果,玄戒 O100 用了不少先进工艺。其中最关键的,还得是晶圆堆叠和混合键合。
这俩技术,说白了是解决内存没法更近地"贴"在 SoC 芯片上。毕竟想要速度更快,那自然是 SoC 和内存之间离得越近越好。
其实现在手机的内存,就是是直接堆叠在处理器上的,三星倒是在尝试新方案,在 Exynos 2600 上面把内存和处理器芯片并排封装了。有消息说苹果即将发布的 A20 Pro 芯片也会用到类似三星的新封装。
可这类封装工艺,SoC和内存之间都隔了块基板,信号则是通过引脚传递。受限于引脚数量,前面说了,它能达到的数据传输带宽最快也就 114GB/s 。
这点哪儿够跑大模型。。。
而有了晶圆堆叠和混合键合这两个技术,内存不仅能够更近地贴合在 SoC 上,而且可以做到更多的引脚数量,以及更短的物理通路。
你们猜多了多少?
根据小米的说法,传统 PoP 堆叠封装的直连通路是 96 路。
而玄戒 O100 这次采用混合键合之后的直连通路是 28672 路,提升了将近300 倍。。。
有了这些,才能让玄戒 O100 在很小的面积下实现超快的推理速度,也让端侧部署大模型从玩具变成了真正可用的功能。
最后压轴登场的,是块大家伙 —— 玄戒 D100。
和玄戒 O3 一样用了 3nm 工艺,但是小米给这玩意塞了 20 核CPU和 16 核NPU,最大可支持 160GB 统一内存,最高可本地部署 200B 参数量的超大模型。。。
毫无疑问,这玩意的目标就是上车做智驾芯片来用的。只不过目前还没有上车,现场倒是有一个 Ai Cube 原型机,里面塞了玄戒 O3、 O100、 D100。
好家伙,隔这整玄戒全家桶当计算中心用是吧。。。
话说这玩意能不能开售啊!
不过 PPT 里也有一个小点需要注意一下:小米只说了这玩意能运行 120B 和 3B 两种模型,但是具体是什么模型、跑在什么量化参数下,我们都不知道。
所以这玩意的极限是只能跑个 120B 的模型,还是我们能想想办法把梁叔叔的模型用 Q4 甚至 1bit 的方式塞进来,短时间可能都不得而知了。
不过看到这里,本来对这次发布会没有什么预期的托尼,反倒是被小米惊到了。
因为在 O1 之后,玄戒似乎就消失在了人们的视线中。甚至总有消息爆出小米要放弃玄戒芯片。
但现在,小米在一片质疑声中,一口气拿出三款芯片。而且每款芯片都有属于自己的特色。
去年我说,就冲小米造芯片的这份勇气,我是服的。
今年感觉小米的勇气和信心似乎更足了。
因为这三款芯片一出手,不仅能解决手机的问题,还能解决车载芯片的问题。
要知道,之前小米就给车机用上手机的骁龙 8Gen3,既然骁龙能上车,那玄戒凭什么不能上车?
小米的答案是:要上就上,而且直接上全家桶。这就很有意思了。
而且汽车这边本来就有自研芯片的风,不论是蔚小理,还是华为等厂商都有自己的智驾芯片。
原因无他,更加方便自己训练、部署并调优智驾算法。
这么想的话,小米未来搭载玄戒全家桶的汽车,车机、轻度负载用 O3,小模型推理用 O100,智驾等大模型用 D100,每块芯片都有自己的用处,想象空间蛮大的。
所以玄戒真正的价值其实在于,减少对高通的依赖,增强自己的软硬件整合能力。
况且玄戒这波节奏还不算慢。玄戒 O3 九月份就会有机器发布,而 O100 和 D100 将在明年正式商用。
那就期待它们的表现吧!
撰文:洛洛
编辑:米罗 & 面线
美编:素描
图片、资料来源:
小米手机微博
三星技术官网
AI生成