手机能跑百亿参数大模型,骁龙8Gen3来了,自研PC架构上线

AI行业动态7个月前发布 ainavi
5,084 0

高通骁龙 8 Gen3 的出现,让生成式 AI 在智能终端无处不在了。

安卓旗舰手机的芯片,今天迎来了换新。

一年一度的高通骁龙峰会在 10 月 24 日拉开序幕,今年举办地点来到了夏威夷毛伊岛。

会上,高通宣布推出最新一代旗舰移动平台骁龙 8 Gen3,并表示其在终端侧 AI 能力、性能和能效等多个方面都有显著提升。

手机能跑百亿参数大模型,骁龙8Gen3来了,自研PC架构上线

简单总结一波,骁龙 8 Gen3 采用台积电 4nm 制程工艺打造(可能是 N4P)。CPU 采用全新 1+5+2 架构,包括 1 个 X4 超大核、3 个 A720 大核 3.15GHz、2 个 A720 大核 2.96GHz 以及 2 个 A520 小核 2.27GHz。相较于骁龙 8 Gen2,CPU 整体性能提升 30%,能效提升 20%。整体 SoC 节能 10%。

高通表示,新一代的 Adreno 750 GPU 相比上代有 25% 的性能提升和 25% 的能效提升,通过图像运动引擎 2.0 (Adreno Frame Motion Engine 2.0) 帧生成算法,支持了 240FPS 高帧率,有望将大众游戏的流畅效果提升到新高度。

由于上一代 8 Gen2 已经 shixian 了 GPU 性能超越同时代苹果 A 系列芯片的巨大成功,所以本次看来较小的提升仍然比较可观。

但需要注意的是,这首先需要手机屏幕将刷新率提高到 240Hz,考虑到能耗,估计只有游戏手机才会提供此类硬件。

面向更广泛的手机用户,高通在 8Gen3 上提供了原生 1Hz 刷新率的支持,有助于静态显示时的省电。

在图像技术方面,8Gen3 宣布支持虚幻 5 引擎的 Lumen 光照系统,带来了类似硬件光线追踪技术的视觉效果,而且处理速度更快(但仅限虚幻 5 引擎)。结合此前已支持的硬件光线追踪技术,第三代骁龙 8 为下一代手机游戏做好了准备,之后就是游戏厂商的事了。

此次,骁龙 8Gen3 的亮点在于强大的终端侧 AI 及生成式 AI 性能。

NPU 方面,AI 算力超过 73TOPS,能效还降低了 40%。高通表示,此次 8Gen3 的 AI 性能提升了 98%,高通 AI 引擎实现了终端设备上世界首次支持运行 100 亿参数的模型,并且针对 70 亿参数 LLM 每秒能够生成 20 个 token。这意味着,各类虚拟助手、GPT 聊天机器人、Stable Diffusion 等 LLM 等都可以在手机等终端正常运行。

手机能跑百亿参数大模型,骁龙8Gen3来了,自研PC架构上线

另外针对音频、动作传感器这种需要长时间待机的 AI 使用场景,8Gen3 专门提供了 2 个低功耗的 NPU 单元。8Gen3 还在内存和 NPU 之间建立了直连通道,进一步提高运算效率。

可以说,对于搭载骁龙 8 Gen3 的智能手机,它们的内容创作、影像、游戏、音频和连接体验因 AI 能力得到了极大的增强,比如手机端支持图像 AI 填充扩展。不知道手机硬件能力到位以后,会不会出现生成式 AI 的爆款应用?

手机能跑百亿参数大模型,骁龙8Gen3来了,自研PC架构上线

通信方面,8Gen3 集成了 Snapdragon X75 5G 调制解调器,支持 5G 毫米波、LPDDR5X RAM、UFS 4.0、Wi-Fi 7、蓝牙 5.4。最高支持 4k 60Hz 或 144Hz Quad HD+ 屏幕显示。影像方面最高支持 200MP 照片拍摄、120fps 4K 视频拍摄。

手机能跑百亿参数大模型,骁龙8Gen3来了,自研PC架构上线

有关高通旗舰的首发机型悬念依然不大。高通的发布会上,小米集团合伙人卢伟冰提前拿出了用上骁龙 8 Gen3 的小米 14,明天晚上就是小米的发布会了,雷军也在微博上表示小米 14 将全球首发第三代骁龙 8 移动平台。

手机能跑百亿参数大模型,骁龙8Gen3来了,自研PC架构上线

此外一加 12、iQOO 12 系列、中兴 x 努比亚将首批搭载骁龙 8 Gen3, OPPO Find X7 系列、真我 GT5 Pro 也在前期搭载的行列中。

除了移动平台的骁龙 8 Gen3,高通推出了专为生成式 AI 打造的全新 PC 平台骁龙 X Elite。据介绍,骁龙 X Elite 在众多支持 Windows 11 的 PC 平台中具备了一流的 CPU 性能和能耗。

手机能跑百亿参数大模型,骁龙8Gen3来了,自研PC架构上线

还是先来简单看下它的规格。CPU 方面采用自研的 Oryon 架构 ,4nm 工艺,12 大核,最高频率 3.8、支持双核睿频至 4.3 GHz、内存带宽支持 LPDD5x 8533、缓存总数 42 MB。此外支持了 WiFi7、蓝牙 5.4、X65 基带、PCIe 4.0 NVMe、M.2 Wi-Fi 扩展等。现场与基于 ARM 内核的 M2 比较,多核 CPU 性能提升 50%。

手机能跑百亿参数大模型,骁龙8Gen3来了,自研PC架构上线

GPU 采用 Qualcomm Adreno,算力为 4.6 TFLOPS。ISO 功率下比竞品性能提升高达 80%,功耗降低 80%。

手机能跑百亿参数大模型,骁龙8Gen3来了,自研PC架构上线

NPU 方面,AI 算力达到了 45TOPS。自 2017 年以来,AI 性能提升了 100 倍,远超竞品 PC 平台。

手机能跑百亿参数大模型,骁龙8Gen3来了,自研PC架构上线

骁龙 X Elite 号称专为 AI 打造,能够以 30token 每秒的速度运行 Meta 著名的大语言模型 Llama 2。此外进一步支持在终端侧运行超过 130 亿参数的生成式 AI 模型,实现了比竞品快 4.5 倍的 AI 处理速度。

高通表示,OEM 厂商预计将于 2024 年中推出搭载骁龙 X Elite 的 PC。更多细节详见下图。

手机能跑百亿参数大模型,骁龙8Gen3来了,自研PC架构上线

今年的骁龙旗舰芯片,相比往年又更加提前了一些,但面对 4 大核的联发科天玑 9300,制程工艺不变的 8 Gen3 能否保持住旗舰芯片的领先位置?它会是新的 888,还是新的 8 Gen2 呢?

我们很快就会知道了。

参考链接:

https://www.theverge.com/2023/10/24/23928867/qualcomm-snapdragon-8-gen-3-on-device-ai-meta-llama-2

© 版权声明

关注公众号,免费获取chatgpt账号
免费获取chatgpt

相关文章

暂无评论

暂无评论...