7.0
深览指数
科技虎嗅·全天候科技··AI 生成
Scaling Law开始挤进手机了
文章报道了手机端侧大模型从3B级向30B级快速跃迁的最新趋势，核心驱动是MoE（混合专家）架构使参数量与计算量部分解耦。作者访谈了vivo、面壁智能等厂商，展示了30B MoE模型在骁龙8至尊版等平台上的初步验证成果与性能数据。但同时指出，模型容量扩张与手机内存成本控制、功耗预算之间存在结构性矛盾，芯片24个月规划周期与AI技术快速迭代也对厂商的硬件押注构成巨大不确定性。适合关注端侧AI落地、手机芯片架构与产业链格局的读者。原文 ↗
核心观点
- ▍MoE（混合专家）架构使总参数规模与实际计算量部分解耦，推动端侧模型从3B级向30B级跃迁，厂商开始尝试在手机上兑现Scaling Law的规模收益。
- ▍更大模型能否转化为消费者感知的AI体验升级并驱动换机潮，以及厂商对芯片的长期硬件投入能否适配快速变化的技术路线，是这一轮技术押注的核心不确定性。
- 012026年9月至10月，高通（联合阶跃星辰等）、vivo、面壁智能在一个月内接连发布或部署30B MoE端侧模型，标志着从2024年主流3B级模型的参数规模大幅跃升。
- 02以30B-A3B模型为例，总参数300亿，但每次处理Token时，MoE机制下实际参与计算参数仅约30亿，实现了模型容量与计算量的解耦。
- 03面壁智能的MiniCPM-V 4.7（35B-A3B）在iPhone 18 Pro Max测试中仅占用约3GB运行内存，解码速度达20 tokens/s；高通30B模型在参考设计设备上预填充吞吐超330 tokens/s，解码吞吐超28 tokens/s。
- 04vivo副总裁周围表示，2025年行业技术出现新变化，公司修正了此前“端侧大模型不应盲目追求参数规模”的判断，快速推出了自己的MoE模型。
- 05高通重新设计Hexagon NPU，将片上共享内存扩大50%，并引入面向Transformer的Element Accelerator专用加速单元，以适应更大模型的数据传输与计算需求。
反方 / 局限
- — 30B MoE不等于30B稠密模型：其能力提升并不等同于运行一个30B稠密模型，且MoE的优势主要集中在多模态感知、OCR、STEM推理等任务，在代码、指令跟随等任务上与7B稠密模型互有胜负。
- — 模型权重存储与读取仍是瓶颈：35B权重即使4bit量化也需要约15GB存储空间，频繁从闪存加载专家权重到内存会增加延迟和功耗，vivo 3B模型运行电流从800mA优化至500-600mA，但对30B MoE模型，vivo认为低于500mA才较理想。
- — 芯片规划周期与AI技术迭代错位：手机芯片从规划到落地约需24个月，而AI技术路线可能几个月就变化（如从做小模型到大模型仅一年），今天的硬件设计可能无法适配两年后的主流模型架构。
MoE（混合专家）架构Scaling Law（规模定律）vivo蓝心系列模型面壁智能 MiniCPM-V 4.7高通第六代骁龙8超级至尊版Hexagon NPU周围（vivo副总裁）姚远（面壁智能联席首席科学家）江波龙
14 分钟 · 1 卡片 · 2 资料
读原文 →