5.1
深览指数
科技腾讯新闻·新智元··AI 生成

谷歌Gemma 4论文深夜解封!31B直逼闭源前沿,敲响云端AI丧钟

Google DeepMind 发布 Gemma 4 开源模型技术报告,核心创新是砍掉了传统多模态模型的视觉与音频编码器,仅保留一个极简投影层,让模型直接处理原始像素和波形。31B 版本在数学、科学推理等任务上性能逼近甚至超越部分闭源模型,且支持在消费级硬件上本地运行。文章以“算力经济学”视角,认为此举将冲击云端 API 的商业模式,是“AI 结构主权”革命的标志。适合对 AI 模型架构趋势、端侧推理与商业影响感兴趣的读者。原文 ↗

核心观点
  • Gemma 4 的核心架构创新是去除了视觉和音频编码器,让模型直接处理原始像素和波形,实现真正的端到端多模态融合。
  1. 01Gemma 4 12B 模型仅保留一个 35M 参数投影层,将像素块和 40 毫秒音频块直接投影到 LLM 的统一嵌入空间。
  2. 02Gemma 4 全系型号(包括 2.3B、4.5B)均原生支持“Thinking Mode”,通过 <|think|> 控制 Token 触发本地深度推理。
  3. 03在技术报告中,Gemma 4 31B Thinking 版本在复杂数学、前沿科学等任务上,性能显著超越前代 Gemma 3 27B,接近闭源前沿模型。
  4. 04Google 将 Gemma 4 全系模型以 Apache 2.0 协议开源,主张开发者可将其部署在笔记本、Jetson Nano、树莓派等设备上。
反方 / 局限
  • 作者暗示了“无编码器”架构的技术难度极高,过去尝试直接灌入原始波形和像素会导致模型文本能力严重退化,DeepMind 的成功是“惊人的联合预训练”的结果,但报告未详细披露训练成本与数据规模。
  • 文章高估了“端侧替代云端”的普适性。对于需要海量参数或超大规模上下文窗口的复杂任务,本地模型在算力和内存上仍存根本性限制,文章未深入讨论。
9 分钟 · 5 卡片 · 15 资料
读原文 →

前置背景

技术原理

平行视角

未来推演

延伸追问