7.8
深览指数
科技人人都是产品经理·Z Finance··AI 生成
腾讯AI的双线战争:混元之外,微信WeLM用四年证明了另一种可能
本文揭示了腾讯在AI大模型领域内部鲜为人知的双线并行格局:除了集团主力混元,微信事业群自研的WeLM已在四年内迭代出原创的Hidden Decoding技术,在推理效率和成本控制上走出一条与行业主流CoT截然不同的路。文章通过四篇技术博客的详细拆解,展示了WeLM在MoE架构、潜空间计算上的独特设计,以及其与微信产品哲学(克制、低成本、场景驱动)的深度绑定。适合关注中国大模型竞争格局、技术路线差异、以及产品与组织博弈的深度读者。原文 ↗
核心观点
- ▍腾讯内部并存两条AI大模型路线:集团主推的混元(TEG,姚顺雨)追求通用能力,而微信事业群自研的WeLM(WXG,周颢)则另辟蹊径,专为微信生态的高频、轻量交互场景设计,在成本和推理效率上形成差异化竞争。
- ▍WeLM的核心技术路线Hidden Decoding(潜空间解码)是一项与主流思维链(CoT)思路相反的原创框架:它让模型在连续的隐空间内完成推理,而非输出显式的自然语言token,从而用更高的计算密度和更快的速度换取推理质量。
- 01WeLM团队在2026年1月至7月间发布了四篇技术博客,详细披露了其技术演进:从不足14T tokens语料训练出80B-A3B MoE模型(远低于行业平均水平),到后训练中的IcePop和Clip-Cov机制,再到核心的Hidden Decoding序列扩展方案。
- 02最新的《Hidden Decoding at Scale》论文将技术推进到100B+ MoE规模,通过Stream-Factorized Attention将计算开销控制在O(n)级别,并在FrontierMath、PHYBench等基准上取得显著提升,论文于2026年7月6日混元Hy3正式版发布当天公开。
- 03微信AI助手“小微”实际采用“WeLM主模型+DeepSeek兜底”的混合架构,而非混元。这背后的直接原因是微信产品哲学(克制、不打扰)与AI侵略性之间的冲突,以及微信事业群对数据主权和组织自治的强烈诉求。
- 04WeLM的80B总参数、3B激活参数的设计,直接对应了微信的“成本算术题”:如果给微信全量用户跑大参数模型推理,单日成本可能高达数亿元,而WeLM的低成本架构是唯一可行的解法。
- 05WeLM的灰度测试显示,其生成速度极快,几乎无等待,这源于其MoE和Hidden Decoding的设计,以及针对聊天场景的工程优化(如KV-Mirror技术)。
反方 / 局限
- — 文章引用了高盛研报,指出“两套大模型体系并行引发资源重复投入担忧”,并提到WeLM在获取GPU算力上与混元团队存在竞争,资源整合仍是不确定因素。
- — WeLM的架构设计牺牲了复杂推理能力,明确不适合通用对话、创意写作、代码生成等场景,这使其能力天花板受限,高度依赖外部模型(如DeepSeek)作为“逃生通道”。
- — 微信事业群的高度自治和“数据主权”考量,使得WeLM与混元在组织上难以整合,可能长期维持两套体系,增加管理复杂度。
14 分钟 · 5 卡片 · 13 资料
读原文 →