6.3
深览指数
科技人人都是产品经理·深思圈··AI 生成
梁文峰看到的大模型下一个瓶颈,已经有团队在解决了
梁文锋指出大模型下一个瓶颈是持续学习,而 Mind Lab 发布的 Macaron V1 通过 LoRA 强化学习与 Mixture of LoRA 架构,实现了模型在使用中持续学习,两周即达千万级年化营收。文章详细拆解了该技术路线的落地过程、架构设计(MoL、GLM-5.2 基座)、市场验证(合作头部手机厂商、韶音等),并对比了 OpenAI 联合创始人 John Schulman 等业界观点,论证了持续学习路线的可行性。适合关注 AI 技术前沿、模型商业化、LoRA 微调方向的研究者与从业者阅读。原文 ↗
核心观点
- ▍大模型的下一个瓶颈是持续学习能力,而非模型本身的素质或参数量,Mind Lab 的 Macaron V1 通过 LoRA 强化学习解决了这一瓶颈。
- 01Mind Lab 发布 Macaron V1,采用 Mixture of LoRA(MoL)架构,基座为 GLM-5.2,支持 200 万 token 上下文,旗舰版 Venti 为 744B 基座加四个 10 亿参数 LoRA 专家(对话、工具调用、写代码、界面生成)。
- 02OpenAI 联合创始人 John Schulman 指出,在大多数后训练场景中,LoRA 的样本效率和最终效果与全量微调几乎无差别,称其为“低遗憾区间”。
- 03Macaron V1 在 2025 年 12 月用十分之一算力完成万亿参数模型强化学习后训练,全球仅两家团队做到(另一家为 Thinking Machines Lab)。
- 04Mind Lab 在 2025 年 7 月发布 LongStraw,将强化学习训练的上下文推至 200 万 token,解决了训练卡在二十万 token 的瓶颈。
- 05Macaron V1 于 2025 年 6 月底发布,7 月开始商业化,两周内实现千万级年化营收,是目前模型 API 收入增速最快的公司之一。
- 06已与一家头部手机厂商、韶音耳机、AI 硬件初创公司 Odyss 建立合作。
- 07强化学习之父 Richard Sutton 新创公司 Oak Lab,同样追求低成本、高效率的持续学习模型,印证了技术路线趋势。
反方 / 局限
- — 文章未提及 LoRA 强化学习在极其复杂、长尾任务(如多模态推理、复杂逻辑链)上是否仍能保持与全量微调相当的效力,也未讨论模型在持续学习过程中可能出现的灾难性遗忘风险。
梁文锋Mind LabMacaron V1LoRA 强化学习Mixture of LoRA (MoL)GLM-5.2John SchulmanThinking Machines LabFireworks AITogether AILongStrawMinT 平台韶音OdyssRichard SuttonOak Lab
7 分钟 · 4 卡片 · 12 资料
读原文 →