7.6
深览指数
科技TechCrunch·Connie Loizos··AI 生成
Thinking Machines 发布首个开源模型 Inkling,押注可定制 AI 胜过通用模型
Mira Murati 创立的 AI 初创公司 Thinking Machines Lab 发布了其首个开源模型 Inkling,拥有 9750 亿总参数但每次推理仅激活约 410 亿参数。该模型主打可定制性和可靠性,目标市场是企业用户,希望他们通过公司的 Tinker 平台进行微调。文章引用了包括微软 CEO 纳德拉和 Hugging Face CEO 在内的行业观点,认为企业使用专有模型是“双重付费”,而可定制的开源模型将成为主流。文章的核心论点是:由组织自行塑造的 AI 将优于大型实验室的“一刀切”通用模型,并以与桥水基金合作的财务推理测试案例作为佐证。原文 ↗
核心观点
- ▍Thinking Machines 的核心赌注是:能被组织自行适配的 AI,将优于大型实验室目前销售的一刀切通用模型。
- ▍微软 CEO 纳德拉和 Hugging Face CEO 等业界人士也支持类似观点,认为企业使用专有 AI 模型是在“双重付费”,未来大部分生产级 AI 工作将转向私有或开源方案。
- 01Inkling 是一个混合专家模型,总参数 9750 亿,但每次任务仅激活约 410 亿参数,这种设计使其运行更快、成本更低。
- 02Thinking Machines 与全球最大对冲基金桥水联合基金合作,使用一个现有的开源模型在桥水自己的金融专业知识上进行训练,结果在财务推理测试中得分 84.7%,击败了顶级专有 AI 模型,且运行成本约为其十四分之一。
- 03Inkling 的设计目标是给出校准后的答案,包括主动标记不确定性而非猜测,并允许用户根据速度需求调节“思考努力”程度。
- 04该公司声称在约 9 个月内将技术推向市场,而 OpenAI 和 Anthropic 分别用了大约五年和三年。
- 05Inkling 的部分训练数据使用了其他开源模型(如 Moonshot AI 的 Kimi K2.5)的输出来生成初期后训练数据,但公司声称下一个模型将完全使用自包含的后训练。
- 06Thinking Machines 目前约 200 名员工,其文化设计上强调连续性而非依赖任何个人,以减少人员变动带来的影响。
反方 / 局限
- — Thinking Machines 并未声称 Inkling 是同类最佳,其简报材料明确指出它“不是目前最强模型,无论开源还是闭源”,其目标在于均衡的性能和可定制性。
- — Inkling 被定位为一个起点,而非成品,客户需要通过 Tinker 平台自行微调,这意味着客户(而非 Thinking Machines)需要为其定制版本的安全性负责,这需要大量机器学习人才。
- — 文章质疑了 Thinking Machines 的商业模式:其收入必须来自 Tinker 平台(训练、微调)而非模型本身,因为模型权重公开后,下载者无需付费即可运行,这与 OpenAI 等公司按使用量收费的模式截然不同。
- — Thinking Machines 的财务状况不透明,其与英伟达的千兆瓦级计算能力合作协议以及据称 500 亿美元的融资轮均未明确,且营收并非其优先事项。
Thinking Machines LabMira MuratiInklingOpenAIAnthropicGoogleNvidiaSatya NadellaHugging FaceClem DelangueBridgewater AssociatesMoonshot AIKimi K2.5Tinker蒸馏混合专家模型
17 分钟 · 4 卡片 · 12 资料
读原文 →