7.0
深览指数
科技量子位··AI 生成

MIT神作被锤:Astra爆改Qwen权重?就吹吧!

spaCy作者Matthew Honnibal公开质疑MIT Astra研究:论文将「只读原始权重」的小模型实验与「可写代码、可做50次前向测试」的Qwen3.5-0.8B修复实验混为一谈,摘要却暗示同一种「读脑」能力。作者承认Astra的AI工程师能力本身有工程价值,问题在成果包装方式。适合关注AI研究可信度与论文传播机制的读者。原文 ↗

核心观点
  • ▍MIT Astra论文的核心误导在于:将三种实验条件截然不同的能力——读小模型权重、写小模型权重、修复Qwen大模型——包装成同一种「直接读写AI大脑」的能力,构成偷换概念。
  1. 01Astra宣称仅修改Qwen3.5-0.8B的0.016%权重,就将数学成绩从7.9%提升至48.1%,约6倍提升,这一数据是引爆传播的核心。
  2. 02在识别小型网络任务等实验中,Astra确实只接收原始权重数字作为输入,但参数量仅1.7万至17.2万,与现代大语言模型规模相差多个数量级。
  3. 03Qwen修复实验并非直接读取原始权重:Astra被授权使用Python编程,并可进行最多50次前向测试来观察模型表现后再修改权重。
  4. 04Honnibal指出,一两年前的AI模型在所有这些任务上都会失败,当前模型已具备作为「AI工程师」诊断和修复其他模型的工具使用与推理能力。
反方 / 局限
  • — Honnibal本人也承认,即便剥离「读心术」光环,让AI被提示去设计并执行人类机器学习工程师的任务,本身仍是巨大的工程进步,质疑指向的是呈现方式而非研究毫无价值。
  • — 文章核心论证依赖Honnibal对论文8组实验条件的重新梳理,但文章未提及MIT团队是否已回应质疑,也未呈现Astra作者方的反驳或澄清。
5 分钟 · 5 卡片 · 8 资料
读原文 →

概念锚点

前置背景

平行视角

未来推演

延伸追问