7.6
深览指数
科技Bestblogs·Kyle Wiggers··AI 生成
我们能否信任 LLM 判断一个研究想法是否新颖？
Ai2 发布基准 Old Ideas, Novel Problems, 用 ICLR 2026 同行评审文本构建两种评估集。测试六个前沿模型发现: 提示词措辞微调在 AI 生成想法上导致准确率波动超 50 个百分点; 实时 arXiv 检索与高推理预算并不持续有效; 一个三次调用 Claude Opus 4.6 加多数投票的简单基线以 2.59 美元达 0.854 macro-F1, 优于两个专门构建的新颖性评估系统且成本低 10-30 倍。作者结论是专用评判器并不可靠, 提示词设计才是关键变量。原文 ↗
核心观点
- ▍基于 LLM 的新颖性评判器在评估 AI 生成的研究想法时极不可靠, 提示词措辞带来的准确率波动远超增加检索或推理预算带来的改善。
- ▍两个专门构建的新颖性评估器 Idea Novelty Checker 与 Sakana AI Scientist 在准确率和成本上均不如简单提示词加多数投票的基线。
- 01在 Human+Generated 评估集上, 六个前沿模型 (GPT-5.1/5.2/5.4、Claude Sonnet 4.5、Opus 4.5/4.6) 面对细微提示词改动, 准确率偏移超过 50 个百分点。
- 02GPT-5.6 Sol 加实时 arXiv 搜索与高推理预算得到 macro-F1 0.78, 低于标准检索的 Claude Opus 4.6 的 0.89, 且成本约为后者 10 倍。
- 03三次调用 Claude Opus 4.6 加多数投票以 2.59 美元实现 0.854 macro-F1, 而 Idea Novelty Checker 为 0.642 与 30.66 美元, Sakana AI Scientist 为 0.772 与 82.05 美元。
- 04基准构建不使用录用与否作为代理, 而是从评审中抽取明确赞扬或质疑原创性的段落, 标注者验证极性一致率达 94%。
- 05评估集分为 Human-Only (154 个高新颖性人类想法对 145 个较低新颖性人类想法) 与 Human+Generated (人类想法对 LLM 简单生成的想法) 两种。
反方 / 局限
- — 对某个模型有帮助的提示词可能损害另一个模型, 不存在通用的提示词策略; 新颖性判断的 prompt 敏感性本身说明该任务远未稳定。
- — 基准的真实标签来自同行评审中明确赞扬或质疑原创性的段落, 但这只覆盖评审者愿意写下明确判断的样本, 可能遗漏隐性新颖性。
- — Human-Only 集与 Human+Generated 集结论不同, 人类想法上稳定的评判器在 AI 生成想法上表现不可预测, 说明结果对评估分布高度敏感。
Ai2Old Ideas, Novel ProblemsICLR 2026GPT-5.1Claude Opus 4.6Idea Novelty CheckerSakana AI ScientistKyle Wiggersallenai/novelty-judge-benchmacro-F1Hugging Face Blog
4 分钟 · 5 卡片 · 4 资料
读原文 →