科技Bestblogs·AI Engineer··AI 生成
不到 500 美元训练金融智能体：4B 专用模型如何胜过 235B 模型
本文是 Snorkel AI 研究员在 AI Engineer 大会上的演讲整理，核心主张是在范围明确的企业任务上，专用数据和工具使用纪律比模型参数规模更重要。团队用低于 500 美元的算力（8 张 H100 + 模型裁判费），基于 SEC 年报数据训练了 Qwen3 4B 金融问答智能体，在 290 道留出测试题上 pass@1 达 60%，超过 235B 通用模型的 51%。文章提供了具体的数据流水线、训练方法和消融实验细节，适合关注 Agent 落地、小模型微调或金融领域 NLP 的读者。原文 ↗原文 ↗
核心观点
- ▍在范围明确的企业任务上，专门化与可靠性可能比模型参数规模更重要，4B 专用模型在金融问答上胜过了 235B 通用模型。
- 01训练数据来自 SEC 10-K 年报中的约 6900 张 SQL 表，按金融专家设计的问题分类生成题目，并经来源一致性、自动审查和人工复核三层检查。
- 02数据按公司维度隔离切分，测试集包含 290 条来自未见公司的留出样本，确保了泛化评估的严谨性。
- 03训练使用 Qwen3 4B 模型，在可调用工具的环境中采用 GRPO 和二元正确性奖励，总成本（8 张 H100 算力 + 模型裁判费）低于 500 美元。
- 04在 290 道留出题上，专用 4B 模型 pass@1 接近 60%，而 235B 通用模型为 51%。
- 05消融实验表明，简单的单表训练数据和最终答案的二元奖励，效果优于混合/课程式数据或分步评分。
- 06迁移测试显示在多表任务上有收益，且 BFCL 工具调用通用能力没有明显下降。
反方 / 局限
- — 基准规模较小（仅 290 条留出题），任务范围窄（模拟金融财报问答），不能直接推广到广泛的企业场景。
- — 评测依赖模型裁判进行自动打分，可能存在裁判偏差，削弱了评估的绝对可靠性。
- — 论文未披露 235B 模型的具体版本或推理配置，对比结果的公正性无法完全验证。
概念锚点
前置背景
平行视角
未来推演
延伸追问