7.2
深览指数
科技Bestblogs·AI Engineer··AI 生成
让智能体自己找故障：用技能、追踪与评测改进应用
演讲者展示了一个金融智能体产生看似合理但缺乏依据的投资回答，然后通过追踪数据、针对性评测和编码智能体技能，系统性地定位数字虚构、重复搜索和工具静默失败等具体故障模式。文章提供了一个可实操的故障定位流程框架，即从追踪到评测再到人工审阅的闭环。适合正在构建或维护 AI 智能体的工程师阅读，特别是关注可观测性和质量保障的团队。原文 ↗
核心观点
- ▍构建可靠智能体的关键是建立一个可验证的闭环：通过追踪数据定位具体故障模式，设计针对性的评测器验证修复，并由编码智能体提出修改建议，最终需要人工审阅和回归测试。
- 01演示中金融智能体产生了一个声称“持有头寸大幅下跌”的投资建议，虽然表面合理且有引用，但追踪显示头寸价值实际上是正的，数字完全错误，属于数字虚构。
- 02演讲者使用 Arize CLI 拉取 span，发现智能体在工具调用失败后选择沉默忽略并继续基于幻觉数据进行回复，而非向用户报告故障。
- 03国际股票查询案例中，仅将上下文从美国改为国际，底层工具仍按美国市场工作，说明故障是系统性的工具限制，不是提示词能解决的。
- 04编码智能体通过对比追踪数据与评测结果，自动建议修改代码，包含具体修改路径。但这些修改需要先在评测数据集上验证，再由人工审阅后方可上线。
反方 / 局限
- — 演示中的修复在演讲结束时并未完成，因此本案例不能视为一个成功的端到端修复范例，其实际效果和价值有待验证。
- — 问答环节中提到评测成本（如调用大模型做裁判）和抽样策略是实际部署中需要权衡的现实问题，文章对此未给出具体解决方案。
- — 文章建议由编码智能体提出修改并由人审阅，但未深入讨论如果智能体提出的修改本身有误或引入新的安全隐患时，人工审阅的负担和风险。
3 分钟 · 2 卡片 · 3 资料
读原文 →