8.3
深览指数
科技Bestblogs·Lorenzo Gentile··AI 生成
将生产 AI 智能体迁移到 GPT-5.6
本文是 Ploy 工程团队将 AI 智能体从 Claude Opus 迁移到 GPT-5.6 Sol 的实战记录。文章核心价值在于揭示了迁移过程中三个关键且反直觉的工程陷阱：GPT-5.6 会给可选参数虚构值、OpenAI 的缓存机制与 Anthropic 根本不同需要显式设计、推理回放依赖服务器端指针会导致中断。作者提供了具体修复方案和性能基准（速度快 2.2 倍，成本降 27%），并强调应先修复评估 harness 再相信跨模型比较。适合有自有 LLM 应用或智能体产品的工程师阅读，能避开常见的迁移雷区。原文 ↗
核心观点
- ▍将生产 AI 智能体从一个模型迁移到另一个模型时，主要的工程工作并非模型本身的对齐，而是对模型提供商特有的、栈中隐含的行为假设进行解耦和修复。
- 01头对头评估显示 GPT-5.6 Sol 比 Claude Opus 快 2.2 倍，成本降低 27%，视觉质量评分更高，这是触发迁移的直接原因。
- 02GPT-5.6 会为工具 schema 中所有可选参数填充虚构值（如 offset: 0），导致空文件读取率高达 52%；修复方案是将可选属性改为必需但可空 (required-nullable)，然后在工具执行前剔除 null 值。
- 03OpenAI 的提示缓存机制是按键缓存，每个节点约 15 次/分钟，与 Anthropic 的组织范围缓存不同；使用按对话的键首次调用命中率为 0%，最终采用带分层断点的工作区范围键实现了 83.7% 的首次调用缓存命中率。
- 04GPT-5.6 的 Responses API 默认使用服务器端指针引用推理项（'rs_...'），会间歇性出现 'not found' 错误导致对话中断；通过设置 `store: false` 让推理回放自包含的加密 blob 来解决。
- 05在首次跨模型运行中，原始失败的三分之一是由评估 harness 的假设（如并行调用预算、批量文件读取）引起的，而非模型行为本身；必须先修复评估 harness。
反方 / 局限
- — 作者承认在某些快速迭代的设计场景中，GPT-5.6 的输出质量不如 Claude Opus，存在权衡，并非所有方面都是升级。
PloyGPT-5.6 SolClaude OpusOpenAIAnthropicLorenzo GentileResponses API工具调用 (Tool Calling)提示缓存 (Prompt Caching)推理回放 (Reasoning Replay)
4 分钟 · 5 卡片 · 14 资料
读原文 →