OpenAI 部署工程师建议『保持提示词开头稳定』来提升缓存命中率，背后是 GPT-6 的缓存机制：30 分钟窗口内，复用的共享前缀可享受最高 90% 的输入 token 折扣。缓存分为写入（付费）和读取（折扣价），显式断点让开发者精准控制哪些前缀被复用。Clio 文档工作流因此减少 38% 输入 token，Blitzy 把复用率从 24% 拉到 90%。缓存命中的核心约束是——前缀任何一处变化，后面所有内容全部失效。

OpenAI 降价归因于缓存和推理效率提升，但同一天 Anthropic 推出 Sonnet 5.5，定价与 GPT-6 Sol 一致（输入 2 美元、输出 10 美元/百万 token），运行速度快 30% 以上。DeepSeek 更激近，将 V4-Pro 缓存命中价降至 0.025 元/百万 token，降幅 97.5%。然而其推理成本利润率一度高达 545%，不是赔钱换市场。同行业，智谱 API 年内三次提价，调用量仍逆势增长 400%。同一张定价表，不同玩家的叙事截然相反——有的用技术红利降价抢份额，有的用高溢价锁高价值场景。没有统一游戏规则，只有各自算各自的账。

EpochAI 报告显示，AI 推理成本自 2023 年以来每季度下降约 47%，一年内降至十三分之一——降速是 DNA 分析技术的 4 倍、锂离子电池的 18 倍。OpenAI 在 2025 年推出的 o3 模型，博士级物理测验中达到 75% 准确率需 30 美分/题，18 个月后同性能仅需 0.04 美分。成本曲线加速下行的驱动因素包括模型迭代、蒸馏训练普及以及 DeepSeek 等开源方案的结构性降价。但『便宜≠好用』的鸿沟仍存在，高盛指出企业将主动路由简单工作至本地模型，前沿模型仅在必要时调用。下一个关键信号是：各部委是否会出台 AI 服务定价指导规范。

文章提出用『成功完成一项任务的成本』代替 token 标价，但谁来定义『成功』？一个代码修复任务，如果修复本身引入新 bug 但刚好没被测评集覆盖，算成功还是失败？评测集代表性决定了 Pareto 前沿的准确性——Terminal-Bench 上 87.9 分的模型，实际修 bug 跑了 12 分钟还留下缺陷，而 61 分的模型 3 分 18 秒一次通过。文章没告诉你的难题是：构建一个真正反映『生产环境表现』的代表性评测集，其难度和被低估的成本，才是成本优化的前置门槛。