7.9
深览指数
科技微博·极客公园··AI 生成
那个教 ChatGPT 说话的人，做了一个「哑巴」模型
前 OpenAI 研究员、ChatGPT 共同发明者 Diogo Almeida 创立 TypeSafe AI，发布新模型 Jev，一个不生成文本、只输出确定性结构化决策的“系统一模型”。其延迟低至 70-500 毫秒，单次决策成本约 0.0004 美元，适合处理 Agent 中大量低延迟、高并发的判断任务。文章深入剖析了当前大模型在结构化输出上的效率痛点，并指出 Jev 在可解释性、技术细节透明度和商业模式上存在不确定性，是一次针对现有范式的技术方向挑战。适合关注 AI 基础设施与 Agent 工程化落地的技术决策者阅读。原文 ↗
核心观点
- ▍当前 AI Agent 的瓶颈在于“执行摩擦”——调用千亿参数大模型做结构化决策（如判断、分类）不仅延迟高、成本贵，且 JSON 输出不稳定，应引入专门做快速推理的“系统一”模型来处理这些脏活累活。
- ▍Jev 本质上是一种反范式的尝试：不进行文本自回归生成，而是通过一次单向并行计算同时输出所有结构化决策，彻底消除格式幻觉，将延迟压缩到 70-500 毫秒。
- 01Jev 不是文本自回归模型，输出严格限定在开发者预设的 Schema 内，从数学层面消灭了 JSON 格式反转。
- 02单次结构化决策成本约 0.0004 美元，是 GPT-5.6 Terra 调用成本的 1/76，Claude Opus 5 的几百分之一。
- 03在 Doom 游戏中，Jev 可在每秒约 10 次操作判断的场景下表现得像反应极快的人类玩家，推理成本每小时约 7 美元。
- 04在四个典型企业工作流测试中，Jev 的准确率达到 67.8%，几乎打平 GPT-5.6 Terra 的 67.9%，速度却快几十倍。
- 05TypeSafe AI 宣布获 4000 万美元融资，公司由前 OpenAI 研究员、ChatGPT 共同发明者 Diogo Almeida 创立。
反方 / 局限
- — Jev 不具备用自然语言解释决策过程的能力，输出仅为干瘪的选项和概率，在金融、医疗等强监管领域可能面临合规风险。
- — 核心训练方法 RLCD（基于校准决策的强化学习）的技术细节未公开，所有基准测试由 TypeSafe 内部完成，未经过第三方独立复现，其真值标准甚至基于竞争对手的下一代模型，公关色彩浓厚。
- — 极度激进的定价策略（输入每 100 万 token 仅 0.042 美元，输出免费）可能意味着其目前是在依靠融资烧钱打价格战，商业模式在面对大规模并发时的可持续性存疑。
7 分钟 · 4 卡片 · 11 资料
读原文 →