7.7
深览指数
科技人人都是产品经理·深思圈··AI 生成
不写一个字，却可能是 AI 时代最重要的模型
TypeSafe AI 发布了一款名为 Jev 的决策模型，它不生成文字，而是在几百毫秒内并行输出带校准概率值的结构化决策。创始人 Diogo Almeida（ChatGPT 联合发明人、RLHF 核心贡献者）认为，当前大语言模型在自动化落地中面临不可靠、速度慢、成本高的问题，Jev 通过全新的 System One 架构（非自回归、类型安全）从根本上解决了这些瓶颈。文章详细介绍了 Jev 的工作原理、技术优势（快 20-200 倍、便宜 40-400 倍）、训练方法（RLCD）以及六大落地场景，如用户意图识别、智能路由、内容审核和输出验证，并指出这类专用决策模型将成为未来 AI agent 的基础设施。适合正在构建生产级 AI 系统、对 agent 可靠性有强需求的 CTO、技术负责人和高级工程师阅读。原文 ↗
核心观点
- ▍Jev 的核心价值不在于比大语言模型更聪明，而在于为自动化决策提供了可靠、廉价、快速的专用组件，解决了大语言模型在落地时不可靠、太慢太贵的问题。
- ▍未来两三年内，Jev 这类 System One Model 会成为每个认真构建 AI agent 的团队标配的基础组件，实现决策与语言生成的分工。
- 01Jev 的架构是 System One：不生成 token，没有自回归循环，在几百毫秒内并行输出所有问题的答案，每个答案都带校准概率。
- 02Jev 比现有语言模型快 20-200 倍，便宜 40-400 倍，端到端响应时间在 70 毫秒到 500 毫秒之间，且 output token 免费。
- 03Vercel 用 Jev 替代 Gemini 2.5 Flash 做分类任务，速度提升 6 倍，准确率拉满。Jev 玩《毁灭战士》一小时总成本仅 7 美元。
- 04Jev 的输出是类型安全的（type-safe），从架构上消除幻觉，因为答案必须在预定义选项内，而不是自由生成字符串。
- 05训练方法 RLCD 的核心目标是校准（calibrated）概率，即模型说 80% 把握时，实际准确率接近 80%，区别于 RLHF（人类偏好）和 RLVR（可验证答案）。
- 06TypeSafe AI 创始人 Diogo Almeida 在 ChatGPT 刚爆火时就意识到对话模型可能不是通往自动化的路，离开 OpenAI 后花两年时间从零设计 Jev。
- 07Jev 支持三种问题类型：nule（是否判断）、choice（多选一）、score（量表打分），可覆盖大多数结构化决策需求。
- 08有开发者用 Jev 分类 1000 多篇 AI 论文，每篇耗时 256 毫秒，总成本 8 美分。Sentry 内部 Slack 机器人用 Jev 做模型路由，逻辑更清晰、速度更快。
反方 / 局限
- — 文章承认 Jev 目前仅专注于决策判断，不能处理需要理解、生成、对话的场景，这些仍需依赖传统大语言模型。
- — 文中提到，Jev 在 engineering 层面的设计取舍（如非自回归、并行架构）使其无法执行需要逐步推理或旺盛生成能力的任务。
19 分钟 · 5 卡片 · 15 资料
读原文 →