7.6
深览指数
科技人人都是产品经理·David Lee··AI 生成
比 LLM 快 193 倍、输出 token 免费：Jev 的“判断模型”路线靠谱吗？
前OpenAI研究员、RLHF核心贡献者Diogo Almeida创办TypeSafe AI，推出Jev——一款不生成文本、只做判断的模型。它放弃逐token生成，采用并行采样输出类型化概率，宣称比LLM快193倍、便宜444倍，且通过Schema约束实现“零幻觉”。文章梳理了其RLCD训练法、反AGI宣言、行业用例，并如实指出自测数据、零幻觉定义、真正的竞品是工程工具链而非前沿LLM等局限。适合关注AI基础设施层创新、对LLM生成式范式有反思的读者。原文 ↗
核心观点
- ▍Jev彻底放弃文本生成，只对预定义答案空间输出概率，适用于“判断”而非“生成”的软件自动化场景。
- ▍RLHF路线本质是优化“人类偏好的文本”，而TypeSafe的RLCD优化“认知上诚实的概率”，瞄准自动化而非交互。
- 01Jev支持三种原语：Choice（255选项内全量概率分布）、Score（连续标量）、Noul（校准过的是/否概率），输出均为类型化数值。
- 02训练方法RLCD（校准决策强化学习）使用天气预报员校准尺度，目标是模型在统计上诚实：70%置信度应约70%正确。
- 03官方宣称采用并行采样避免逐token生成，实现“输出token免费”与低延迟（前缘智能150毫秒级）。
- 04Manifesto提出“无马马车”比喻：当前AI被塑造成“乐于助人的助手”，假设另一端坐着人，阻碍无人值守自动化。
- 05用例地图涵盖五大方向：自动化软件、实时应用、AI Map Reduce、通用验证、系统工程，与十八个行业场景。
- 06当前自测宣称快193.6倍、便宜444.6倍，来自官方workflow eval，对比模型为GPT-6 Astra和Fable 5.1平均值。
反方 / 局限
- — “快193倍”等数字来自官方自建的workflow eval，处于“真实收益的高端”，且对比对象非ground truth。
- — “零幻觉”定义为输出落到Schema之外无效输出，但用户更担心的是完美JSON内仍是幻觉。
- — Jev真正的竞品不是GPT或Claude，而是蒸馏小模型、传统分类器、规则引擎及结构化输出工具链（如OpenAI Structured Outputs）。
- — RLCD损失函数、架构细节未公开，无论文；Hacker News猜测众多，公司称论文“以后可能有”。
TypeSafe AIDiogo AlmeidaJevRLCDRLHFRLVRGPT-6 AstraFable 5.1QECometKiwiModelFrontOpenAI Structured OutputsBAMLDSPyOutlines
11 分钟 · 5 卡片 · 13 资料
读原文 →