科技腾讯新闻·极客公园··AI 生成
Jev,让全球程序员玩疯了
文章以一则智能家居插件为引子,提出了一个尖锐的反思:当前巨额算力被浪费在让AI「说人话」上,但许多场景只需要一个「是/否」的快速判断。作者介绍了前OpenAI研究员Diogo Almeida推出的只输出概率的「判断模型」Jev,展示了开发者社区用它做出的近五百个项目:从上下文压缩到手机自动化,成本降到了传统大模型的几百分之一。文章核心观点是,AI架构正从「一个万能的中央处理器」转向「海量廉价判断+少量昂贵生成」的分布式分工,这一转变可能比模型参数竞赛更具深远意义。适合关注AI工程化落地、对「大模型无用论」有过思辨的技术决策者阅读。原文 ↗原文 ↗
核心观点
- ▍AI行业过去四年专注于优化大模型的「生成」能力是一种结构性的浪费,将「判断」与「生成」解耦,让前者以极低成本普及,是AI基础架构走向分布式分工的起点。
- 01前OpenAI研究员Diogo Almeida推出的「判断模型」Jev(以经济学家杰文斯命名)不输出文字,只返回概率值。
- 02在Home Assistant应用中,HA-Jev插件监测洗衣机功率和门状态,向模型提问「衣服忘拿了吗?」,一次判断耗时几十毫秒,花费0.000015美元。
- 03开发者Tamara Tran使用Jev插件对Claude Code的上下文进行相关性打分,将接近100万token的上下文在1秒内过滤到8.6万token。
- 04Droidrun团队开发的mobile-jev手机操作代理,控制Android手机完成Uber叫车操作(9步)仅耗时21秒,全程未调用传统文字生成大模型。
- 05一位开发者用Jev在13分钟内处理了3个月积压的9081条产品匹配数据,总花费32美分;此前用主流大模型测算因API费用过高而放弃。
- 06Distribb创始人用Jev扫描近600个网页,45秒内重构内部链接地图(布设500多个链接),花费21美分。
- 07Jev的定价为每百万输入token 0.042美元(输出免费),相比同等准确率的顶级推理大模型,每日1万次决策的月成本从3.5万美元降至约120美元。
- 08Jev上线仅一天,开源社区基于Google的DiffusionGemma做出了开源版本,初步测试准确率接近官方。
反方 / 局限
- — 文章作者倾向于将「判断」和「生成」作为完全独立的品类来讨论,但在实际复杂场景(如医疗诊断、法律文书生成)中,「生成」与「判断」的边界可能模糊,一个决策往往需要先理解上下文再判断。
前置背景
技术原理
平行视角
未来推演
延伸追问