7.9
深览指数
科技微博·极客公园··AI 生成
不到 1 个月估值暴涨 100 亿美元，Jev 创造者：ChatGPT 把 AI 带歪了
本文以 Jev 模型的爆红为引子，核心是传达了其创造者、前 OpenAI 研究员 Diogo Almeida 的一场演讲。Almeida 提出了一个尖锐的论断：当前以 ChatGPT 为代表的 AI 时代，本质是“Assistance（辅助）”时代，其底层算法 RLHF 优化的是人类偏好而非实际任务效果，导致模型“无论多错，看起来都对”。他预言这个时代将被“Automation（自动化）”时代取代，未来的 AI 应服务于更聪明的软件。文章价值在于提供了一个来自 AI 核心技术人员的、不同于主流叙事的视角——他不是否定 AI 本身，而是指出了当前技术路线与商业价值的根本矛盾。适合对 AI 技术趋势有深度关音的读者，能提供质疑主流叙事的新框架。原文 ↗
核心观点
- ▍当前 AI 时代的核心矛盾在于：所有主流 LLM（如 ChatGPT、Claude Code）都基于 RLHF 训练，其本质是优化人类偏好（Assistance），而非让软件可靠地自主完成任务（Automation），这导致 AI 在客服等“去人类化”任务上表现糟糕，而在聊天等需要取悦用户的任务上看似强大。
- ▍Almeida 预言，RLHF 时代将被视为一段“奇怪的弯路”，下一时代将是真正的“Automation”时代，AI 将服务于构建更智能的软件，而非仅仅是更便宜的代码生成。
- 01Almeida 是 GPT-4、ChatGPT 及 RLHF/InstructGPT 的合著者，他所在的团队“基本上发明了后训练这个概念”，这使他的批评具有极高的可信度。
- 02文章以新模型 Jev 为引子：它不生成文本、不聊天，只返回类型化答案和校准概率值，在分类任务上比 GPT 快 193 倍、便宜 445 倍，象征了“Automation”方向。
- 03Almeida 指出，RLHF 的奖励模型存在不对称性，鼓励模型表现得自信以讨好偏好，直接导致了幻觉现象（如 ChatGPT 对放屁音效一本正经地评价为“诡异的氛围感作品”）。
- 04他强调“原始的 Scaling Law 是错的”，且数据比算力重要，“做对的任务比数据重要得多”。
- 05文章指出，自 2019 年以来 SaaS 基本没变过，在 LLM 时代只是“贴一个聊天机器人上去”，这是“Assistance-native”设计的必然结果。
反方 / 局限
- — 作者 Almeida 虽然批评当前 AI 范式，但他也承认 ChatGPT 是“一个改变世界的产品，大概会一直存在下去”，并未全盘否定其价值，暗示了两种范式可能长期并存。
- — 文章中提到了两个对立阵营：一方认为 AI 进展好得不可思议，另一方认为 AI 是泡沫。Almeida 提出“Assistance vs Automation”框架来解释这一分歧，但文章并未提供直接证据表明其新范式（TypeSafe）在实践中能成功解决“自动化”难题。
JevDiogo AlmeidaTypeSafe AIOpenAIGPT-4ChatGPTClaude CodeRLHFRLVRVercelGuillermo RauchLangChainDCVCScaling LawSaaS
11 分钟 · 4 卡片 · 11 资料
读原文 →