8.2
深览指数
科技腾讯新闻·企鹅智库··AI 生成
AI写的东西越来越难懂，Gemini是怎么做到“说人话”的？｜Hao好聊趋势
文章论证AI文本难读的病理：后训练中的长度惩罚迫使模型压缩信息、删除虚词，造成微观“句法压缩饼干”；模型注意力无衰减、过度重写单句，导致宏观篇章断裂。引NYU、华盛顿大学等2026年论文后，拆解Google LearnLM用双裁判自动评测与专家Rubric强化学习，把“降低认知负荷”内化进Gemini 2.5基座，并介绍2026年UIDPO与RST结构对齐两条算法解药。原文 ↗
核心观点
- ▍AI文本难读的根源不是术语多，而是后训练中的长度惩罚等奖励机制迫使模型压缩信息、删除语法缓冲词，造成微观信息密度过高与宏观篇章断裂的双重病理。
- ▍Gemini之所以“说人话”，是因为Google在LearnLM项目中提前把“降低认知负荷、严保命题覆盖率”作为后训练目标，用双裁判自动评测与专家Rubric强化学习内化进基座权重，而非依赖提示词工程。
- 01纽约大学与得克萨斯大学奥斯汀分校2026年10月论文《Why is AI-generated language so hard to understand?》发现，即使控制词汇难度，AI句子仍因信息密度过高触发人类认知不适，并总结出死物配动词、删减引导词、狂堆名词等六种烧脑语法。
- 02在Qwen2.5-1.5B-Instruct上用GRPO做控制变量实验，随着长度惩罚系数λ增大，模型自动删减可选that、压缩从句为名词复合词、拉高单位Token惊奇度，证明长度惩罚是压缩句法的直接推手。
- 03华盛顿大学等2026年9月论文分析84,000条真实用户与ChatGPT、Gemini的对话日志，提出“对话复杂度预算”：短回复中高词汇多样性是正收益，长回复中高复杂度会击穿预算，导致用户反复要求澄清。
- 04俄亥俄州立大学等2026年6月论文追踪869份科研写作日志、约24万次键盘敲击，发现GPT-5.4和Claude Opus 4.6润色后全局连贯性从73.8分崩到59.9分，篇章框架分暴跌12.1个百分点；人类63%的修改在词/短语级，模型86%-89%是整句推倒重来。
- 05SlopBench评测18个模型发现，同一家族内能力越强、定价越贵，宏观篇章机械感越重：Claude Haiku 4.5到Fable 5长文僵化指数从27.4恶化到32.1，段落起手式重复率从45.9%升到65.8%；GPT-5.4 Mini到GPT-5.6 Sol重复率从56.3%恶化到72.3%。
- 06Google Simplify系统用Gemini Ultra做易读性裁判、Gemini 1.5 Pro做原子命题保真度裁判，迭代824轮后自创内嵌同位语解释、抽象名词解压回具体主谓、理顺倒装三招；4,563人双盲RCT显示客观题准确率提升3.9个百分点，生物医学文献上暴涨14.6个百分点。
- 07LearnLM用5大原则25项细则的专家Rubric重写奖励模型，其中“管理认知负荷”原则下9条规则强制控制回复长度、拆小块、信息顺序建立在旧概念之上；混训后Gemini 2.5 Pro在189名专家盲测中对o3胜率74.2%，文本重定级误差仅0.99个年级，远优于o3的2.44和Claude 3.7的2.11。
- 082026年南科大UIDPO在SimPO基础上加局部二阶差分惩罚与全局标准差奖励，让模型无师自通恢复人类保留可选that的缓冲本能，AlpacaEval 2长度控制胜率63.2%超SimPO的60.8%且平均回复更短；明尼苏达大学与亚马逊的RST结构对齐用MF-IDF做Token级稠密奖励，使Qwen2-1.5B在长文逻辑连贯性上击败标准RLHF。
反方 / 局限
- — 文章承认即使Gemini 4 Argon其叙事也远未完美：本文即由Gemini 4 Argon与作者共创，但作者仍需调整段落顺序、重构逻辑、删啰嗦语句，只是比用GPT 6 Astra省一半时间。
- — 文中引用的多项核心研究（NYU论文、SlopBench、GPT-5.6/Claude Opus 5.5等模型版本）均标注为2026年，与当前公开可查的模型迭代时间线存在明显出入，读者需自行核实这些论文与模型版本的真实性。
Gemini 4 ArgonGemini 2.5 ProLearnLMGoogle DeepMind均匀信息密度假说修辞结构理论UIDPOSimPO纽约大学得克萨斯大学奥斯汀分校华盛顿大学俄亥俄州立大学艾伦人工智能研究所南方科技大学明尼苏达大学亚马逊科学SlopBench对话复杂度预算长度惩罚认知对齐
38 分钟 · 5 卡片 · 7 资料
读原文 →