MoE（混合专家）架构是让AI成本骤降的关键技术。传统稠密模型每次推理“全员出动”，算力消耗随参数量线性增长；MoE拆成多个“专家”子网络，每次只激活最相关的少数专家。DeepSeek V4 Pro总参数1.6万亿，每次只激活490亿（激活率3%），编码能力逼近顶级闭源，输出价格仅为GPT-5.5的八分之一。腾讯WeLM激活率低至3.75%，比DeepSeek-V4-Flash的4.6%还要极致。MoE让大模型“能力不减、成本打骨折”——这是理解AI降价的核心技术前提。

GPU最初为图形渲染设计，擅长大规模并行训练，但大模型推理是逐词生成、顺序依赖。LPU（语言处理单元）是专门为这场景定制的芯片：Groq的LPU运行Llama 3 70B时输出速度超过280 token/秒，H100只能到60-100。核心差异在于LPU用片上SRAM（带宽80TB/s）替代GPU的外置HBM（8TB/s），彻底绕开“内存墙”。英伟达已将其集成进Vera Rubin平台，国内元川微等初创也在跟进。LPU不是替代GPU，而是在推理时代给“大炮打蚊子”式浪费划上句号。

中美AI付费生态截然不同。美国ChatGPT、Claude的20美元/月订阅已站稳，用户几乎没有“为什么不免费”的追问，甚至自费订阅后AI工作使用率从38%飙到58%。中国则截然相反：豆包收费冲上热搜“豆包笨还收费”，9.1万人投票中96.7%反对付费。85.4%国内用户为价格敏感型。背后差异不在技术，在互联网免费模式的长期规训。EpochAI调研发现，公司掏钱那一刻AI工作使用率才从38%飙到76%——成本承担者才是AI普及的真正推手。

Citadel Securities《Tokenomics》报告指出，AI市场正出现结构性分化：前沿模型（追求智能上限）仅少数资本雄厚的企业能用，绝大多数场景将转向极致便宜的“日常AI”。高盛合伙人直接警告“Token支出已触顶”，企业将主动做任务路由——简单工作跑本地模型，复杂任务才调云端前沿模型。这不是需求见顶，而是用量结构下沉。LLM Token支出指数近期连跌7天，不是因为没人用AI，而是新增的用量全跑在平价模型上。拐点的信号清晰：2026年Q1已见，分化将加速。

行业共识是用MoE、KV缓存复用、峰谷定价来压缩单次调用成本。但更深层的问题是：用户是不是在为大量“无效推理”买单？Agent场景中，大量token花在重复搬运信息、低效会议式的多Agent空转上。懂行的工程师能精简提示词、控制上下文长度把账单压低数倍——但普通用户做不到。理想模式是系统自动判断：简单任务走廉价小模型，复杂任务才调贵模型。问题是：这个“分流决策”应该由模型厂、云厂商还是用户自己来承担成本？