MiMo的FP4混合量化为什么只压Expert层？传统FP4量化针对dense模型，但MoE模型的稀疏激活使专家层的输入分布极不均衡——低激活专家易因缩放因子过小落入下溢区，导致输出全零或NaN。小米选择只对容量最大的Expert做FP4，其他模块保留高精度，既把显存占用砍到1T模型的1/4以下，又避开了全量量化的精度陷阱。同类方案如SageAttention3也在Blackwell架构上实现了全FP4注意力，但那是针对生成式模型的注意力算子，适用面不同。

小米用通用GPU+软件优化跑出1000 tokens/s，但OpenAI的Codex-Spark和Mistral的Le Chat走的是另一条路——依赖Cerebras WSE-3晶圆级芯片，片上44GB SRAM+90万AI核心，彻底消除多卡互联延迟。Cerebras声称其推理服务比H100系统快10-20倍。两阵营的本质分歧：通用GPU靠算法榨干每瓦算力，专用芯片靠物理架构扫除数据搬运瓶颈。小米方案胜在普适性（任何8卡GPU集群都能部署），Cerebras路线则可能在超低延迟场景（如高频交易、实时编程）保持绝对速度优势。但Cerebras芯片的产能和生态成熟度仍是未知数。

当下能看到的关键变量有三个：一是FP4向更低比特(如FP3/INT3)的尝试——MoE模型在3bit量化时已观察到不可忽视的精度损失，硬压下去可能得不偿失；二是投机解码的接受率天花板——Coding场景的6.30 token是否可复制到数学推理、长文生成等高熵任务；三是TileRT的常驻内核模式能否被业界标准化，类比TensorRT对FP16生态的贡献。焦点会集中在2026年下半年：当更多厂商（阿里Qwen、字节豆包）推出类似「超速模式」时，千token会成为标配还是专属能力？这取决于DFlash这类算法能否在更广范围的任务上稳定达到4+的接受长度。

UltraSpeed API定价是标准版的3倍，输出速度提升10倍——对开发者而言，每token成本实际下降了70%。但更值得追问的是：推理成本的真实账本里，硬件折旧和电力占比超过65%。速度提升10倍意味着单次请求的GPU占用时间从数秒降到亚秒级，如果能用同样的硬件同时服务更多请求，单位成本才会真正摊薄。当前限制因素有两个：一是DFlash的高接受率目前仅在Coding场景达到6.30 token，通用场景的接受率未知；二是TileRT的微秒级流水线编排能否在混布多模型时保持稳定？这是从「技术演示」到「商业化产品」之间最硬的骨头。