Akamai 推理云是 Akamai 与英伟达于 2025 年 10 月合作推出的边缘云服务平台，核心目标是将 AI 推理能力从中心化数据中心延伸至全球 4400+ 边缘节点。其底层逻辑继承自 Akamai 长达二十余年的 CDN 网络——全球 20% 的互联网流量经过其平台。2026 年 5 月，Akamai 与 Anthropic 签署了 18 亿美元、为期七年的云计算协议，股价当日大涨 26.58%，验证了边缘推理赛道从「概念验证」走向「商业爆发」的拐点。

FP4 量化将模型权重和激活值压缩至 4 位浮点数（典型 E2M1 格式），使得数据体积降至 FP16 的四分之一、FP32 的八分之一。英伟达在 Blackwell 架构上原生支持 NVFP4，配合第五代 Tensor Core，可在多数推理场景中维持 95% 以上的原始准确率。文章中提到 RTX PRO 6000 生图耗时从 12 秒降到 3-5 秒，核心驱动力正是 FP4 带来的显存需求减半与计算密度翻倍。H100 架构仅支持到 FP8，无法利用这一优势，这也是 RTX PRO 6000 在推理赛道反超 H100 的关键。

当 Akamai 选择将 GPU 部署到全球边缘节点时，广东汕头给出了另一种思路：利用国际海缆登陆站和绿色能源，搭建「数据从境外来、推理在境内做、结果回境外」的 Token 出海模式。海外数据经合规链路进入汕头算力专区，物理隔离后完成推理，直连新加坡时延仅 35 毫秒。当地玩具厂商已将 DeepSeek、豆包等大模型接入产品，成本相比直接调用海外算力降低 30% 以上。这个方案的核心逻辑是用「算力不出境、服务卖出去」绕过跨境流量税费与物理延迟。

硬件迭代只是推理降本的一部分。SemiAnalysis 测算，从 H100 到 B300 平台，单 Token 成本可降至原来的 1/5；若切换到 FP4 精度，降幅可达 95%。但更关键的是软件优化——英伟达宣布 Blackwell 平台上 DeepSeek V4 的 Token 成本一个月内降了 80%，其中硬件只贡献 30%-40%，应用加速层与调度优化贡献了 60%-70%。行业共识是，当资源利用率从当前的 30% 提升至 80% 以上，长文本场景的 Token 成本还能再降 50%。

文章提到这家 App 通过开源 MultiKueue 调度器实现「不动旧代码，只拆推理层」的混合多云架构。MultiKueue 是 Kubernetes 批处理工作组推出的跨集群调度工具，已在 KubeCon 上由 CERN 工程师演示。它允许管理集群只派发作业、不执行，工作集群负责实际运行，状态自动回传。核心问题在于：90% 的企业存量代码并未原生适配这种「无状态推理」范式，迁移时真正需要改动的是数据流（如 KV Cache 的刷新策略），而非应用代码本身。