5.8
深览指数
科技智东西·王 涵··AI 生成

国芯+国模之间缺一座“桥”,清程极智连续两年在WAIC架起国产算力跨越之路

本文指出,国产AI芯片(如华为昇腾)和国产大模型(如DeepSeek)已初具规模,但两者之间缺少关键的推理引擎,导致国产算力无法高效转化为Token产出。清程极智以自研的赤兔推理引擎为核心,构建了“前店后厂”一体化产品体系,包括AI Ping调度平台和八卦炉部署工具,声称能实现“国产芯片+国产推理框架+国产大模型”全链路,且成本更低、效率更高。文章通过具体技术案例(如FP4精度模拟)和成本数据(硬件成本直降75%)支撑其论点,适合关注国产AI基础设施、算力落地的技术决策者和产业投资者阅读。原文 ↗

核心观点
  • 中国AI产业要掌握主动权,必须打通“国芯”与“国模”之间的推理引擎环节,实现全链路自主可控。
  1. 01清程极智自研的赤兔推理引擎,通过软件浮点模拟计算架构,在缺乏原生FP4/FP8单元的国产芯片上复现低位宽浮点计算逻辑,避免了BF16转换带来的显存翻倍问题。
  2. 02搭载赤兔引擎后,部署DeepSeek满血版所需硬件从4台国产8卡服务器降至1台,硬件综合成本直降75%。
  3. 03AI Ping一站式Token调度平台统一接入30余家服务商、600余个大模型服务,通过7×24小时实时监测,自动调度最优服务,将API调用成功率提升至99.99%以上。
  4. 04企业接入AI Ping后,API调用综合成本降低超过37%,吞吐提升超过90%,延迟降低超过20%。
  5. 05赤兔推理引擎从第一行代码自研,完全基于自研代码构建,而非简单挪用海外开源框架。
反方 / 局限
  • 文章未提及清程极智方案在特定场景下的性能瓶颈、与英伟达生态的兼容性难题,也未讨论海外主流推理引擎(如vLLM、TensorRT-LLM)在国产芯片上的适配进展与竞争力,使论证存在视角盲区。
  • 文章对“国芯”和“国模”的现状描述趋于乐观(如“比肩乃至超越国际主流水平”),但未提供独立的第三方评测数据或具体对标案例,属于企业宣传口径。
9 分钟 · 4 卡片 · 12 资料
读原文 →

前置背景

平行视角

未来推演

延伸追问