科技智东西·李水青··AI 生成
WAIC对话星环科技CEO:把数据库“户口”迁到GPU上,AI Agent不再干等
星环科技推出全球首个GPU原生认知数据库,将数据库计算链路从CPU完全迁移至GPU体系,以解决AI Agent在多步骤循环推理中因数据搬运和计算瓶颈导致的延迟与GPU利用率低(降至30%-40%)的问题。CEO孙元浩指出,Agent时代的数据瓶颈是计算、带宽、存储与数据组织方式的系统性瓶颈,单纯堆CPU无法根本解决。该数据库在TPC-DS基准测试中相比DuckDB获得70倍加速,在智能投研等场景实现30至5881倍性能提升,经济性拐点已出现。适合关注AI基础设施选型、数据库架构迭代与Agent落地的技术决策者阅读。原文 ↗原文 ↗
核心观点
- ▍AI Agent时代,CPU数据库成为数据瓶颈,需要将数据库计算链路彻底迁移到GPU体系内,才能解决延迟、提升GPU利用率并实现经济性拐点。
- 01Agent多步骤推理会触发数百次数据访问,CPU并行度低(百级核心)和内存带宽限制(约400GB/s)成为制约,而GPU具备万级并行单元和数TB/s显存带宽。
- 02数据在CPU与GPU间反复搬运导致GPU利用率可能降至30%-40%,浪费昂贵算力。
- 03星环科技实现GPU直连存储(GIDS),完全绕过CPU和主机内存,消除CPU瓶颈。
- 04在TPC-DS SF1000基准测试中,该数据库完成99项查询,相比DuckDB获得70倍加速。
- 05在智能投研场景中,因子计算和历史回测任务实现30倍至5881倍性能提升。
- 06在复杂企业知识问答场景中,文档解析与知识入库性能提升约10倍,数据检索性能提升约20倍,单题端到端推理性能提升约6倍,任务准确率79.3%。
- 07孙元浩认为,当性能提升达到数十倍甚至上百倍时,GPU数据库的单位任务成本经济性拐点已到来。
反方 / 局限
- — 文章承认GPU原生认知数据库仍处于产业化早期,测试成绩还需要更多生产系统长期验证,国产算力适配、超大规模数据管理和生态兼容也将持续推进。
10 分钟 · 4 卡片 · 12 资料
读原文 →前置背景
平行视角
未来推演
延伸追问