7.8
深览指数
科技虎嗅·云算计··AI 生成
一文说清Token工厂
这是一篇关于Token工厂生态的深度分析，作者基于一线经验，提出了一个五层生态模型（底层资源、项目交付、智算IaaS云、MaaS自有Token API与正规中转站、上下文优化与客户端调度），并详细阐述了各层的角色、相互关系及动态变化。文章核心观点是Token工厂的核心竞争力在于性价比和技术运营，而非硬件囤积，并预测中国IT技术将借此在全球市场实现外溢和领先。适合对AI产业链、云计算、技术商业有了解的读者，能提供超越媒体报道的产业视角和判断。原文 ↗
核心观点
- ▍Token工厂不是单一产品，而是以生产和消费推理Token为目标的一整套上下游生态，包括产品、技术、资源和业务模式，核心是让客户用上便宜又聪明的Token，并让硬件和电力资源物尽其用。
- ▍Token工厂的核心竞争力是性价比和技术运营，而非囤积硬件；中国IT技术依靠互联网和云计算积累，在全球市场有断档式领先优势，适合做Token工厂。
- 01从2025年下半年开始，AI已能胜任中级编程工作，多媒体行业也出现类似情况，导致GPU资源特别是N卡资源从滞销变为抢手硬通货。
- 02Token工厂生态分为五层：底层资源层（GPU、电力）、项目交付层（硬件设计、实施）、智算IaaS云层（按资源上限收费的GPU云）、MaaS层（分A面：自有Token API和B面：正规Token中转站）、上下文优化与客户端调度层。
- 03N厂标配的高价网络设备已被第一、二、三层厂商多角度替换为廉价平替方案，说明硬件壁垒并非不可打破。
- 04正规Token中转站可以低成本追加客户急需的模型，并实现跨节点、跨资源池的Token生产调度，是提升整体效率的关键环节。
- 05上下文优化层能通过修饰用户提问（如补充实时信息、进行安全过滤），让模型给出更精准、合规的回答，并天然具备Token调度能力。
- 06技术运营（如错峰复用、性能调优、资源调度）是Token工厂远期降本增效的核心，但当前云厂商在此领域做得不够好，外部变量（硬件价格、模型发布、客户需求）变化剧烈，增加了运营难度。
反方 / 局限
- — 作者承认，当前GPU资源极度稀缺，导致大部分中转站的调度空间很小，绝大多数请求集中抛给单一供应商，更像一个“走账代理”，未能实现智能调度的目标。
- — 上下文优化层面临的最大问题是“AI应用什么时候大爆发”，目前能见到钱的只有AI搜索，其他产品形态尚未固定，且大客户自研的AI对话APP不需要外部供应商。
26 分钟 · 3 卡片 · 8 资料
读原文 →