7.4
深览指数
商业虎嗅·经济观察报··AI 生成

Token太烧钱,连“不差钱”的银行也扛不住了

文章以一线银行IT主管和客户经理的视角,揭示了中国商业银行在大模型应用上从“不计成本堆Token”到“紧急转向ROI考核”的真实转变过程。核心发现:2026年上半年,部分银行日均Token消耗量突破330亿,费用占比从IT预算的3%飙升至近8%,迫使管理层在7月紧急收紧预算,要求投入产出比不低于3倍。文章提供了具体的Token消耗数据、部门差异(客服/投研消耗高,私人银行/小微信贷效果不佳)、以及员工为保岗位而故意“喂错数据”的博弈细节。适合关注AI产业落地成本、银行业数智化转型、或企业级AI投入产出决策的从业者阅读。原文 ↗

核心观点
  • 银行对大模型应用的策略正从“不计成本堆Token”急转为“强行划定ROI红线”,背后是Token消耗量暴增带来的预算失控压力。
  1. 01某中型银行日均Token消耗量在2026年6月底超过50亿,同比增长逾10倍;招行同期日均消耗达330亿。
  2. 02按国产大模型每百万Token约10元计算,该行上半年Token总支出约900万元,占上年度IT预算的8%,远高于去年全年不到3%的比例。
  3. 03银行高层点名批评了财富管理服务智能体(回复同质化、推荐滞销产品)和小微信贷风控智能体(仍侧重抵押物逻辑),认为其‘Token消耗极大,实际效果欠佳’。
  4. 04招行首席信息官周天虹披露,该行大模型成本收入比约为20%(投入20元创造100元收益),但文中中型银行远未达到这一水平。
  5. 05银行新规要求:智能体与大模型的投入产出比不能低于3倍,即每投1元需至少换来3元收益。
  6. 06部分对公客户经理为保住岗位,故意向智能体输入与企业信贷无关的信息,既完成Token考核,又试图阻止其迭代进步。
反方 / 局限
  • 文章暗示了高层的两难:一方面要降本,另一方面又担心‘因噎废食’——压降关键业务智能体的投入可能导致前期研发(数百万)打水漂且落后行业转型。
  • 内部博弈显著:客服、行政等见效快的部门泰然自若;私人银行部、金融市场部因智能体见效慢而焦虑,试图以‘仍需大量训练’为由游说保留预算。
11 分钟 · 4 卡片 · 10 资料
读原文 →

前置背景

平行视角

未来推演

延伸追问