6.8
深览指数
科技腾讯新闻·量子位··AI 生成

Fable 5被网友薅出省钱神招!最高减70%!

用户发现通过将Fable 5的文本上下文(系统提示、工具文档等)渲染成密集图片再输入,利用token计费差异(图片按像素计费而非文字量),可将输入token成本降低59%-70%。项目pxpipe已开源,在GitHub获3000+星。文章介绍了pxpipe的原理、基准测试结果和风险(密集图片中精确字符串读取可能出错),并引用了谷歌2022年CLIPPO论文和DeepSeek-OCR作为技术预兆。对于使用Fable 5的开发者,这是一个实用的降本技巧,但需注意其有损压缩的局限。原文 ↗

核心观点
  • 将Fable 5的文本上下文渲染成图片,利用图片token按像素计价的计费差异,可以在不影响主要任务完成的前提下,大幅降低token消耗和账单成本,最高省70%。
  • pxpipe项目本质是对已有技术路线(CLIPPO、DeepSeek-OCR)的工程化套利,利用Fable 5等强视觉模型的看图能力,将长文本伪装成截图像输入。
  1. 01通过pxpipe,一个约4.8万字符的系统提示词和工具文档,需要约2.5万文本token,渲染成1573×1248的图片后仅需约2700个image token。
  2. 02作者给出了端到端账单对比:原始文本版本为42.21美元,pxpipe版本仅为6.06美元,节省约85.6%,且任务均成功完成。
  3. 03pxpipe在GitHub已获3000+星,且提供两行命令即可启动的本地代理使用方式。
  4. 04谷歌2022年的CLIPPO论文已证明文字可通过渲染成RGB图片,让Vision Transformer同时处理真实图片和文字图片,无需tokenizer和文本编码器。
反方 / 局限
  • 这是一种有损压缩:密集图片中的精确字符串(如代码、哈希、密钥)仅Fable 5勉强能读,Opus等旧模型容易自信地输出错误结果,且不易发现。
  • pxpipe的适用场景有限,它只适合压缩系统提示、工具文档、早期历史记录等'又长又密'的内容,而不能压缩ID、哈希、密钥、精确数字和最近几轮对话,否则会丢失关键信息。
  • 该方法的有效性高度依赖模型的OCR/视觉能力,并非所有大模型都具备Fable 5级别的读取能力。
9 分钟 · 4 卡片 · 9 资料
读原文 →

前置背景

平行视角

未来推演

延伸追问