7.7
深览指数
科技微博·机器之心Pro··AI 生成

英伟达GPU隐藏算力被开源解锁!不改官方驱动,RTX 4090吞吐翻倍

开源社区发现 GeForce 显卡 Tensor Core 在 FP16/BF16 输入、FP32 累加的混合精度路径上被人为限速,开发者通过 GPU 启动阶段固件漏洞(ROP 改 PLM 权限掩码)写入 SS0/SS1 寄存器解除限制,不改驱动、不刷 BIOS。RTX 4090 该路径指令吞吐从 165.6 涨到 331.6 TFLOPS,30 系、20 系(含 2018 年的 2080 Ti)同样受益。但底层指令翻倍并不等于真实矩阵乘和 AI 任务翻倍:cuBLAS 实测增幅仅 12%-76%,且集中在预填充阶段,逐 Token 生成几乎无变化。适合关注 GPU 底层机制与算力套利的读者。原文 ↗

核心观点
  • ▍部分 GeForce 显卡的 Tensor Core 在 FP16/BF16 输入、FP32 累加这一运算路径上被人为设置了指令发射速率限制,通过修改启动阶段的寄存器配置可以解除,无需换卡、刷 BIOS 或改官方驱动。
  • ▍底层指令吞吐率翻倍不等于真实 AI 训练/推理速度翻倍,实际矩阵乘与逐 Token 生成受内存带宽和数据搬运约束,增幅远小于指令级测试值。
  1. 01开发者 JustAResearcher 的 gpu-unlock-ada 项目显示,RTX 4090(AD102、128 SM、450W 上限、Linux 7.2.4)在 FP16→FP32 累加路径上从 165.6 TFLOPS 提升至 331.6 TFLOPS,BF16→FP32 从 165.5 提升至 330.6,循环加长到 4 万次结果仍稳定在约 330 TFLOPS。
  2. 02解锁只影响受限路径:RTX 4090 的 FP16→FP16 累加解锁前已达 325.7 TFLOPS,INT8 维持在约 661 TOPS,普通 FP32 约 79.1 TFLOPS,均无翻倍。
  3. 03cuBLAS 实际矩阵乘测试增幅大幅缩水:RTX 4090 在 4096×4096 FP16 下从 153.2 提升至 206.0 TFLOPS(约 34.4%),BF16 在 4096×4096 规模几乎无变化。
  4. 04Zagitta 的 gpu-unlock 项目借鉴 CMP 显卡解锁的 V67 技术,利用 GPU 安全启动固件漏洞通过 ROP 修改权限级别掩码(PLM),将 SS0 设为 0x88888888、SS1 设为 0x8,把解锁过程整合进 Linux 内核模块,在官方驱动接管前完成配置并触发 PCIe FLR 生效。
  5. 05RTX 30 系实测:RTX 3090 Ti 在 450W 下 BF16 从 87.5 提升至 157.4 TFLOPS(约 80%),TF32 提升约 94%;RTX 3080 10GB 在 320W 下 BF16 提升约 73%,FP16→FP32 从 64.88 提升至 110.14 TFLOPS,两项测试功耗均约 318W,温度 78℃/79℃,输出结果与解锁前完全一致。
  6. 06真实 AI 任务收益集中在预填充:RTX 3090 跑 27B BF16 模型时 vLLM 预填充提速约 33%、首 Token 响应缩短约 24%;双卡扩容 RTX 3080 预填充提升约 33%-36%,但两组实验的逐 Token 生成速度都无明显变化。
  7. 072018 年的 RTX 2080 Ti 同样被解锁:nlzy 的 turing-unlock 在 22GB 非标准显存 Dell 卡上,2048 规模 FP16→FP32 从 55.7 提升至 91.4 TFLOPS(约 64%);对比白皮书标称峰值 56.9 TFLOPS,解锁前仅达 97.9%,解锁后达 160.6%。
  8. 08haohervchb 的 Turing-unlock 用 UEFI 启动前方案在标准 11GB ASUS RTX 2080 Ti(TU102、68 SM)上,MMA 指令吞吐从 46.94 提升至 93.66 TFLOPS,实际 8192×8192 GEMM 从 48.15 提升至 85.17 TFLOPS(约 76.9%)。
  9. 09Windows 平台也有实验性进展:TOTORONG 的 AD103_win_unlocker 在 Windows 11 用 UEFI 方案测试一张 32GB 扩容 RTX 4080,4096 规模下 FP16/FP32 从 91.54 提升至 182.80 TFLOPS,BF16/FP32 从 91.91 提升至 184.49 TFLOPS,均接近翻倍。
反方 / 局限
  • — 两项 RTX 20 系研究的验证范围仍有限,只能说明部分 TU102 显卡有效,其他 RTX 20 型号的兼容性、不同驱动/固件版本下的表现都待验证。
  • — Windows 11 的结果来自特定改装显卡,尚不能作为普通 RTX 4080 或整个 RTX 40 系列通用兼容的依据。
  • — 文章未交代解锁技术的合规与保修风险:利用固件漏洞获得受保护寄存器写入权限,是否触及英伟达 EULA、是否会在后续驱动/固件更新中被封堵,均无说明。
13 分钟 · 7 卡片 · 16 资料
读原文 →

概念锚点

前置背景

技术原理

应用场景

平行视角

未来推演

延伸追问