找回密码
立即注册
搜索
发回帖 发新帖

6200

积分

0

好友

783

主题
发表于 8 小时前 | 查看: 5| 回复: 0

开发者 @Zagitta 日前在 GitHub 上发布了 开源项目 GPU Unlock,目标是释放部分英伟达安培架构显卡被“锁住”的算力。项目通过 Linux 内核模块,在英伟达驱动接管显卡之前调整硬件速度选择器,让特定 FP16/BF16 运算的指令发射速率翻倍。

GPU Unlock 在 RTX 3090 Ti 上的性能对比:BF16 Matmul 从 87.50 提升至 157.41 TFLOPS,ComfyUI BF16 吞吐提升 58.6%

GPU Unlock 项目介绍

GPU Unlock 面向 GA102/103/104/106 芯片,覆盖 RTX 3090、部分 RTX 3080/3070 以及 RTX 3060 显卡。项目提高的是 FP16 或 BF16 输入、FP32 累加的 FMA 运算指令发射速率,目标是达到专业卡的水平。

项目把内核模块和固件操作放在启动阶段,在英伟达驱动加载前修改 GPU 速度选择器并执行功能级复位,之后由未修改的英伟达驱动正常接管显卡。项目本身不修改驱动程序、不永久刷新显卡 VBIOS,启用时需要配置 Linux 内核启动参数。

基准测试中不同精度的提升差异很大

项目以功耗上限 450W 的 RTX 3090 Ti 显卡进行 8192³ 稠密矩阵乘法测试,采用五次测试的中位数。其中 FP16 性能从 87.46 提升到 118.39 TFLOPS,性能增加约 35%;BF16 从 87.50 提升到 157.41 TFLOPS,性能增加约 80%;TF32 从 42.58 提升到 82.61 TFLOPS,性能增加约 94%。

有 RTX 3090 Ti 用户在 ComfyUI 中测试了图像和视频生成任务,MOSS-Image SFT、Qwen-Image 2.1 Turbo 和 Z-Image Turbo 的 BF16 吞吐量分别提升 58.6%、57.2% 和 56.1%;而 MOSS 的 INT8 测试只提升 0.3%,几乎可以忽略不计。

不同任务获得的性能提升也有所区别

GPU Unlock 所说的性能翻倍主要针对特定 Tensor Core 指令发射速率,矩阵乘法基准和部分 BF16 图像生成受益比较明显,但 INT8 任务、受显存带宽限制的 LLM 解码 等场景性能提升有限。

即便显卡型号在支持列表内,具体提升也会随芯片、功耗上限和工作负载存在区别。例如在测试中 RTX 3080 Ti 20GB 版完成解锁后,BF16 仍然维持原来的速率,并没有显著提升。

访问项目: https://github.com/Zagitta/gpu-unlock/blob/main/README.md

如果你对这类开源硬件项目带来的实际收益感兴趣,也可以在 云栈社区 找到更多关于 AI 推理加速的实践经验与讨论。




上一篇:WiFi 分析工具自研实录:Rust + Tauri 实测易拉罐天线
下一篇:0.3 TOPS 国产 AI MCU,跑 YOLO 靠的不是算力是合封 DDR
您需要登录后才可以回帖 登录 | 立即注册

关闭

站长推荐上一条 /1 下一条

手机版|小黑屋|网站地图|云栈社区 ( 苏ICP备2022046150号-2 )

GMT+8, 2026-10-28 14:16 , Processed in 0.066967 second(s), 42 queries , Gzip On.

Powered by Discuz! X3.5

© 2025-2026 云栈社区.

快速回复 返回顶部 返回列表