Qwen 2.5 Coder 32B Instruct 显存需求测算器
专为代码生成与重构调优,编程能力对标前沿闭源模型,本地编程助手首选。
大语言模型开发方: Alibaba
推荐显卡: RTX 3090 24GB / RTX 4090 24GB
12 GB
32,768 tokens
预估所需总显存
28.5GB
显存负载比例100% (28.5 / 12 GB)
显存组成明细
模型权重19.2 GB
KV Cache8 GB
CUDA 运行时1.3 GB
⚠️ 显存不足 (CUDA OOM 警告)
+16.5 GB 超出显存上限,加载或推理时将直接报错中断。