大模型显存开放数据集

55 个开源模型的显存估算，与计算器、模型页和对比报告使用同一套函数在构建时生成。

• modelvram-vram.csv （每个模型一行）
• modelvram-vram.json （同样的数据，另附列说明、单位和假设）

版本 1.2026-09-29b；模型数据最近核对于 2026-09-29。

从这些数据算出的可引用数字（例如多少模型能放进 24 GB 显卡）见大模型显存统计。

每个模型还有一枚可贴进 Hugging Face README 的静态显存徽章，见显存徽章（英文）。

许可与署名

数据以 CC BY 4.0 许可发布：可以复制、修改和商用，只需署名：

Data: ModelVRAM (modelvram.com)，并附上 https://modelvram.com/data/。

单位

列名以 _gib 结尾的数值单位是 GiB（1024³ 字节），站内写作 GB。参数以个数计，上下文以 token 计，kv_bytes_per_token_fp16 以字节计。模型没有的值（例如超过最长上下文的总显存）为空。

计算方法

权重显存 = 全部参数 × 每参数位数 ÷ 8（Q4_K_M 4.84，Q8_0 8.5，FP16 / BF16 16 位；MoE 模型计入全部专家）。KV 缓存按每个模型的注意力结构计算，FP16，单个请求：全注意力随上下文增长，滑动窗口层只保留窗口，MLA 存压缩的潜向量，线性注意力和状态空间层不随上下文增长。总显存 = 权重 + KV 缓存 + 0.5 GB + 权重与缓存的 10%。“fits”列表示 32,768 token 时能否放进单张该容量的显卡。上下文取值为 8,192、32,768、131,072 token。gpt-oss 也按各列的每参数位数计算；它以 MXFP4 发布，GGUF 量化版本同样以 MXFP4 保存专家权重，实际文件都接近 MXFP4 的大小，所以“能否运行”、GPU 和显存分档页面只按 MXFP4 列出它，并要求剩余至少 0.5 GB。

这些是估算值，不是实测峰值。vLLM、CUDA Graph、视觉编码器等可能需要更多显存。详见 KV 缓存说明（英文）。与公开实测的对比见估算准确度。自己测过？欢迎提交实测（英文表单）。

来源

模型结构和参数量来自各仓库在 Hugging Face 上的 config.json 与文件大小，读取日期见 source_checked 列。计算代码与测试在 GitHub 上公开；同样的数据也发布在 Hugging Face 数据集。

JSON API

同样的数字也以静态 JSON 提供，构建时生成，无需密钥，允许跨域（Access-Control-Allow-Origin: *），许可同为 CC BY 4.0。每个响应都带 version（与上面的数据版本相同）、checked 日期、license 和 source。只覆盖站内的 55 个模型和 73 种 GPU 配置；任意 Hugging Face 模型请用计算器。

• /api/v1/models.json: 全部模型：参数、结构、f16 与 q8_0 下每 token 的 KV 字节数、各精度权重（GiB）和链接
• /api/v1/models/<id>.json: 单个模型：各精度在 4K、8K、32K、128K 和最长上下文下的总显存（f16 与 q8_0 KV），已核对的 GGUF 仓库、最小配置，以及每张单卡的“能否运行”结论
• /api/v1/gpus.json: 全部 GPU 与多卡配置
• /api/v1/gpus/<id>.json: 单个配置能装下的模型（8K 上下文下的最佳精度、总显存、最长上下文、速度）和装不下的模型

curl -s https://modelvram.com/api/v1/models/qwen3.6-35b-a3b.json | jq '.precisions[] | select(.id=="q4_k_m") | .totals_gib.f16'
curl -s https://modelvram.com/api/v1/gpus/rtx-4090.json | jq '.fits[] | {name, best_precision, total_gib}'

ID 与页面地址相同，例如 qwen3.6-35b-a3b、rtx-4090、2x-rtx-3090。面向 AI 助手的站点概览见 /llms.txt，计算器的 URL 参数见 /agent.md（英文）。v1 只会增加字段，不会删改已有字段的含义。