模探MODELROVE选模型 · 算算力 · 定部署

算力中心/NVIDIA

NVIDIA RTX 4090 24GBGPU

消费级旗舰，量化后跑 14B~32B 模型，单位算力成本最低。

用它选模型

显存容量

24 GB

GDDR6X

显存带宽

1008

GB/s

参考价

¥1.8万

单卡参考价

可参考模型

8

按显存与权重估算

规格对比

与同榜设备的显存（GB）与带宽（GB/s）对照

可参考的模型

详细规格

厂商: NVIDIA
系列: Ada Lovelace
设备类型: GPU
显存容量: 24 GB
显存类型: GDDR6X
显存带宽: 1008 GB/s
整机功耗: 450 W
互联方式: PCIe 4.0 x16
支持精度: fp16 / bf16 / fp8 / int8
参考价格: ¥17,500
价格说明: 单卡参考价
供货状态: 现货充足
资料来源: 渠道公开报价整理
采集日期: 2026-09-30

查看公开资料

用这台设备配模型

「可参考模型」由模探按权重体积、显存与 KV Cache 估算得出，实际能否跑通还取决于框架支持、量化方案与算子实现。

评论与使用反馈（0）

登录后可发表评论，你的反馈会帮助其他用户做选择。

还没有评论，来做第一个分享的人。