模探MODELROVE选模型 · 算算力 · 定部署

Llama 3.1 405B开源

开源模型中参数规模最大的通用模型

用它配算力

综合归一化分

60.0

0-100

原始均分

70.67

各基准原始分平均

权重显存估算

756.0 GB

bf16 权重,不含 KV Cache

单请求 KV Cache

1008 GB

上下文 131072 tokens

各基准表现

归一化分(0-100)

分数明细与来源

基准归一化分原始分原始名次来源日期
MMLU83.985.20 %#11公开评测整理(各家官方技术报告与开源榜单)2026-09-30
MMLU-Pro80.673.30 %#7公开评测整理(各家官方技术报告与开源榜单)2026-09-30
GSM8K79.089.30 %#7公开评测整理(各家官方技术报告与开源榜单)2026-09-30
MATH53.573.80 %#16公开评测整理(各家官方技术报告与开源榜单)2026-09-30
AIME 20248.69.80 %#18公开评测整理(各家官方技术报告与开源榜单)2026-09-30
HumanEval61.972.30 %#11公开评测整理(各家官方技术报告与开源榜单)2026-09-30
MBPP62.677.90 %#14公开评测整理(各家官方技术报告与开源榜单)2026-09-30
C-Eval34.271.30 %#20公开评测整理(各家官方技术报告与开源榜单)2026-09-30
IFEval76.183.10 %#9公开评测整理(各家官方技术报告与开源榜单)2026-09-30

参数规格

厂商
Meta
参数规模
405.9B
激活参数
405.9B
上下文长度
131,072 tokens
层数
126
隐藏维度
16384
原生精度
bf16
架构
Dense
模态
text
许可证
Llama 3.1 Community License
发布日期
2024-07-23
数据采集日期
2026-09-30
查看官方信息源

可参考的算力设备

基于权重体积与显存的估算结果,实际情况以实测为准。

  • 暂无适配记录
计算所需卡数与吞吐

显存与吞吐为公式估算:权重按精度换算,KV Cache 按 2×层数×隐藏维度×上下文长度计算, 实际值受框架、量化方案、批量与并发影响。

评论与使用反馈(0)

登录后可发表评论,你的反馈会帮助其他用户做选择。

  • 还没有评论,来做第一个分享的人。