DeepSeek-R1是拥有6710亿参数的混合专家(MoE)模型,每个token激活370亿参数,通过大规模强化学习训练,专注推理能力。包含两个RL阶段用于改进推理模式并与人类偏好对齐,以及两个SFT阶段培养推理与非推理能力。在数学、编程和推理任务上达到与OpenAI-o1相当的性能。
Meta推出的Llama 3.3 70B Instruct是多语言大模型,专为指令任务微调并优化对话应用。支持128,000 token上下文窗口,可处理生成多语言文本。2024年12月6日发布,在多项行业基准测试中超越众多开源和商业聊天模型。采用分组查询注意力(GQA)提升扩展性,基于超过15万亿token的公开数据训练,知识截止至2023年12月。
DeepSeek-R1 | Llama 3.3 70B Instruct | |
---|---|---|
网站
| ||
提供商
| ||
聊天
| ||
发布日期
| ||
模态
| 文本 | 文本 |
API提供商
| DeepSeek, HuggingFace | Fireworks, Together, DeepInfra, Hyperbolic |
知识截止日期
| 未知 | 12.2024 |
开源
| 是 | 是 |
输入定价
| $0.55 每百万token | $0.23 每百万token |
输出定价
| $2.19 每百万token | $0.40 每百万token |
MMLU
| 90.8% Pass@1 来源 | 86% 0-shot, CoT 来源 |
MMLU-Pro
| 84% EM 来源 | 68.9% 5-shot, CoT 来源 |
MMMU
| - | 不可用 |
HellaSwag
| - | 不可用 |
HumanEval
| - | 88.4% pass@1 来源 |
MATH
| - | 77% 0-shot, CoT 来源 |
GPQA
| 71.5% Pass@1 来源 | 50.5% 0-shot, CoT 来源 |
IFEval
| 83.3% Prompt Strict 来源 | 92.1% 来源 |
SimpleQA
| - | - |
AIME 2024 | - | - |
AIME 2025 | - | - |
Aider Polyglot
| - | - |
LiveCodeBench v5
| - | - |
Global MMLU (Lite)
| - | - |
MathVista
| - | - |
移动应用 | - |