DeepSeek-R1是拥有6710亿参数的混合专家(MoE)模型，每个token激活370亿参数，通过大规模强化学习训练，专注推理能力。包含两个RL阶段用于改进推理模式并与人类偏好对齐，以及两个SFT阶段培养推理与非推理能力。在数学、编程和推理任务上达到与OpenAI-o1相当的性能。
Meta推出的Llama 3.3 70B Instruct是多语言大模型，专为指令任务微调并优化对话应用。支持128,000 token上下文窗口，可处理生成多语言文本。2024年12月6日发布，在多项行业基准测试中超越众多开源和商业聊天模型。采用分组查询注意力(GQA)提升扩展性，基于超过15万亿token的公开数据训练，知识截止至2023年12月。
| DeepSeek-R1 | Llama 3.3 70B Instruct | |
|---|---|---|
提供商 | ||
网站 | ||
发布日期 | Jan 21, 2025 3 个月 ago | Dec 06, 2024 4 个月 ago |
模态 | 文本 | 文本 |
API提供商 | DeepSeek, HuggingFace | Fireworks, Together, DeepInfra, Hyperbolic |
知识截止日期 | 未知 | 12.2024 |
开源 | 是 | 是 |
输入定价 | $0.55 每百万token | $0.23 每百万token |
输出定价 | $2.19 每百万token | $0.40 每百万token |
MMLU | 90.8% Pass@1 来源 | 86% 0-shot, CoT 来源 |
MMLU Pro | 84% EM 来源 | 68.9% 5-shot, CoT 来源 |
MMMU | - | 不可用 |
HellaSwag | - | 不可用 |
HumanEval | - | 88.4% pass@1 来源 |
MATH | - | 77% 0-shot, CoT 来源 |
GPQA | 71.5% Pass@1 来源 | 50.5% 0-shot, CoT 来源 |
IFEval | 83.3% Prompt Strict 来源 | 92.1% 来源 |
移动应用 | - |