DeepSeek-R1은 토큰당 370억 개의 활성 파라미터를 사용하는 6710억 파라미터의 Mixture-of-Experts(MoE) 모델로, 추론 능력에 초점을 맞춘 대규모 강화 학습을 통해 학습되었습니다. 향상된 추론 패턴 발견과 인간 선호도 정렬을 위한 두 단계의 RL, 추론/비추론 능력 생성을 위한 두 단계의 SFT가 포함되어 있으며, 수학, 코딩, 추론 작업에서 OpenAI-o1과 유사한 성능을 보입니다.
메타가 개발한 Llama 3.3 70B Instruct는 지시 기반 작업에 특화되어 미세 조정된 다국어 대형 언어 모델로, 대화형 응용에 최적화되어 있습니다. 최대 128,000 토큰의 컨텍스트 윈도우를 지원하며, 다양한 언어의 텍스트 생성 및 처리가 가능합니다. 2024년 12월 6일 출시되었으며, 공개 및 사유 챗봇 모델 다수를 능가하는 벤치마크 성능을 기록했습니다. Grouped-Query Attention(GQA)을 활용해 확장성을 높였으며, 공개 데이터 기반의 15조 개 이상 토큰으로 학습되었습니다. 모델 지식은 2023년 12월 기준입니다.
| DeepSeek-R1 | Llama 3.3 70B Instruct | |
|---|---|---|
웹사이트
| ||
제공자
| ||
채팅
| ||
출시일
| ||
모달리티
| 텍스트 | 텍스트 |
API 제공자
| DeepSeek, HuggingFace | Fireworks, Together, DeepInfra, Hyperbolic |
지식 업데이트 종료일
| 알 수 없음 | 12.2024 |
오픈 소스
| 예 | 예 |
입력 가격
| $0.55 100만 토큰당 | $0.23 100만 토큰당 |
출력 가격
| $2.19 100만 토큰당 | $0.40 100만 토큰당 |
MMLU
| 90.8% Pass@1 출처 | 86% 0-shot, CoT 출처 |
MMLU-Pro
| 84% EM 출처 | 68.9% 5-shot, CoT 출처 |
MMMU
| - | 정보 없음 |
HellaSwag
| - | 정보 없음 |
HumanEval
| - | 88.4% pass@1 출처 |
MATH
| - | 77% 0-shot, CoT 출처 |
GPQA
| 71.5% Pass@1 출처 | 50.5% 0-shot, CoT 출처 |
IFEval
| 83.3% Prompt Strict 출처 | 92.1% 출처 |
SimpleQA
| - | - |
AIME 2024 | - | - |
AIME 2025 | - | - |
Aider Polyglot
| - | - |
LiveCodeBench v5
| - | - |
Global MMLU (Lite)
| - | - |
MathVista
| - | - |
모바일 앱 | - |