LLaMA 4 Scout는 170억 개의 파라미터를 갖춘 모델로, 16개의 활성 전문가를 사용하는 혼합 전문가(Mixture-of-Experts) 아키텍처를 기반으로 합니다. 이 모델은 다양한 벤치마크 작업에서 Gemma 3, Gemini 2.0 Flash-Lite, Mistral 3.1과 같은 경쟁 모델을 꾸준히 능가하며, 해당 분야 최고의 멀티모달 모델로 평가받고 있습니다. 뛰어난 성능에도 불구하고, Int4 양자화를 통해 단일 NVIDIA H100 GPU에서도 실행 가능할 정도로 매우 효율적입니다. 또한 업계 최고 수준인 1,000만 토큰 컨텍스트 윈도우를 제공하며, 텍스트, 이미지, 비디오 입력을 자연스럽게 처리하는 네이티브 멀티모달 기능을 갖추고 있어 고급 현실 응용 분야에 적합합니다.
메타가 개발한 Llama 3.3 70B Instruct는 지시 기반 작업에 특화되어 미세 조정된 다국어 대형 언어 모델로, 대화형 응용에 최적화되어 있습니다. 최대 128,000 토큰의 컨텍스트 윈도우를 지원하며, 다양한 언어의 텍스트 생성 및 처리가 가능합니다. 2024년 12월 6일 출시되었으며, 공개 및 사유 챗봇 모델 다수를 능가하는 벤치마크 성능을 기록했습니다. Grouped-Query Attention(GQA)을 활용해 확장성을 높였으며, 공개 데이터 기반의 15조 개 이상 토큰으로 학습되었습니다. 모델 지식은 2023년 12월 기준입니다.
| Llama 4 Scout | Llama 3.3 70B Instruct | |
|---|---|---|
웹사이트
| ||
제공자
| ||
채팅
| ||
출시일
| ||
모달리티
| 텍스트 이미지 비디오 | 텍스트 |
API 제공자
| Meta AI, Hugging Face, Fireworks, Together, DeepInfra | Fireworks, Together, DeepInfra, Hyperbolic |
지식 업데이트 종료일
| 2025-04 | 12.2024 |
오픈 소스
| 예 (출처) | 예 |
입력 가격
| 정보 없음 | $0.23 100만 토큰당 |
출력 가격
| 정보 없음 | $0.40 100만 토큰당 |
MMLU
| 정보 없음 | 86% 0-shot, CoT 출처 |
MMLU-Pro
| 74.3% Reasoning & Knowledge 출처 | 68.9% 5-shot, CoT 출처 |
MMMU
| 69.4% Image Reasoning 출처 | 정보 없음 |
HellaSwag
| 정보 없음 | 정보 없음 |
HumanEval
| 정보 없음 | 88.4% pass@1 출처 |
MATH
| 정보 없음 | 77% 0-shot, CoT 출처 |
GPQA
| 57.2% Diamond 출처 | 50.5% 0-shot, CoT 출처 |
IFEval
| 정보 없음 | 92.1% 출처 |
SimpleQA
| - | - |
AIME 2024 | - | - |
AIME 2025 | - | - |
Aider Polyglot
| - | - |
LiveCodeBench v5
| - | - |
Global MMLU (Lite)
| - | - |
MathVista
| - | - |
모바일 앱 | - | - |