LLaMA 4 Scout 是一个拥有170亿参数的模型,采用混合专家架构(Mixture-of-Experts),并启用16个活跃专家,使其在同类多模态模型中处于领先地位。它在各种基准测试中持续超越Gemma 3、Gemini 2.0 Flash-Lite 和 Mistral 3.1 等竞争对手。尽管性能强大,LLaMA 4 Scout 却非常高效 —— 可在一张 NVIDIA H100 GPU 上以 Int4 量化运行。同时,它具备领先业界的1000万Token上下文窗口,并且原生支持多模态,能够无缝处理文本、图像和视频输入,适用于高级现实场景应用。
Meta推出的Llama 3.3 70B Instruct是多语言大模型,专为指令任务微调并优化对话应用。支持128,000 token上下文窗口,可处理生成多语言文本。2024年12月6日发布,在多项行业基准测试中超越众多开源和商业聊天模型。采用分组查询注意力(GQA)提升扩展性,基于超过15万亿token的公开数据训练,知识截止至2023年12月。
Llama 4 Scout | Llama 3.3 70B Instruct | |
---|---|---|
提供商 | ||
网站 | ||
发布日期 | Apr 05, 2025 2 周 ago | Dec 06, 2024 4 个月 ago |
模态 | 文本 图像 视频 | 文本 |
API提供商 | Meta AI, Hugging Face, Fireworks, Together, DeepInfra | Fireworks, Together, DeepInfra, Hyperbolic |
知识截止日期 | 2025-04 | 12.2024 |
开源 | 是 (来源) | 是 |
输入定价 | 不可用 | $0.23 每百万token |
输出定价 | 不可用 | $0.40 每百万token |
MMLU | 不可用 | 86% 0-shot, CoT 来源 |
MMLU Pro | 74.3% Reasoning & Knowledge 来源 | 68.9% 5-shot, CoT 来源 |
MMMU | 69.4% Image Reasoning 来源 | 不可用 |
HellaSwag | 不可用 | 不可用 |
HumanEval | 不可用 | 88.4% pass@1 来源 |
MATH | 不可用 | 77% 0-shot, CoT 来源 |
GPQA | 57.2% Diamond 来源 | 50.5% 0-shot, CoT 来源 |
IFEval | 不可用 | 92.1% 来源 |
移动应用 | - | - |