DeepSeek-R1 is een Mixture-of-Experts (MoE)-model met 671B parameters en 37B geactiveerde parameters per token, getraind via grootschalige reinforcement learning met een focus op redeneervaardigheden. Het omvat twee RL-fasen voor het ontdekken van verbeterde redeneerpatronen en afstemming op menselijke voorkeuren, evenals twee SFT-fasen voor het ontwikkelen van redeneer- en niet-redeneervaardigheden. Het model bereikt prestaties die vergelijkbaar zijn met OpenAI-o1 op het gebied van wiskunde, code en redeneertaken.
Llama 3.3 70B Instruct, ontwikkeld door Meta, is een meertalig groot taalmodel dat specifiek is afgestemd op instructiegebaseerde taken en geoptimaliseerd voor conversatietoepassingen. Het kan tekst in meerdere talen verwerken en genereren, met een contextvenster dat tot 128.000 tokens ondersteunt. Gelanceerd op 6 december 2024, overtreft het model talrijke open-source en propriëtaire chatmodellen in verschillende branchebenchmarks. Het maakt gebruik van Grouped-Query Attention (GQA) om de schaalbaarheid te verbeteren en is getraind op een diverse dataset van meer dan 15 biljoen tokens uit openbaar beschikbare bronnen. De kennis van het model is actueel tot december 2023.
| DeepSeek-R1 | Llama 3.3 70B Instruct | |
|---|---|---|
Aanbieder | ||
Website | ||
Releasedatum | Jan 21, 2025 3 maanden ago | Dec 06, 2024 4 maanden ago |
Modaliteiten | tekst | tekst |
API-Aanbieders | DeepSeek, HuggingFace | Fireworks, Together, DeepInfra, Hyperbolic |
Kennisafsluitdatum | Onbekend | 12.2024 |
Open Source | Ja | Ja |
Prijzen Invoer | $0.55 per miljoen tokens | $0.23 per miljoen tokens |
Prijzen Uitvoer | $2.19 per miljoen tokens | $0.40 per miljoen tokens |
MMLU | 90.8% Pass@1 Bron | 86% 0-shot, CoT Bron |
MMLU Pro | 84% EM Bron | 68.9% 5-shot, CoT Bron |
MMMU | - | Niet beschikbaar |
HellaSwag | - | Niet beschikbaar |
HumanEval | - | 88.4% pass@1 Bron |
MATH | - | 77% 0-shot, CoT Bron |
GPQA | 71.5% Pass@1 Bron | 50.5% 0-shot, CoT Bron |
IFEval | 83.3% Prompt Strict Bron | 92.1% Bron |
Mobiele applicatie | - |
Compare AI. Test. Benchmarks. Mobiele Chatbot-apps, Sketch
Copyright © 2025 All Right Reserved.