DeepSeek-R1 est un modèle Mixture-of-Experts (MoE) de 671 milliards de paramètres, avec 37 milliards de paramètres activés par token, entraîné via un apprentissage par renforcement à grande échelle avec un accent sur les capacités de raisonnement. Il intègre deux étapes de RL pour découvrir des schémas de raisonnement améliorés et s’aligner sur les préférences humaines, ainsi que deux étapes de SFT pour amorcer les capacités de raisonnement et non-raisonnement. Le modèle atteint des performances comparables à OpenAI-o1 sur les tâches de mathématiques, de codage et de raisonnement.
„Llama 3.3 70B Instruct“, conçu par Meta, est un grand modèle de langage multilingue spécialement affiné pour les tâches basées sur des instructions et optimisé pour les applications conversationnelles. Il peut traiter et générer du texte en plusieurs langues, avec une fenêtre contextuelle prenant en charge jusqu'à 128 000 tokens. Lancé le 6 décembre 2024, le modèle surpasse de nombreux chatbots open-source et propriétaires selon divers benchmarks industriels. Il utilise le Grouped-Query Attention (GQA) pour améliorer l'évolutivité et a été entraîné sur un ensemble de données diversifié comprenant plus de 15 billions de tokens provenant de sources publiques. Les connaissances du modèle sont à jour jusqu'en décembre 2023.
| DeepSeek-R1 | Llama 3.3 70B Instruct | |
|---|---|---|
Fournisseur | ||
Site web | ||
Date de sortie | Jan 21, 2025 3 mois ago | Dec 06, 2024 4 mois ago |
Modalités | texte | texte |
Fournisseurs d’API | DeepSeek, HuggingFace | Fireworks, Together, DeepInfra, Hyperbolic |
Date de mise à jour des connaissances | Inconnu | 12.2024 |
Open Source | Oui | Oui |
Tarification d’entrée | $0.55 par million de tokens | $0.23 par million de tokens |
Tarification de sortie | $2.19 par million de tokens | $0.40 par million de tokens |
MMLU | 90.8% Pass@1 Source | 86% 0-shot, CoT Source |
MMLU Pro | 84% EM Source | 68.9% 5-shot, CoT Source |
MMMU | - | Non disponible |
HellaSwag | - | Non disponible |
HumanEval | - | 88.4% pass@1 Source |
MATH | - | 77% 0-shot, CoT Source |
GPQA | 71.5% Pass@1 Source | 50.5% 0-shot, CoT Source |
IFEval | 83.3% Prompt Strict Source | 92.1% Source |
Application mobile | - |
Compare AI. Test. Benchmarks. Applications de chatbots mobiles, Sketch
Copyright © 2025 All Right Reserved.