DeepSeek-R1 to model typu Mixture-of-Experts (MoE) o 671B parametrach, z 37B aktywowanymi parametrami na token, szkolony za pomocą szeroko zakrojonego uczenia ze wzmocnieniem z naciskiem na zdolności rozumowania. Model ten obejmuje dwa etapy RL w celu odkrywania ulepszonych wzorców rozumowania i dostosowania do preferencji ludzkich, a także dwa etapy SFT do rozwijania zdolności rozumowania i innych umiejętności. Model osiąga wydajność porównywalną z OpenAI-o1 w zadaniach matematycznych, programistycznych i związanych z rozumowaniem.
„Llama 3.3 70B Instruct“, stworzony przez Meta, to wielojęzyczny duży model językowy, specjalnie dostrojony do zadań opartych na instrukcjach i zoptymalizowany pod kątem aplikacji konwersacyjnych. Jest w stanie przetwarzać i generować tekst w wielu językach, a jego okno kontekstowe obsługuje do 128 000 tokenów. Wprowadzony na rynek 6 grudnia 2024 r., model przewyższa wiele otwartoźródłowych i komercyjnych chatbotów w różnych branżowych testach porównawczych. Wykorzystuje Grouped-Query Attention (GQA) w celu poprawy skalowalności i został wytrenowany na zróżnicowanym zbiorze danych obejmującym ponad 15 bilionów tokenów z publicznie dostępnych źródeł. Wiedza modelu jest aktualna do grudnia 2023 r.
| DeepSeek-R1 | Llama 3.3 70B Instruct | |
|---|---|---|
Dostawca | ||
Strona internetowa | ||
Data wydania | Jan 21, 2025 3 miesiące ago | Dec 06, 2024 4 miesiące ago |
Modalności | tekst | tekst |
Dostawcy API | DeepSeek, HuggingFace | Fireworks, Together, DeepInfra, Hyperbolic |
Data ostatniej aktualizacji wiedzy | Nieznane | 12.2024 |
Open Source | Tak | Tak |
Cena za wejście | $0.55 za milion tokenów | $0.23 za milion tokenów |
Cena za wyjście | $2.19 za milion tokenów | $0.40 za milion tokenów |
MMLU | 90.8% Pass@1 Źródło | 86% 0-shot, CoT Źródło |
MMLU Pro | 84% EM Źródło | 68.9% 5-shot, CoT Źródło |
MMMU | - | Niedostępne |
HellaSwag | - | Niedostępne |
HumanEval | - | 88.4% pass@1 Źródło |
MATH | - | 77% 0-shot, CoT Źródło |
GPQA | 71.5% Pass@1 Źródło | 50.5% 0-shot, CoT Źródło |
IFEval | 83.3% Prompt Strict Źródło | 92.1% Źródło |
Aplikacja mobilna | - |
Compare AI. Test. Benchmarks. Chatboty mobilne, Sketch
Copyright © 2025 All Right Reserved.