DeepSeek-R1 — це модель з 671B параметрів, побудована на архітектурі Mixture-of-Experts (MoE),з 37B активованих параметрів на токен. Вона навчалась за допомогою масштабного навчання з підкріпленням із акцентом на розвиток навичок міркування. Модель включає два етапи RL для виявлення покращених шаблонів міркування та відповідності людським уподобанням, а також два етапи SFT для закладання основ міркувальних та неміркувальних здібностей. Модель демонструє продуктивність, порівнянну з OpenAI-o1, у завданнях з математики, програмування та міркування.
„Llama 3.3 70B Instruct“, створена Meta, — це багатомовна велика мовна модель, спеціально налаштована для завдань на основі інструкцій і оптимізована для розмовних додатків. Вона може обробляти та генерувати текст кількома мовами, підтримуючи контекстне вікно до 128 000 токенів. Запущена 6 грудня 2024 року, модель перевершує багато відкритих і комерційних чат-ботів у різних галузевих тестах. Використовує Grouped-Query Attention (GQA) для покращення масштабованості та навчена на різноманітному наборі даних, що містить понад 15 трильйонів токенів із публічних джерел. Знання моделі актуальні до грудня 2023 року.
| DeepSeek-R1 | Llama 3.3 70B Instruct | |
|---|---|---|
Постачальник | ||
Веб-сайт | ||
Дата випуску | Jan 21, 2025 3 months ago | Dec 06, 2024 4 months ago |
Модальності | текст | текст |
Постачальники API | DeepSeek, HuggingFace | Fireworks, Together, DeepInfra, Hyperbolic |
Дата оновлення знань | Невідомо | 12.2024 |
Відкритий код | Так | Так |
Вартість введення | $0.55 за мільйон токенів | $0.23 за мільйон токенів |
Вартість виведення | $2.19 за мільйон токенів | $0.40 за мільйон токенів |
MMLU | 90.8% Pass@1 Джерело | 86% 0-shot, CoT Джерело |
MMLU Pro | 84% EM Джерело | 68.9% 5-shot, CoT Джерело |
MMMU | - | Недоступно |
HellaSwag | - | Недоступно |
HumanEval | - | 88.4% pass@1 Джерело |
MATH | - | 77% 0-shot, CoT Джерело |
GPQA | 71.5% Pass@1 Джерело | 50.5% 0-shot, CoT Джерело |
IFEval | 83.3% Prompt Strict Джерело | 92.1% Джерело |
Мобільний додаток | - |
Compare AI. Test. Benchmarks. Чат-боти для мобільних застосунків, Sketch
Copyright © 2025 All Right Reserved.