DeepSeek-R1 — это модель типа Mixture-of-Experts (MoE) с 671 млрд параметров, из которых 37 млрд активируются на каждый токен. Обучена с использованием масштабного обучения с подкреплением (RL) с упором на развитие навыков рассуждения. Включает два этапа RL для выявления улучшенных схем рассуждения и согласования с предпочтениями человека, а также два этапа SFT для развития навыков, связанных и не связанных с рассуждением. По математическим, программным и логическим задачам модель демонстрирует производительность, сопоставимую с OpenAI-o1.
Llama 3.3 70B Instruct, созданная Meta, — это многоязычная крупная языковая модель, специально доработанная для задач на основе инструкций и оптимизированная для разговорных приложений. Она способна обрабатывать и генерировать текст на нескольких языках, поддерживая контекстное окно до 128 000 токенов. Запущенная 6 декабря 2024 года, модель превосходит многие open-source и проприетарные чат-модели в различных отраслевых тестах. Она использует Grouped-Query Attention (GQA) для улучшения масштабируемости и обучена на разнообразном наборе данных, содержащем более 15 триллионов токенов из общедоступных источников. Знания модели актуальны на декабрь 2023 года.
| DeepSeek-R1 | Llama 3.3 70B Instruct | |
|---|---|---|
Провайдер | ||
Веб-сайт | ||
Дата выпуска | Jan 21, 2025 3 месяца назад | Dec 06, 2024 4 месяца назад |
Модальности | текст | текст |
Поставщики API | DeepSeek, HuggingFace | Fireworks, Together, DeepInfra, Hyperbolic |
Дата актуальности знаний | Неизвестно | 12.2024 |
Открытый исходный код | Да | Да |
Стоимость ввода | $0.55 за миллион токенов | $0.23 за миллион токенов |
Стоимость вывода | $2.19 за миллион токенов | $0.40 за миллион токенов |
MMLU | 90.8% Pass@1 Источник | 86% 0-shot, CoT Источник |
MMLU Pro | 84% EM Источник | 68.9% 5-shot, CoT Источник |
MMMU | - | Недоступно |
HellaSwag | - | Недоступно |
HumanEval | - | 88.4% pass@1 Источник |
MATH | - | 77% 0-shot, CoT Источник |
GPQA | 71.5% Pass@1 Источник | 50.5% 0-shot, CoT Источник |
IFEval | 83.3% Prompt Strict Источник | 92.1% Источник |
Мобильное приложение | - |
Compare AI. Test. Benchmarks. Чат-боты для мобильных приложений, Sketch
Copyright © 2025 All Right Reserved.