DeepSeek-R1は、671BパラメータのMixture-of-Experts（MoE）モデルで、トークンごとに37Bの活性化パラメータを持ち、大規模な強化学習を通じて推論能力に焦点を当ててトレーニングされています。改善された推論パターンの発見と人間の好みに合わせるための2つのRLステージ、および推論と非推論能力を育むための2つのSFTステージを組み込んでいます。このモデルは、数学、コード、推論タスクにおいてOpenAI-o1に匹敵する性能を発揮します。
Llama 3.3 70B Instructは、Metaによって作成された多言語大規模言語モデルで、指示ベースのタスクに特化してファインチューニングされ、会話アプリケーション向けに最適化されています。128,000トークンまでのコンテキストウィンドウをサポートし、複数の言語でテキストを処理および生成できます。2024年12月6日にリリースされ、さまざまな業界ベンチマークで数多くのオープンソースおよびプロプライエタリチャットモデルを上回ります。スケーラビリティを向上させるためにGrouped-Query Attention（GQA）を利用し、公開されているソースから15兆トークンを超える多様なデータセットでトレーニングされています。モデルの知識は2023年12月まで最新です。
| DeepSeek-R1 | Llama 3.3 70B Instruct | |
|---|---|---|
プロバイダー | ||
ウェブサイト | ||
リリース日 | Jan 21, 2025 3 ヶ月 ago | Dec 06, 2024 4 ヶ月 ago |
モダリティ | テキスト | テキスト |
APIプロバイダー | DeepSeek, HuggingFace | Fireworks, Together, DeepInfra, Hyperbolic |
知識のカットオフ日 | 不明 | 12.2024 |
オープンソース | はい | はい |
入力料金 | $0.55 100万トークンあたり | $0.23 100万トークンあたり |
出力料金 | $2.19 100万トークンあたり | $0.40 100万トークンあたり |
MMLU | 90.8% Pass@1 ソース | 86% 0-shot, CoT ソース |
MMLU Pro | 84% EM ソース | 68.9% 5-shot, CoT ソース |
MMMU | - | 利用不可 |
HellaSwag | - | 利用不可 |
HumanEval | - | 88.4% pass@1 ソース |
MATH | - | 77% 0-shot, CoT ソース |
GPQA | 71.5% Pass@1 ソース | 50.5% 0-shot, CoT ソース |
IFEval | 83.3% Prompt Strict ソース | 92.1% ソース |
モバイルアプリケーション | - |
Compare AI. Test. Benchmarks. モバイルアプリチャットボット, Sketch
Copyright © 2025 All Right Reserved.