„Llama 3.3 70B Instruct“, vytvorený spoločnosťou Meta, je viacjazyčný veľký jazykový model špeciálne doladený na úlohy založené na inštrukciách a optimalizovaný pre konverzačné aplikácie. Dokáže spracovávať a generovať text vo viacerých jazykoch, pričom jeho kontextové okno podporuje až 128 000 tokenov. Uvedený na trh 6. decembra 2024, model prekonáva mnohé open-source aj proprietárne chatboty v rôznych priemyselných benchmarkoch. Využíva Grouped-Query Attention (GQA) na zlepšenie škálovateľnosti a bol trénovaný na rôznorodej množine dát obsahujúcej viac ako 15 biliónov tokenov z verejne dostupných zdrojov. Znalosti modelu sú aktuálne k decembru 2023.
Amazon Nova Micro je model iba pre text, optimalizovaný na náklady a rýchlosť. S oknom kontextu 128K tokenov vyniká pri úlohách ako zhrnutie textu, preklad, interaktívny chat a základné kódovanie. Bol vydaný ako súčasť základných modelov Amazon Nova a podporuje doladenie a destiláciu pre prispôsobenie na proprietárnych dátach.
| Llama 3.3 70B Instruct | Nova Micro | |
|---|---|---|
Poskytovateľ | ||
Webová stránka | ||
Dátum vydania | Dec 06, 2024 4 mesiace ago | Dec 02, 2024 4 mesiace ago |
Modality | text | text |
Poskytovatelia API | Fireworks, Together, DeepInfra, Hyperbolic | Amazon Bedrock |
Dátum zastarania vedomostí | 12.2024 | Zámerne nezverejnené |
Open Source | Áno | Nie |
Cena za vstup | $0.23 za milión tokenov | $0.04 za milión tokenov |
Cena za výstup | $0.40 za milión tokenov | $0.14 za milión tokenov |
MMLU | 86% 0-shot, CoT Zdroj | 77.6% CoT Zdroj |
MMLU Pro | 68.9% 5-shot, CoT Zdroj | - |
MMMU | Nie je k dispozícii | - |
HellaSwag | Nie je k dispozícii | - |
HumanEval | 88.4% pass@1 Zdroj | 81.1% pass@1 Zdroj |
MATH | 77% 0-shot, CoT Zdroj | 69.3% CoT Zdroj |
GPQA | 50.5% 0-shot, CoT Zdroj | 40% Main Zdroj |
IFEval | 92.1% Zdroj | 87.2% Zdroj |
Mobilná aplikácia | - | - |
Compare AI. Test. Benchmarks. Chatboty pre mobilné aplikácie, Sketch
Copyright © 2025 All Right Reserved.