Anthropic开发的Claude 3.5 Haiku提供200,000 token的上下文窗口。定价为每百万输入token 1美元，每百万输出token 5美元，通过提示缓存可节省高达90%，通过消息批处理API可节省50%。2024年11月4日发布，擅长代码补全、交互式聊天机器人、数据提取标注以及实时内容审核。
NVIDIA的Llama 3.1 Nemotron 70B是专为提供准确信息优化的强大语言模型。基于Llama 3.1 70B架构，通过人类反馈强化学习(RLHF)增强，在自动对齐基准测试中表现顶尖。针对需要高精度响应生成的应用设计，适用于跨领域的多样化用户查询。
| Claude 3.5 Haiku | Llama 3.1 Nemotron 70B Instruct | |
|---|---|---|
提供商 | ||
网站 | ||
发布日期 | Nov 04, 2024 5 个月 ago | Oct 15, 2023 1 年 ago |
模态 | 文本 | 文本 |
API提供商 | Anthropic, AWS Bedrock, Vertex AI | OpenRouter |
知识截止日期 | 01.04.2024 | - |
开源 | 否 | 是 |
输入定价 | $0.80 每百万token | $0.35 每百万token |
输出定价 | $4.00 | $0.40 每百万token |
MMLU | 不可用 | 85% 5-shot 来源 |
MMLU Pro | 65% 0-shot CoT 来源 | 不可用 |
MMMU | 不可用 | 不可用 |
HellaSwag | 不可用 | 不可用 |
HumanEval | 88.1% 0-shot 来源 | 75% 来源 |
MATH | 69.4% 0-shot CoT 来源 | 71% 来源 |
GPQA | 不可用 | 不可用 |
IFEval | 不可用 | 不可用 |
移动应用 | - |