llama-3.1-405b
关于 llama-3.1-405b
Meta's Llama 3.1 model with 405B parameters, offering strong general-purpose capability.
各路由分组价格
创建 Key 时可在控制台选择分组,状态实时来自路由。 查看各分组实时状态 →
| 分组 | 分组状态 | 模型状态 | 倍率 | 输入 | 输出 | 缓存读取 | 缓存写入 |
|---|---|---|---|---|---|---|---|
Self-Deployed-2 | … | ×0.845 | $5.07 | $10.14 | — | — | |
Self-Deployed-3 | … | ×1.2675 | $7.605 | $15.21 | — | — |
USD / 百万 Token
支持的接口
openai
一个请求调用 llama-3.1-405b
兼容 OpenAI SDK 及任何 OpenAI 格式的客户端,把 Key 换成你自己的即可。
curl https://api.nixapi.com/v1/chat/completions \
-H "Authorization: Bearer $NIXAPI_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "llama-3.1-405b",
"messages": [{"role": "user", "content": "Hello!"}]
}'from openai import OpenAI
client = OpenAI(base_url="https://api.nixapi.com/v1", api_key="sk-…")
resp = client.chat.completions.create(
model="llama-3.1-405b",
messages=[{"role": "user", "content": "Hello!"}],
)
print(resp.choices[0].message.content)import OpenAI from 'openai';
const client = new OpenAI({ baseURL: 'https://api.nixapi.com/v1', apiKey: process.env.NIXAPI_KEY });
const resp = await client.chat.completions.create({
model: "llama-3.1-405b",
messages: [{ role: 'user', content: 'Hello!' }],
});
console.log(resp.choices[0].message.content);关于 llama-3.1-405b 的常见问题
llama-3.1-405b 在 NixAPI 上多少钱?
在 Self-Deployed-2 分组下,输入低至每百万 Token $5.07,输出低至每百万 Token $10.14,比官方价低约 15%。按量付费,以美元计价,没有月最低消费。
如何调用 llama-3.1-405b?
把任意兼容 OpenAI 格式的客户端指向 https://api.nixapi.com/v1,使用你的 NixAPI Key,并把 model 设为 "llama-3.1-405b" 即可。
哪些路由分组提供 llama-3.1-405b?
llama-3.1-405b 可在 2 个路由分组中使用:Self-Deployed-2、Self-Deployed-3。其中 Self-Deployed-2 分组价格最低。