llama-3-70b
关于 llama-3-70b
The latest Meta Llama 3 model with 7 billion parameters.
各路由分组价格
创建 Key 时可在控制台选择分组,状态实时来自路由。 查看各分组实时状态 →
| 分组 | 分组状态 | 模型状态 | 倍率 | 输入 | 输出 | 缓存读取 | 缓存写入 |
|---|---|---|---|---|---|---|---|
Self-Deployed-2 | … | ×0.845 | $3.38 | $6.76 | — | — | |
Self-Deployed-3 | … | ×1.2675 | $5.07 | $10.14 | — | — |
USD / 百万 Token
支持的接口
openai
一个请求调用 llama-3-70b
兼容 OpenAI SDK 及任何 OpenAI 格式的客户端,把 Key 换成你自己的即可。
curl https://api.nixapi.com/v1/chat/completions \
-H "Authorization: Bearer $NIXAPI_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "llama-3-70b",
"messages": [{"role": "user", "content": "Hello!"}]
}'from openai import OpenAI
client = OpenAI(base_url="https://api.nixapi.com/v1", api_key="sk-…")
resp = client.chat.completions.create(
model="llama-3-70b",
messages=[{"role": "user", "content": "Hello!"}],
)
print(resp.choices[0].message.content)import OpenAI from 'openai';
const client = new OpenAI({ baseURL: 'https://api.nixapi.com/v1', apiKey: process.env.NIXAPI_KEY });
const resp = await client.chat.completions.create({
model: "llama-3-70b",
messages: [{ role: 'user', content: 'Hello!' }],
});
console.log(resp.choices[0].message.content);关于 llama-3-70b 的常见问题
llama-3-70b 在 NixAPI 上多少钱?
在 Self-Deployed-2 分组下,输入低至每百万 Token $3.38,输出低至每百万 Token $6.76,比官方价低约 16%。按量付费,以美元计价,没有月最低消费。
如何调用 llama-3-70b?
把任意兼容 OpenAI 格式的客户端指向 https://api.nixapi.com/v1,使用你的 NixAPI Key,并把 model 设为 "llama-3-70b" 即可。
哪些路由分组提供 llama-3-70b?
llama-3-70b 可在 2 个路由分组中使用:Self-Deployed-2、Self-Deployed-3。其中 Self-Deployed-2 分组价格最低。