跳转到内容

NVIDIA

NVIDIA 在 OpenAIAPIhttps://integrate.api.nvidia.com/v1API 提供了一个与 OpenAI 兼容的 API,供开源模型免费使用。请使用来自 build.nvidia.com 的 API 密钥进行身份验证。

  1. API获取您的 API 密钥

    build.nvidia.com 创建一个 API 密钥。

  2. 导出密钥并运行新手引导

    bash export NVIDIA_API_KEY="nvapi-..." openclaw onboard --auth-choice nvidia-api-key

  3. 设置一个 NVIDIA 模型

    bash openclaw models set nvidia/nvidia/nemotron-3-super-120b-a12b

对于非交互式设置,您也可以直接传递密钥:

Terminal window
openclaw onboard --auth-choice nvidia-api-key --nvidia-api-key "nvapi-..."
{
env: { NVIDIA_API_KEY: "nvapi-..." },
models: {
providers: {
nvidia: {
baseUrl: "https://integrate.api.nvidia.com/v1",
api: "openai-completions",
},
},
},
agents: {
defaults: {
model: { primary: "nvidia/nvidia/nemotron-3-super-120b-a12b" },
},
},
}
模型引用名称上下文最大输出
nvidia/nvidia/nemotron-3-super-120b-a12bNVIDIA Nemotron 3 Super 120B262,1448,192
nvidia/moonshotai/kimi-k2.5Kimi K2.5262,1448,192
nvidia/minimaxai/minimax-m2.5Minimax M2.5196,6088,192
nvidia/z-ai/glm5GLM 5202,7528,192
自动启用行为

当设置了 NVIDIA_API_KEY 环境变量时,提供商会自动启用。 除了密钥之外,不需要显式的提供商配置。

目录和定价

捆绑的目录是静态的。由于 NVIDIA 目前为列出的模型提供免费 API 访问,因此源代码中的成本默认为 0API。

OpenAIOpenAI 兼容的端点

NVIDIA 使用标准的 /v1OpenAI completions 端点。任何与 OpenAI 兼容的工具都应该可以直接与 NVIDIA 的基础 URL 配合使用。

自定义提供商响应缓慢

一些 NVIDIA 托管的自定义模型在发出第一个响应块之前,可能需要比默认模型空闲监视器更长的时间。对于自定义 NVIDIA 提供商条目,请提高提供商超时时间,而不是提高整个代理运行时超时时间:

{
models: {
providers: {
"custom-integrate-api-nvidia-com": {
baseUrl: "https://integrate.api.nvidia.com/v1",
api: "openai-completions",
apiKey: "NVIDIA_API_KEY",
timeoutSeconds: 300,
},
},
},
agents: {
defaults: {
models: {
"custom-integrate-api-nvidia-com/meta/llama-3.1-70b-instruct": {
params: { thinking: "off" },
},
},
},
},
}

模型选择

选择提供商、模型引用和故障转移行为。

配置参考

代理、模型和提供商的完整配置参考。