Skip to content

NVIDIA

NVIDIA 在 https://integrate.api.nvidia.com/v1 提供了用於 Nemotron 和 NeMo 模型的 OpenAI 相容 API。使用來自 NVIDIA NGC 的 API 金鑰進行驗證。

匯出金鑰一次,然後執行 onboarding 並設定一個 NVIDIA 模型:

Terminal window
export NVIDIA_API_KEY="nvapi-..."
openclaw onboard --auth-choice skip
openclaw models set nvidia/nvidia/llama-3.1-nemotron-70b-instruct

如果您仍然傳遞 --token,請記住它會被記錄在 shell 歷史記錄和 ps 輸出中;請盡可能使用環境變數。

{
env: { NVIDIA_API_KEY: "nvapi-..." },
models: {
providers: {
nvidia: {
baseUrl: "https://integrate.api.nvidia.com/v1",
api: "openai-completions",
},
},
},
agents: {
defaults: {
model: { primary: "nvidia/nvidia/llama-3.1-nemotron-70b-instruct" },
},
},
}
  • nvidia/llama-3.1-nemotron-70b-instruct (預設)
  • meta/llama-3.3-70b-instruct
  • nvidia/mistral-nemo-minitron-8b-8k-instruct
  • OpenAI 相容的 /v1 端點;使用來自 NVIDIA NGC 的 API 金鑰。
  • 當設定 NVIDIA_API_KEY 時提供者會自動啟用;使用靜態預設值 (131,072-token 語境視窗, 4,096 最大 token 數)。