Ir al contenido

NVIDIA

NVIDIA proporciona una API compatible con OpenAI en https://integrate.api.nvidia.com/v1 para modelos Nemotron y NeMo. Autentícate con una clave de API de NVIDIA NGC.

Exporta la clave una vez, luego ejecuta la incorporación (onboarding) y establece un modelo NVIDIA:

Ventana de terminal
export NVIDIA_API_KEY="nvapi-..."
openclaw onboard --auth-choice skip
openclaw models set nvidia/nvidia/llama-3.1-nemotron-70b-instruct

Si aún pasas --token, recuerda que queda en el historial de la shell y en la salida de ps; prefiere la variable de entorno cuando sea posible.

{
env: { NVIDIA_API_KEY: "nvapi-..." },
models: {
providers: {
nvidia: {
baseUrl: "https://integrate.api.nvidia.com/v1",
api: "openai-completions",
},
},
},
agents: {
defaults: {
model: { primary: "nvidia/nvidia/llama-3.1-nemotron-70b-instruct" },
},
},
}
  • nvidia/llama-3.1-nemotron-70b-instruct (predeterminado)
  • meta/llama-3.3-70b-instruct
  • nvidia/mistral-nemo-minitron-8b-8k-instruct
  • Punto final /v1 compatible con OpenAI; usa una clave de API de NVIDIA NGC.
  • El proveedor se activa automáticamente cuando se establece NVIDIA_API_KEY; usa valores predeterminados estáticos (ventana de contexto de 131,072 tokens, máximo de 4,096 tokens).