Aller au contenu

NVIDIA

NVIDIA fournit une API compatible OpenAI sur OpenAIAPIhttps://integrate.api.nvidia.com/v1API pour les modèles ouverts gratuitement. Authentifiez-vous avec une clé API provenant de build.nvidia.com.

  1. APIObtenez votre clé API

    Créez une clé API sur build.nvidia.com.

  2. Exportez la clé et lancez l'intégration

    bash export NVIDIA_API_KEY="nvapi-..." openclaw onboard --auth-choice nvidia-api-key

  3. Définissez un modèle NVIDIA

    bash openclaw models set nvidia/nvidia/nemotron-3-super-120b-a12b

Pour une configuration non interactive, vous pouvez également transmettre la clé directement :

Fenêtre de terminal
openclaw onboard --auth-choice nvidia-api-key --nvidia-api-key "nvapi-..."
{
env: { NVIDIA_API_KEY: "nvapi-..." },
models: {
providers: {
nvidia: {
baseUrl: "https://integrate.api.nvidia.com/v1",
api: "openai-completions",
},
},
},
agents: {
defaults: {
model: { primary: "nvidia/nvidia/nemotron-3-super-120b-a12b" },
},
},
}
Modèle réfNomContexteSortie max
nvidia/nvidia/nemotron-3-super-120b-a12bNVIDIA Nemotron 3 Super 120B262,1448,192
nvidia/moonshotai/kimi-k2.5Kimi K2.5262,1448,192
nvidia/minimaxai/minimax-m2.5Minimax M2.5196,6088,192
nvidia/z-ai/glm5GLM 5202,7528,192
Comportement d'activation automatique

Le fournisseur s’active automatiquement lorsque la variable d’environnement NVIDIA_API_KEY est définie. Aucune configuration explicite du fournisseur n’est requise au-delà de la clé.

Catalogue et tarifs

Le catalogue inclus est statique. Les coûts sont par défaut de 0API dans la source, car NVIDIA propose actuellement un accès gratuit à l’API pour les modèles répertoriés.

OpenAIPoint de terminaison compatible OpenAI

NVIDIA utilise le point de terminaison de complétions standard /v1OpenAI. Tout outil compatible OpenAI devrait fonctionner immédiatement avec l’URL de base NVIDIA.

Réponses lentes des fournisseurs personnalisés

Certains modèles personnalisés hébergés par NVIDIA peuvent prendre plus de temps que le modèle de veille d’inactivité par défaut avant d’émettre le premier bloc de réponse. Pour les entrées de fournisseur NVIDIA personnalisées, augmentez le délai d’attente du fournisseur au lieu d’augmenter le délai d’exécution global de l’agent :

{
models: {
providers: {
"custom-integrate-api-nvidia-com": {
baseUrl: "https://integrate.api.nvidia.com/v1",
api: "openai-completions",
apiKey: "NVIDIA_API_KEY",
timeoutSeconds: 300,
},
},
},
agents: {
defaults: {
models: {
"custom-integrate-api-nvidia-com/meta/llama-3.1-70b-instruct": {
params: { thinking: "off" },
},
},
},
},
}

Sélection du modèle

Choix des fournisseurs, références de modèle et comportement de basculement.

Référence de configuration

Référence complète de la configuration pour les agents, les modèles et les fournisseurs.