LiteLLM

LiteLLM est une passerelle LLM open source qui fournit une API unifiée pour plus de 100 fournisseurs de modèles. Acheminez OpenClaw via LiteLLM pour bénéficier d’un suivi centralisé des coûts, de la journalisation et de la flexibilité de changer de backend sans modifier votre configuration OpenClaw.

Quick start

Idéal pour : la voie la plus rapide vers une configuration LiteLLM fonctionnelle.

Exécuter l'onboarding

openclaw onboard --auth-choice litellm-api-key

Pour une configuration non interactive sur un proxy distant, transmettez l’URL du proxy explicitement :

openclaw onboard --non-interactive --auth-choice litellm-api-key --litellm-api-key "$LITELLM_API_KEY" --custom-base-url "https://litellm.example/v1"

Idéal pour : un contrôle total de l’installation et de la configuration.

Démarrer le proxy LiteLLM

pip install 'litellm[proxy]'
litellm --model claude-opus-4-6

OpenClawPointer OpenClaw vers LiteLLM

export LITELLM_API_KEY="your-litellm-key"

openclaw
```OpenClaw

C'est tout. OpenClaw route maintenant via LiteLLM.

Configuration

Environment variables

export LITELLM_API_KEY="sk-litellm-key"

Config file

{
  models: {
    providers: {
      litellm: {
        baseUrl: "http://localhost:4000",
        apiKey: "${LITELLM_API_KEY}",
        api: "openai-completions",
        models: [
          {
            id: "claude-opus-4-6",
            name: "Claude Opus 4.6",
            reasoning: true,
            input: ["text", "image"],
            contextWindow: 200000,
            maxTokens: 64000,
          },
          {
            id: "gpt-4o",
            name: "GPT-4o",
            reasoning: false,
            input: ["text", "image"],
            contextWindow: 128000,
            maxTokens: 8192,
          },
        ],
      },
    },
  },
  agents: {
    defaults: {
      model: { primary: "litellm/claude-opus-4-6" },
    },
  },
}

Advanced configuration

Image generation

LiteLLM peut également prendre en charge l’outil image_generateOpenAI via les routes /images/generations et /images/edits compatibles OpenAI. Configurez un modèle d’image LiteLLM sous agents.defaults.imageGenerationModel :

{
  models: {
    providers: {
      litellm: {
        baseUrl: "http://localhost:4000",
        apiKey: "${LITELLM_API_KEY}",
      },
    },
  },
  agents: {
    defaults: {
      imageGenerationModel: {
        primary: "litellm/gpt-image-2",
        timeoutMs: 180_000,
      },
    },
  },
}

Les URL de rebouclage LiteLLM telles que http://localhost:4000 fonctionnent sans substitution de réseau privé globale. Pour un proxy hébergé sur un réseau local, définissez models.providers.litellm.request.allowPrivateNetwork: true car la clé API sera envoyée à l’hôte du proxy configuré.

Clés virtuelles

Créez une clé dédiée pour OpenClaw avec des limites de dépense :

curl -X POST "http://localhost:4000/key/generate" \
  -H "Authorization: Bearer $LITELLM_MASTER_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "key_alias": "openclaw",
    "max_budget": 50.00,
    "budget_duration": "monthly"
  }'

Utilisez la clé générée comme LITELLM_API_KEY.

Routage de modèle

LiteLLM peut router les demandes de modèle vers différents backends. Configurez-le dans votre config.yaml LiteLLM :

model_list:
  - model_name: claude-opus-4-6
    litellm_params:
      model: claude-opus-4-6
      api_key: os.environ/ANTHROPIC_API_KEY

  - model_name: gpt-4o
    litellm_params:
      model: gpt-4o
      api_key: os.environ/OPENAI_API_KEY

OpenClaw continue de demander claude-opus-4-6 — LiteLLM gère le routage.

Consultation de l'utilisation

Consultez le tableau de bord LiteLLM ou l’API :

# Key info
curl "http://localhost:4000/key/info" \
  -H "Authorization: Bearer sk-litellm-key"

# Spend logs
curl "http://localhost:4000/spend/logs" \
  -H "Authorization: Bearer $LITELLM_MASTER_KEY"

Notes sur le comportement du proxy

LiteLLM s’exécute sur http://localhost:4000 par défaut
OpenClaw se connecte via le point de terminaison compatible OpenAI de style proxy de LiteLLM /v1
La mise en forme des requêtes native uniquement OpenAI ne s’applique pas via LiteLLM : pas de service_tier, pas de Responses store, pas d’indications de cache de prompt, et pas de mise en forme de payload de compatibilité de raisonnement OpenAI
Les en-têtes d’attribution OpenClaw masqués (originator, version, User-Agent) ne sont pas injectés sur les URL de base LiteLLM personnalisées

Connexes

LiteLLM Docs

Documentation officielle LiteLLM et référence de l’API.

Model selection

Vue d’ensemble de tous les providers, références de modèles et comportements de basculement.

Configuration

Référence complète de la configuration.

Sélection de modèle

Comment choisir et configurer des modèles.