SGLang

SGLang sert des modèles à poids ouverts via une API HTTP compatible OpenAI. OpenClaw se connecte à SGLang en utilisant la famille de fournisseurs OpenAIAPIOpenClawopenai-completions avec la découverte automatique des modèles disponibles.

Propriété	Valeur
ID du fournisseur	sglang
Plugin	intégré, enabledByDefault: true
Variable d’environnement d’authentification	SGLANG_API_KEY (toute valeur non vide si le serveur n’a pas d’authentification)
Indicateur d’intégration	--auth-choice sglang
API	Compatible OpenAI (OpenAIopenai-completions)
URL de base par défaut	http://127.0.0.1:30000/v1
Espace réservé de modèle par défaut	sglang/Qwen/Qwen3-8B
Utilisation en streaming	Oui (supportsStreamingUsage: true)
Tarification	Marqué comme externe-gratuit (modelPricing.external: false)

OpenClaw découvre automatiquement les modèles disponibles depuis SGLang lorsque vous activez cette option avec OpenClawSGLANG_API_KEY. Utilisez sglang/* dans agents.defaults.models pour garder la découverte dynamique lorsque vous configurez également une URL de base SGLang personnalisée. Voir Découverte de modèles (provider implicite) ci-dessous.

Getting started

1. Démarrer SGLang

   Lancez SGLang avec un serveur compatible OpenAI. Votre URL de base doit exposer des points de terminaison /v1 (par exemple /v1/models, /v1/chat/completions). SGLang s’exécute généralement sur :

   • http://127.0.0.1:30000/v1

2. APIDéfinir une clé API

   Toute valeur fonctionne si aucune authentification n’est configurée sur votre serveur :

   export SGLANG_API_KEY="sglang-local"

3. Exécuter l'intégration ou définir un modèle directement

   openclaw onboard

   Ou configurez le modèle manuellement :

   {
     agents: {
       defaults: {
         model: { primary: "sglang/your-model-id" },
       },
     },
   }

Model discovery (implicit provider)

Lorsque SGLANG_API_KEY est défini (ou qu’un profil d’authentification existe) et que vous ne définissez models.providers.sglangOpenClaw, OpenClaw interrogera :

• GET http://127.0.0.1:30000/v1/models

et convertir les ID renvoyés en entrées de model.

Note

Si vous définissez

models.providers.sglang

OpenClaw explicitement, OpenClaw utilise par défaut vos modèles déclarés. Ajoutez

"sglang/*": {}

à

agents.defaults.models

OpenClaw lorsque vous voulez qu’OpenClaw interroge le point de terminaison

/models

de ce provider configuré et inclue tous les modèles SGLang annoncés.

Configuration explicite (models manuels)

Utilisez une configuration explicite lorsque :

• SGLang s’exécute sur un hôte/port différent.
• Vous souhaitez épingler les valeurs contextWindow/maxTokens.
• Votre serveur nécessite une véritable clé API (ou vous souhaitez contrôler les en-têtes).

{
  models: {
    providers: {
      sglang: {
        baseUrl: "http://127.0.0.1:30000/v1",
        apiKey: "${SGLANG_API_KEY}",
        api: "openai-completions",
        models: [
          {
            id: "your-model-id",
            name: "Local SGLang Model",
            reasoning: false,
            input: ["text"],
            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },
            contextWindow: 128000,
            maxTokens: 8192,
          },
        ],
      },
    },
  },
}

Configuration avancée

Comportement de type proxy

SGLang est traité comme un backend /v1OpenAIOpenAI compatible OpenAI de type proxy, et non comme un point de terminaison OpenAI natif.

Comportement	SGLang
Mise en forme des requêtes OpenAI uniquement	Non appliqué
service_tier, Réponses store, indicateurs de cache de prompt	Non envoyés
Mise en forme du payload compat raisonnement	Non appliquée
En-têtes d’attribution cachés (originator, version, User-Agent)	Non injectés sur les URL de base SGLang personnalisées

Dépannage

Serveur injoignable

Vérifiez que le serveur est en cours d’exécution et qu’il répond :

curl http://127.0.0.1:30000/v1/models

Erreurs d’authentification

Si les requêtes échouent avec des erreurs d’authentification, définissez une véritable SGLANG_API_KEY qui correspond à la configuration de votre serveur, ou configurez le provider explicitement sous models.providers.sglang.

Tip

Si vous exécutez SGLang sans authentification, toute valeur non vide pour SGLANG_API_KEY suffit pour activer la découverte de modèles.

Connexes

Model selection

Choisir les providers, les références de models et le comportement de basculement.

Référence de configuration

Schéma de configuration complet incluant les entrées de provider.