SGLang

SGLang sirve modelos de pesos abiertos a través de una API HTTP compatible con OpenAI. OpenClaw se conecta a SGLang utilizando la familia de proveedores openai-completions con descubrimiento automático de modelos disponibles.

Propiedad	Valor
ID del proveedor	sglang
Complemento	incluido, enabledByDefault: true
Var. de entorno de autenticación	SGLANG_API_KEY (cualquier valor no vacío si el servidor no tiene autenticación)
Indicador de incorporación	--auth-choice sglang
API	Compatible con OpenAI (openai-completions)
URL base predeterminada	http://127.0.0.1:30000/v1
Marcador de posición de modelo predeterminado	sglang/Qwen/Qwen3-8B
Uso en streaming	Sí (supportsStreamingUsage: true)
Precios	Marcado como externo gratuito (modelPricing.external: false)

OpenClaw también descubre automáticamente los modelos disponibles de SGLang cuando activas esta opción con SGLANG_API_KEY. Usa sglang/* en agents.defaults.models para mantener el descubrimiento dinámico cuando también configuras una URL base personalizada de SGLang. Consulta Model discovery (implicit provider) más abajo.

Para empezar

1. Iniciar SGLang

   Inicie SGLang con un servidor compatible con OpenAI. Su URL base debe exponer endpoints /v1 (por ejemplo /v1/models, /v1/chat/completions). SGLang se ejecuta comúnmente en:

   • http://127.0.0.1:30000/v1

2. Establecer una clave de API

   Cualquier valor funciona si no hay autenticación configurada en su servidor:

   export SGLANG_API_KEY="sglang-local"

3. Ejecutar la incorporación o establecer un modelo directamente

   openclaw onboard

   O configure el modelo manualmente:

   {
     agents: {
       defaults: {
         model: { primary: "sglang/your-model-id" },
       },
     },
   }

Descubrimiento de modelos (proveedor implícito)

Cuando SGLANG_API_KEY está configurado (o existe un perfil de autenticación) y no define models.providers.sglang, OpenClaw consultará:

• GET http://127.0.0.1:30000/v1/models

y convertirá los IDs devueltos en entradas de modelos.

Note

Si establece

models.providers.sglang

explícitamente, OpenClaw usa sus modelos declarados por defecto. Añada

"sglang/*": {}

a

agents.defaults.models

cuando quiera que OpenClaw consulte el endpoint

/models

de ese proveedor configurado e incluya todos los modelos SGLang anunciados.

Configuración explícita (modelos manuales)

Use configuración explícita cuando:

• SGLang se ejecuta en un host/puerto diferente.
• Desea fijar los valores de contextWindow/maxTokens.
• Tu servidor requiere una clave API real (o deseas controlar los encabezados).

{
  models: {
    providers: {
      sglang: {
        baseUrl: "http://127.0.0.1:30000/v1",
        apiKey: "${SGLANG_API_KEY}",
        api: "openai-completions",
        models: [
          {
            id: "your-model-id",
            name: "Local SGLang Model",
            reasoning: false,
            input: ["text"],
            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },
            contextWindow: 128000,
            maxTokens: 8192,
          },
        ],
      },
    },
  },
}

Configuración avanzada

Comportamiento de estilo proxy

SGLang se trata como un backend /v1 compatible con OpenAI de estilo proxy, no como un endpoint nativo de OpenAI.

Comportamiento	SGLang
Formación de solicitudes solo de OpenAI	No aplicado
service_tier, Respuestas store, sugerencias de caché de prompts	No enviados
Formación de payload compatible con razonamiento	No aplicado
Encabezados de atribución ocultos (originator, version, User-Agent)	No inyectados en URLs base personalizadas de SGLang

Solución de problemas

Servidor no accesible

Verifique que el servidor se esté ejecutando y respondiendo:

curl http://127.0.0.1:30000/v1/models

Errores de autenticación

Si las solicitudes fallan con errores de autenticación, configure un SGLANG_API_KEY real que coincida con la configuración de su servidor, o configure el proveedor explícitamente en models.providers.sglang.

Tip

Si ejecuta SGLang sin autenticación, cualquier valor no vacío para SGLANG_API_KEY es suficiente para habilitar el descubrimiento de modelos.

Relacionado

Selección de modelo

Elección de proveedores, referencias de modelos y comportamiento de conmutación por error.

Referencia de configuración

Esquema de configuración completo incluyendo las entradas del proveedor.