SGLang

SGLang

SGLang puede servir modelos de código abierto a través de una API HTTP compatible con OpenAI. OpenClaw puede conectarse a SGLang utilizando la API openai-completions.

OpenClaw también puede detectar automáticamente los modelos disponibles de SGLang cuando activas la opción con SGLANG_API_KEY (cualquier valor funciona si su servidor no impone autenticación) y no define una entrada explícita models.providers.sglang.

Inicio rápido

1. Inicie SGLang con un servidor compatible con OpenAI.

Su URL base debe exponer endpoints /v1 (por ejemplo /v1/models, /v1/chat/completions). SGLang comúnmente se ejecuta en:

• http://127.0.0.1:30000/v1

2. Actívelo (cualquier valor funciona si no hay autenticación configurada):

export SGLANG_API_KEY="sglang-local"

3. Ejecute la incorporación y elija SGLang, o configure un modelo directamente:

openclaw onboard

{
  agents: {
    defaults: {
      model: { primary: "sglang/your-model-id" },
    },
  },
}

Descubrimiento de modelos (proveedor implícito)

Cuando SGLANG_API_KEY está configurado (o existe un perfil de autenticación) y usted no define models.providers.sglang, OpenClaw consultará:

• GET http://127.0.0.1:30000/v1/models

y convertirá los IDs devueltos en entradas de modelos.

Si configura models.providers.sglang explícitamente, el autodescubrimiento se omite y debe definir los modelos manualmente.

Configuración explícita (modelos manuales)

Use configuración explícita cuando:

• SGLang se ejecuta en un host/puerto diferente.
• Desea fijar los valores contextWindow/maxTokens.
• Su servidor requiere una clave de API real (o desea controlar los encabezados).

{
  models: {
    providers: {
      sglang: {
        baseUrl: "http://127.0.0.1:30000/v1",
        apiKey: "${SGLANG_API_KEY}",
        api: "openai-completions",
        models: [
          {
            id: "your-model-id",
            name: "Local SGLang Model",
            reasoning: false,
            input: ["text"],
            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },
            contextWindow: 128000,
            maxTokens: 8192,
          },
        ],
      },
    },
  },
}

Solución de problemas

• Compruebe que el servidor sea accesible:

curl http://127.0.0.1:30000/v1/models

• Si las solicitudes fallan con errores de autenticación, configure una SGLANG_API_KEY real que coincida con la configuración de su servidor, o configure el proveedor explícitamente bajo models.providers.sglang.

Comportamiento de estilo proxy

SGLang se trata como un backend /v1 compatible con OpenAI de estilo proxy, no como un punto de conexión nativo de OpenAI.

• la conformación de solicitudes solo nativa de OpenAI no se aplica aquí
• sin service_tier, sin Respuestas store, sin sugerencias de caché de prompt y sin conformación de carga útil compatible con razonamiento de OpenAI
• los encabezados de atribución ocultos de OpenClaw (originator, version, User-Agent) no se inyectan en URL base personalizadas de SGLang