跳转到内容

LiteLLM

LiteLLM 是一个开源的 LLM 网关,为 100 多个模型提供商提供统一的 API。通过 LiteLLM 路由 OpenClaw,即可获得集中的成本跟踪、日志记录,以及在不更改 OpenClaw 配置的情况下切换后端的灵活性。

最适用于: 快速搭建可用的 LiteLLM 环境。

  1. 运行新手引导

    Terminal window
    openclaw onboard --auth-choice litellm-api-key

    若要针对远程代理进行非交互式设置,请显式传递代理 URL:

    Terminal window
    openclaw onboard --non-interactive --auth-choice litellm-api-key --litellm-api-key "$LITELLM_API_KEY" --custom-base-url "https://litellm.example/v1"
Terminal window
export LITELLM_API_KEY="sk-litellm-key"
{
models: {
providers: {
litellm: {
baseUrl: "http://localhost:4000",
apiKey: "${LITELLM_API_KEY}",
api: "openai-completions",
models: [
{
id: "claude-opus-4-6",
name: "Claude Opus 4.6",
reasoning: true,
input: ["text", "image"],
contextWindow: 200000,
maxTokens: 64000,
},
{
id: "gpt-4o",
name: "GPT-4o",
reasoning: false,
input: ["text", "image"],
contextWindow: 128000,
maxTokens: 8192,
},
],
},
},
},
agents: {
defaults: {
model: { primary: "litellm/claude-opus-4-6" },
},
},
}

LiteLLM 还可以通过 /images/generations/images/edits 路由,使用 OpenAI 兼容接口来支持 image_generate 工具。在 agents.defaults.imageGenerationModel 下配置 LiteLLM 图像模型:

{
models: {
providers: {
litellm: {
baseUrl: "http://localhost:4000",
apiKey: "${LITELLM_API_KEY}",
},
},
},
agents: {
defaults: {
imageGenerationModel: {
primary: "litellm/gpt-image-2",
timeoutMs: 180_000,
},
},
},
}

http://localhost:4000 这样的 LiteLLM 回环 URL 无需全局专用网络覆盖即可工作。对于局域网托管的代理,请设置 models.providers.litellm.request.allowPrivateNetwork: true,因为 API 密钥将发送到已配置的代理主机。

Virtual keys

创建一个带有支出限制的 OpenClaw 专用密钥:

Terminal window
curl -X POST "http://localhost:4000/key/generate" \
-H "Authorization: Bearer $LITELLM_MASTER_KEY" \
-H "Content-Type: application/json" \
-d '{
"key_alias": "openclaw",
"max_budget": 50.00,
"budget_duration": "monthly"
}'

将生成的密钥用作 LITELLM_API_KEY

Model routing

LiteLLM 可以将模型请求路由到不同的后端。在你的 LiteLLM config.yaml 中进行配置:

model_list:
- model_name: claude-opus-4-6
litellm_params:
model: claude-opus-4-6
api_key: os.environ/ANTHROPIC_API_KEY
- model_name: gpt-4o
litellm_params:
model: gpt-4o
api_key: os.environ/OPENAI_API_KEY
```OpenClaw
OpenClaw 继续请求 `claude-opus-4-6` — LiteLLM 处理路由。
查看使用情况

查看 LiteLLM 的仪表板或 API:

Terminal window
# Key info
curl "http://localhost:4000/key/info" \
-H "Authorization: Bearer sk-litellm-key"
# Spend logs
curl "http://localhost:4000/spend/logs" \
-H "Authorization: Bearer $LITELLM_MASTER_KEY"
代理行为说明
  • LiteLLM 默认运行在 http://localhost:4000OpenClawOpenAI 上
  • OpenClaw 通过 LiteLLM 的代理式 OpenAI 兼容 /v1OpenAI 端点进行连接
  • 原生仅限 OpenAI 的请求整形不适用于 LiteLLM: 没有 service_tier,没有 Responses storeOpenAIOpenClaw,没有提示词缓存提示,也没有 OpenAI 推理兼容的负载整形
  • 隐藏的 OpenClaw 归属标头(originatorversionUser-Agent) 不会注入到自定义的 LiteLLM 基础 URL 中

LiteLLM Docs

官方 LiteLLM 文档和 API 参考。

Model selection

所有提供商、模型引用和故障转移行为的概述。

配置

完整配置参考。

模型选择

如何选择和配置模型。