OpenCode nas suas próprias GPUs.

O LM Warden como provedor compatível com OpenAI para o OpenCode, um modelo servido.

Para onde vai uma solicitação do OpenCode: as duas configurações que o Connect grava, o warden no meio e depois uma cópia do modelo por GPU.

Em texto: O OpenCode envia as solicitações ao LM Warden com baseURL apontando para o warden e apiKey contendo uma chave do warden. O LM Warden verifica a chave, implementa o protocolo OpenAI Chat Completions, coloca a solicitação na fila pela prioridade da chave e a entrega ao roteador de réplicas, que mantém cada sessão na réplica que já tem o cache dela, uma cópia do modelo por GPU.

Protocolo: OpenAI Chat Completions
Suporte: Só modelos locais

Só modelos locais, via Chat Completions (@ai-sdk/openai-compatible; @ai-sdk/openai usaria a Responses API, que este warden só traduz para o Codex CLI). O id do modelo precisa ser o nome de um modelo servido, conforme /v1/models. Para um arquivo versionado, use {env:LMWARDEN_KEY} em vez da chave. O modo Router pelo provedor Anthropic do OpenCode ainda não é suportado.

Requisitos

Precisa de um modelo com chamada de ferramentas (edições agênticas).
Funciona melhor com pelo menos 32.768 tokens de contexto.

Configuração

No console, o Connect grava estes arquivos com o endereço do seu warden, a sua chave e o modelo que você escolheu. Aqui eles aparecem com espaços reservados.

Modelos locais

Adicione o LM Warden como provedor em opencode.json e torne-o o padrão.

opencode.json (opencode.json)

{
  "$schema": "https://opencode.ai/config.json",
  "provider": {
    "lmwarden": {
      "npm": "@ai-sdk/openai-compatible",
      "name": "LM Warden",
      "options": { "baseURL": "https://your-warden/v1", "apiKey": "vw_YOUR_KEY" },
      "models": {
        "your-served-model-name": { "name": "your-served-model-name", "limit": { "context": 32768, "output": 8192 } }
      }
    }
  },
  "model": "lmwarden/your-served-model-name"
}

Shell

opencode run "Reply with the single word OK."

Documentação oficial: https://opencode.ai/docs/providers/ (lida em 2026-10-04).