Ваш агент для програмування — на ваших власних GPU.
LM Warden підтримує три протоколи, якими користуються агенти для програмування: OpenAI Chat Completions, Anthropic Messages API та OpenAI Responses API. Тож Claude Code, SDK від Anthropic та OpenAI, OpenCode, Aider, Grok CLI, Continue, Cline, Cursor і Codex CLI підключаються за базовою URL-адресою та ключем, а їхні запити видно окремо за ключем і сеансом, із фазою, у якій перебуває кожен.
Куди йде запит від агента для програмування. Кожен агент задає ті самі дві речі: базову URL-адресу та ключ; LM Warden перевіряє ключ, ставить запит у чергу й надсилає його репліці, яка вже має кеш сеансу. На сторінці кожного агента показано його власні налаштування.
Текстовий опис:Ваш агент для програмування надсилає запити до LM Warden: базова URL-адреса вказує на LM Warden, а як ключ API використано ключ LM Warden. LM Warden перевіряє ключ, приймає запити у форматах API OpenAI та Anthropic, ставить запит у чергу за пріоритетом ключа й передає маршрутизатору реплік, який тримає кожен сеанс на тій репліці, де вже є його кеш (по одній копії моделі на кожен GPU). Окремий шлях, лише для Claude Code, веде до api.anthropic.com: туди під вашим власним обліковим записом ідуть інші моделі Claude.
Конфігурацію не треба писати вручну. У консолі Connect вибирає ваш клієнт, модель і ключ та записує файли, які залишається вставити. На кожній сторінці нижче показано ті самі файли із заповнювачами й те, що працює.