Ваш агент для программирования на ваших собственных GPU.
LM Warden поддерживает три протокола, на которых работают агенты для программирования: OpenAI Chat Completions, Anthropic Messages API и OpenAI Responses API. Поэтому Claude Code, Anthropic SDK и OpenAI SDK, OpenCode, Aider, Grok CLI, Continue, Cline, Cursor и Codex CLI подключаются по базовому URL и ключу, а их запросы видны в разбивке по ключам и сессиям, вместе с текущей фазой каждого запроса.
Куда идет запрос от агента для программирования. Любой агент настраивается одинаково — базовый URL и ключ; LM Warden проверяет ключ, ставит запрос в очередь и отправляет его на реплику, где уже есть кэш этой сессии. На странице каждого агента показаны его собственные настройки.
Иначе говоря:Ваш агент для программирования отправляет запросы в LM Warden: в base URL указан адрес сервера LM Warden, а в API key — ключ LM Warden. LM Warden проверяет ключ, принимает запросы в форматах API OpenAI и Anthropic, ставит их в очередь по приоритету ключа и передает маршрутизатору реплик. Маршрутизатор закрепляет каждую сессию за репликой, на которой уже есть ее кэш; на каждом GPU работает своя копия модели. Отдельный путь ведет к api.anthropic.com — только для Claude Code: туда уходят запросы к остальным моделям Claude, с вашими собственными учетными данными.
Писать конфигурацию вручную не нужно. В консоли, в разделе Connect, вы выбираете клиент, модель и ключ — и получаете готовые файлы, которые останется вставить. На каждой странице ниже показаны те же файлы с заполнителями и описано, что работает.
Этот сайт использует файлы cookie Google Analytics для подсчета посещений и оценки эффективности рекламы, но только с вашего разрешения. Конфиденциальность