Le fournisseur OpenAI Compatible de Cline, renseigné depuis son écran de paramètres.
Où va une requête envoyée par Cline : les deux paramètres que génère Connect, le warden au centre, puis une copie du modèle par GPU.
En clair :Cline envoie ses requêtes à LM Warden : Base URL pointe vers le warden et API Key contient une clé du warden. LM Warden vérifie la clé, interprète la requête au format OpenAI Chat Completions, la place en file d’attente selon la priorité de la clé, puis la confie au routeur de réplicas, qui maintient chaque session sur le réplica détenant déjà son cache (une copie du modèle par GPU).
Protocole
OpenAI Chat Completions
Prise en charge
Modèles locaux uniquement
Modèles locaux uniquement, via Chat Completions en streaming. Cline n’a pas de fichier de configuration : saisissez ces valeurs sous API Provider > OpenAI Compatible. Son fournisseur Anthropic accepte une URL de base personnalisée mais aucun en-tête personnalisé : le mode Router n’est donc pas disponible.
Prérequis
Nécessite un modèle capable d’appeler des outils (modifications agentiques).
Fonctionne au mieux avec au moins 32 768 jetons de contexte.
Configuration
Dans la console, Connect génère ces fichiers avec l’adresse de votre warden, votre clé et le modèle choisi. Ils sont présentés ici avec des valeurs fictives.
Modèles locaux
Settings > API Provider > OpenAI Compatible.
Paramètres
Base URL: https://your-warden/v1
API Key: vw_YOUR_KEY
Model ID: your-served-model-name
Context Window Size: 32768