Grok CLI を自分の GPU で。
xAI の Grok Build CLI で、LM Warden を BYOK (独自キー持ち込み) のモデルとして使います。
テキストによる説明： Grok CLI は、base_url に warden を、env_key に warden のキーを設定して LM Warden にリクエストを送ります。LM Warden はキーを確認し、OpenAI Chat Completions 形式でリクエストを受け付け、キーの優先度に従ってリクエストをキューに入れ、レプリカ ルーターに渡します。ルーターは各セッションを、そのキャッシュをすでに保持しているレプリカ (GPU ごとに一つ置かれたモデルのコピー) に留めます。
- プロトコル
- OpenAI Chat Completions
- サポート
- ローカル モデルのみ
ローカル モデルのみで、Chat Completions を使います (api_backend = chat_completions)。xAI へのパススルーはなく、BYOK のモデルに xAI のログインは不要です。session_summary により、Grok のセッション タイトル用のリクエストもこのモデルで処理されます。これがないと、Grok はこの warden に grok-4.6 を要求して 404 になります。Grok は実行時に config.toml に独自のセクションを追加します。コミュニティ版の grok-cli (npm grok-dev) は別のツールで、チャットは動きますがツール呼び出しは動きません。
要件
- ツール呼び出しに対応したモデルが必要です (エージェントによる編集のため)。
- 32,768 トークン以上のコンテキストで最もよく動きます。
セットアップ
コンソールでは、Connect が warden のアドレス、キー、選んだモデルを入れてこれらのファイルを書き出します。ここではプレースホルダーを使って示しています。
Grok Build (公式)
~/.grok/config.toml にモデルのエントリを追加します。キーは LMWARDEN_KEY から取得します。インストール：curl -fsSL https://x.ai/cli/install.sh | bash または npm i -g @xai-official/grok
config.toml (~/.grok/config.toml)[model.lmwarden] model = "your-served-model-name" name = "LM Warden · your-served-model-name" base_url = "https://your-warden/v1" env_key = "LMWARDEN_KEY" api_backend = "chat_completions" context_window = 32768 [models] default = "lmwarden" session_summary = "lmwarden" # The model's context window is unknown: 32768 is a guess. Set it to the model's real window.
export LMWARDEN_KEY=vw_YOUR_KEY grok -m lmwarden
コミュニティ版 grok-cli
コミュニティ版の grok-cli はベース URL、キー、モデルを環境変数から読み込み、Bun のインストールが必要です。チャットは動きますが、ツール呼び出しは失敗します。vLLM はツール呼び出しを分割してストリーミングしますが、grok-cli が使う xAI SDK はそうして届くチャンクを受け付けないためです。
export GROK_BASE_URL=https://your-warden/v1 export GROK_API_KEY=vw_YOUR_KEY export GROK_MODEL=your-served-model-name npx -y grok-dev
公式ドキュメント：https://docs.x.ai/build/settings/reference (2026-10-04 時点)。