直接回答
タスク要件、承認モデル、プロトコル機能、データ境界、予算、経路の健全性を組み合わせた明示的ポリシーでルーティングします。alias と fallback を版管理し、資格情報を分離し、streaming と tool の意味を保ち、本番前に最小の端から端タスクで実効経路を確認します。
重要な結論
- モデル名ではなく宣言されたワークフロー機能でルーティングします。
- alias、方針、fallback、変換、資格情報所有者を版管理します。
- データ境界や機能を越える暗黙 fallback を禁止します。
- 非 stream、stream、tool、error、usage を別々に検証します。
重要な事実
このガイドで解決できること
テキスト応答の成功を完全なエージェント互換性と誤認せず、ゲートウェイを設計します。
検証範囲と制約
- 証拠の種類
- 公式ドキュメント仕様
- 検証範囲
- provider 設定、gateway protocol、方針、failover、資格情報、ワークフロー検証を対象にします。
- 制約と失効条件
- - 特定の gateway や提供元を推奨しません。
- - 互換性は実際の変換と client 版に依存します。
- - 遅延、可用性、価格の benchmark は示しません。
ポリシーより先にルート契約を定義する
ワークフローごとに要求・応答 protocol、stream event、tool semantics、context、認証所有者、data region、許可 model、予算、失敗動作を記述します。完全な契約を満たす経路だけが候補です。
利用者向け alias と上流 model ID を分けます。alias は版管理された方針で解決し、資格情報を公開せず実効経路を観測できるようにします。
互換性を層ごとに検証する
一回のテキスト成功が証明するのはその要求だけです。認証、model discovery、非 stream、stream 終了、error mapping、cancel、tool call、usage、長時間動作を別々に試します。
gateway の変換をすべて記録します。未知 field の削除、stream buffering、model 名書換、error normalization は HTTP 成功でも client 動作を変えます。
クライアント資格情報と上流秘密を分離する
client は scoped credential で gateway へ認証し、gateway は secret store の provider credential と server-side policy を使います。上流 token や Authorization header を応答・ログへ返しません。
- 短期または交換可能な client credential
- session から provider secret を読めない
- route ごとの認可と quota
- 秘匿済み request ID
- client と上流を独立して失効
failover を明示し上限を付ける
同じ機能、方針、データ境界を満たす経路だけへ fallback します。試行と総時間を制限し、状態を変える tool work を再実行せず、fallback 発生を表示します。停止すべき失敗を暗黙の model 変更で隠しません。
ポリシーを版管理し重要変更後に再検証する
client、gateway release、route policy、alias map、protocol transform、検証日を記録します。どれかを変えたら機能試験を再実行し、段階展開と即時無効化を準備します。
公式情報と検証範囲
本ガイドは公開されている公式ドキュメントを根拠にしています。コマンドや設定はクライアントのバージョンにより変わるため、実行前に参照元も確認してください。
技術検証方法を見る