DevOps エンジニア向けセットアップ

適用面: ゲートウェイ 対応モード: Hosted Hybrid Local プラン: Free Solo Teams

対象読者

サービスを運用する方が対象です。AI の呼び出しは、ソースコードを管理していないアプリから発生することがあります。すべてのチームにコード変更のリリースを依頼することなく、その手前に制御と監査のポイントが必要です。

通常統制したい対象

• すべてのサービスにわたる LLM 呼び出しの、設定によって決まる単一の関所。

• アプリごとではなく、一律に適用されるモデルとコストのガードレール。

• 英語の原文 -- 翻訳は技術レビュー待ちです

  An audit trail that survives even for agents you cannot instrument.

インストールする適用面

ゲートウェイです。透過型プロキシで、ベース URL を1つ変更してヘッダーを2つ追加するだけで、ゲートウェイを通過する LLM 呼び出しを統制します。アプリケーションコードの変更は不要です。

# Point your app's provider base URL at the gateway.
export OPENAI_BASE_URL=https://gateway.controlzero.ai/v1

Control Zero のヘッダーを送信リクエストに追加します（サービスの設定またはサイドカーで設定してください）。

X-ControlZero-API-Key: cz_live_your_key_here
X-ControlZero-Agent-ID: payments-service

自社の境界内で必要な場合は、ゲートウェイをセルフホストで実行することもできます。ゲートウェイガイドを参照してください。

スターターポリシー

ゲートウェイの展開中に本番の呼び出しが壊れないよう、まずは観測から始め、その後で厳しくします。次のポリシーはトラフィックを許可し、すべてを記録します。

version: '1'
settings:
  # Roll out in observe; flip to "deny" per service once audit looks clean.
  default_action: allow
  default_on_missing: allow
  default_on_tamper: warn
rules:
  - id: allow-vetted-models
    allow: 'llm:generate'
    resources:
      - 'model/claude-*'
      - 'model/gpt-*'
    reason: 'Only vetted model families while we establish a baseline.'

監査ログに安定したモデルの集合が表示されるようになったら、default_action を warn、続いて deny に移し、リストにないモデルがブロックされるよう deny のキャッチオールを追加します。同じポリシーを、この設定1つだけを変えることで dev、staging、prod に順に昇格できます。開発では警告、本番では拒否と LLM モデルの許可リストを参照してください。

確認できる内容

英語の原文 -- 翻訳は技術レビュー待ちです

• A complete request and response decision trail in the Audit Log, attributed to the X-ControlZero-Agent-ID you set per service. Per-event coverage distinguishes “did not run” from “ran and found nothing.”

• 英語の原文 -- 翻訳は技術レビュー待ちです

  Pre-flight checks (model blocking, cost caps, PII detection) recorded on every request before it reaches the provider.

次のステップ

• 既存の AI アプリを統制する（コード変更なし） -- ゲートウェイの完全なウォークスルーです。
• ゲートウェイ -- 対応プロバイダー、セルフホストでのデプロイ、設定。
• 開発では警告、本番では拒否 -- 1つのポリシーで2つの方針を使い分けます。
• 監視のみのセットアップ -- 何も壊さずに展開します。