AI ゲートウェイは、自社の仕組みやアプリから AI を呼び出すときに、間に置く 1 つの窓口です。別々の会社が出している AI のモデルを、同じ書き方で呼び出せるようにします。AI の会社ごとの窓口（API）に 1 つずつつなぐ代わりに、つなぎ先を 1 か所にまとめる考え方です。
例として Vercel の AI Gateway の説明では、1 つの窓口から複数の提供元のモデルを呼び出せます。呼び出しのたびに、使ったモデルと提供元、かかった時間、使ったトークンの量、費用が記録されます。チームやプロジェクトごとに予算を決める設定や、ある提供元が応答しないときに、別の提供元やモデルへ切り替える設定もあります。
役に立つのは、自社の仕組みの中で複数の AI を使い分けたいときです。新しいモデルが出るたびに比べて入れ替えたいときや、AI の利用料を仕組みごとにまとめて見たいときにも使います。社員が画面で ChatGPT や Claude を使うだけなら、要りません。
窓口をまとめても、入力した内容を処理するのは、それぞれのモデルの提供元です。Vercel も、各提供元の利用は、モデルごとに示した提供元の規約に従うとしています。入力が学習に使われるか、どこに保存されるかは、使うモデルの提供元ごとに確かめます（学習への利用の設定）。間に入る会社が 1 つ増えるので、その会社の規約と、窓口が止まったときの影響も確かめておきます。