📡 Signal｜OpenAI、モデルルーターと AI ゲートウェイに事前承認を義務化

OpenAI は10月21日、利用ポリシーを改定し、11月20日から発効させると発表した。自社モデルへの直接アクセスを第三者に提供するモデルルーターや AI ゲートウェイは、その提供を始める前に OpenAI の審査と承認を受けなければならなくなる。

1 本の API キーで複数社のモデルを切り替えられる中継サービスは、開発者が AI を調達する入口として広く使われている。その入口を開け閉めする権限を、モデルの提供元が自分の手に戻す改定だ。中継サービス経由で製品を組んでいる開発者は、使っているサービスが承認を得るかどうかを発効日までに確かめることになる。

LiveMakers は22日朝の速報で第一報を伝えた。本稿は OpenAI の発表文とポリシー本文にもとづく続報である。

新しい条項が線を引く場所

ポリシーに加わった「Providing access to our models」の条項は、第三者が OpenAI のモデルに直接アクセスできるようにする「モデルアクセス仲介プラットフォーム」などの運営者に、事前の審査と承認を求める。同じ条項は、アプリが自社の機能を動かすために OpenAI のモデルを組み込んでいるだけなら、この要件は適用されないと明記した。

線は「第三者にモデルそのものを渡すかどうか」に引かれている。チャットボットや業務アプリのように OpenAI のモデルを部品として使う事業は対象外で、モデルへの入口そのものを提供する事業が対象になる。

条項は、例外的な利用を個別に認める「OpenAI-approved use」の節に置かれた。同じ節は、承認にあたってパートナー、利用の目的、安全対策、パートナーのコンプライアンス上の約束を見ると書く。一方で、申請の手順や審査にかかる期間は、ポリシー本文には書かれていない。

発表文が掲げた理由は安全対策の一貫性

同日の発表「Broad access through consistent standards」で OpenAI は、利用者が OpenAI から直接使う場合も、モデルをホストするパートナーや再販パートナーを通す場合も、同じ方針を適用すると説明した。パートナーには、OpenAI と同等の安全対策を維持し、違反の疑いを調べ、懸念があれば対処することを求める。利用の制限が提供経路をまたいで効くよう、執行でも連携するとしている。

発表は、悪用が顧客のエンドユーザー、乗っ取られたアカウント、漏れた API キーから起きうると書いた。そのうえで、顧客が個々のエンドユーザーを区別するための識別子「SafetyID」を導入する作業を進めているという。OpenAI は利用者の身元を知らないまま、調査の対象を特定の利用者に絞れる。

中継サービスを通ると、OpenAI の側からは中継事業者のアカウントしか見えない。誰がどの用途に使ったかを追えない経路を減らすことが、新しい条項の実務上の効き目になる。

同じ改定に入った訓練の制限

変更履歴の10月21日の項によると、改定は仲介事業者の承認だけではない。OpenAI のモデルや出力を使って他のモデルを訓練することへの制限を明確にし、子どもと10代の保護、高リスク用途の要件も明確にした。国家安全保障と法執行での利用に承認を求める原則も取り込んだ。

訓練の条項は具体的だ。OpenAI の代替や代用を意図したモデルのために、訓練データ、訓練課題、評価基準 (ルーブリック)、強化学習の環境を作ることを禁じる。ラベル、スコア、順位、選好、報酬、修正といった訓練用のフィードバックを出すことも含む。自分で訓練しなくても、他者のために作業する場合や、製品の利用・評価で得た出力を後から訓練に回す場合にも及ぶ。研究、ソフトウェア開発、評価、製品開発での利用は、この範囲内で認める。

仲介と訓練の 2 つの条項は、同じ方向を向いている。モデルの能力が OpenAI の安全対策を伴わない形で外へ流れ出す経路を、契約の側から狭めることだ。

同じ日に起きた鍵の流出

同じ21日、アプリの実行基盤を提供する Railway は、顧客の環境変数を保管するシステムに不正アクセスがあった可能性を公表した。Railway はこれを、AI の推論を提供する事業者を狙ってプラットフォーム企業を攻撃する一連の動きの一部とみている。22日には、OpenAI の API キーが想定外に使われていないかを確かめる手順も公開した。

OpenAI の改定と Railway の事案の間に、直接の関係は示されていない。ただ、漏れた鍵がどの経路で、誰の名義で使われたかを追えるかどうかは、AI の供給網で現実の問題になっている。同じ日の 2 つの出来事が、それを示した。

次に確かめる点

最初の確認点は、11月20日の発効までに主要な中継サービスが承認の取得を公表するかどうかだ。確認先は OpenAI の利用ポリシーページの変更履歴と、各中継サービスの告知になる。承認を得られないサービスが出れば、そのサービス経由で OpenAI のモデルを呼んでいる開発者は、発効日を境に接続先の切り替えを迫られる。

ことば

モデルルーター — 1 本の API キーで複数社の AI モデルを呼び分けられる中継サービス。料金や速度で接続先を自動で選ぶものもあり、今回の改定で OpenAI の事前承認が要る対象になった。
AI ゲートウェイ — 企業や開発者と AI モデルの間に置く中継の仕組み。鍵の管理、利用量の記録、接続先の切り替えなどをまとめて担う。第三者にモデルへの直接アクセスを提供する場合は承認の対象になる。
SafetyID — 顧客が OpenAI に渡す、エンドユーザーを区別するための識別子。OpenAI は利用者の身元を知らずに、悪用の調査を特定の利用者に絞り込める。

🔗 一次ソース