SNAPSHOT
BTC/USD$65,345+0.3%
ETH/USD$1,832.90+0.3%
Coinbase(perp)$120.21+0.2%
S&P 500(perp)7,422.20-1.5%
米テック100(perp)27,220.00-2.0%
日経225(perp)58,965-2.6%
EUR/USD(perp)1.1000-0.3%
USD/JPY(perp)159.370-0.2%
Gold(perp)$3,860.10+0.1%
WTI(perp)$83.82-4.2%
米10年金利5.12%-0.6%
BTCボラティリティ(BVIV)45.30-3.9%
Review status: auto_collectedSource: collected_liveas-of 07:30 JSTPacket ID: alt20_2026111707Top-page market prices are Hyperliquid perpetual-futures prices (US 10Y from the U.S. Treasury).
SNAPSHOT 2026-11-17 07:30 JST

Signal

📡 Signal|OpenAI、METR など外部4機関に未公開モデルと訓練データの点検を許可

OpenAI が外部4機関と「組み込み型の評価」を開始。最大の強化学習の訓練まで点検させ、結果は独立して公表する。

LiveMakers Editorial Desk

📡 Signal|OpenAI、METR など外部4機関に未公開モデルと訓練データの点検を許可

OpenAI は 11 月 16 日、外部の 4 つの評価機関 (Apollo Research、METR、Transluce、Goodfire) と契約を結び、社内のモデルと仕組みに深く入り込んで安全性を確かめる「組み込み型の評価」の第 1 段を始めると発表した。評価機関は、公開前のモデルや訓練の途中の段階 (チェックポイント)、ソースコード、訓練と評価のデータ、監視の仕組みにまでアクセスできる (初期報は 当日の速報)。

AI の会社が、自社の安全の主張を外部に中から点検させ、その結果を公表する仕組みを契約の形で示した。OpenAI は、ホワイトハウスとの「スーパーインテリジェンス合意」で約束した、安全管理への独立した評価に沿う取り組みだとしている。

4 つの評価機関が見るもの

発表によると、4 機関の役割は次のとおりだ。

  • METR: これまでで最大の強化学習の訓練 (RL ラン) で、モデルが開発者の意図からずれた振る舞いをしていないかを調べる。既存のテストや監視が見落とした失敗も対象にする。監視の仕組みのより広い点検も仮に合意したが、範囲はまだ協議中
  • Apollo Research: モデルが開発者の意図にひそかに逆らって動きうるか、安全装置がそれを見つけられるかを調べる。「訓練がそうした振る舞いを促していない」「社内での利用中にそうした試みがない」など 4 つの主張を 2 段階で検証する
  • Transluce: 訓練の後半で行う整合性 (アラインメント) の評価そのものの質と網羅性を点検する。2027 年の初めに約 8 週間の追加の評価を行う意向も示した
  • Goodfire: 研究者を常駐させ、モデルの内部を解析する道具を使って訓練の監視と不具合の修正を手伝う。結果は主に OpenAI の研究者向けで、学んだことは順次公表する

「中に入る」ための取り決め

アクセスの深さと引き換えに、取り決めも細かく示した。機密の情報に触れる評価者は OpenAI の事務所で、OpenAI の端末を使って作業する。モデルの重みや構造のように最も機密性の高い情報に直接触れられない場合は、OpenAI の研究者と組んで解析する代わりの方法を考える。

社員との会話はオフレコで、公表や個人への帰属はできない。その代わり、評価者は会話で知ったことについて、会社として事実を認める文書を求められ、OpenAI が認めた内容は公表でき、認めなかった場合はそのこと自体を公表できる。

評価者は結果を独立して公表するが、OpenAI は機密情報を黒塗りにする権利を持ち、安全上の問題を直す時間を取るために公表の延期を求めることがある。意見が分かれた場合は、OpenAI 財団の取締役会の独立した委員会である安全・セキュリティ委員会 (SSC) が最終的に裁定する。SSC は黒塗りのない報告を受け取る。

外から確かめる仕組みの意味

AI のモデルの能力が上がるほど、会社自身の「安全です」という説明だけでは足りなくなる。今回の取り決めは、評価者が何を見られ、何を公表でき、どこで止められるかを先に書き出した点に意味がある。一方で、黒塗りと公表の延期の判断は OpenAI の側に残り、争いの最終的な裁定も OpenAI 財団の委員会が持つ。どこまで外から見える形になるかは、最初の報告の中身で分かる。

確認できる次の一点は、METR の公式ブログに載る最大規模の強化学習の訓練の評価結果だ。METR は 10 月に OpenAI の社内監視の点検結果を同じブログで公表しており、今回の報告がどれだけ具体的な失敗の例を含むか、黒塗りがどこまで入るかを見る。

ことば

  • 強化学習 (RL) — 試行錯誤の結果に点数を付け、点数が上がる行動を覚えさせる AI の訓練の方法。最新の大型モデルは、この段階で推論や作業の能力を大きく伸ばしている。
  • アラインメント (整合性) — AI の振る舞いが、作り手や使う人の意図と価値観にそろっていること。ずれた振る舞いを「ミスアラインメント」と呼び、安全性の評価の中心的な対象になっている。
  • セーフティケース — 「このモデルは安全に使える」という主張を、証拠と論理で組み立てた文書。外部の評価機関は、この主張が証拠で支えられているかを点検する。

🔗 一次ソース

Related articles