📡 Signal｜METR、Anthropic モデルが早期警戒の基準を超えた可能性を指摘

非営利の AI 評価機関 METR は11月5日、Anthropic が8月に出したリスク報告書のうち「AI 研究開発の自動化によるリスク」の章を審査した結果を公表した。7月15日時点の社内モデルについて、破局的なリスクは低いという Anthropic の判断には同意しつつ、同社が自ら定めた早期警戒の基準を「その時点で超えていた可能性は十分にある」と結論づけた。

METR: Review of the "Risks from automated R&D" section in Anthropic's Risk Report (August 2026)・2026年11月5日 — 7月15日時点のモデルが早期警戒の基準を超えていた可能性、非公開版から計算した1.97倍、先行指標の1.3〜2.8倍を確認metr.org

基準とは、AI が AI の研究開発を肩代わりすることで、能力の進歩の速さが AI 以前の2倍に達することだ。同じ日に公表した別の評価で、METR は Anthropic の進歩がすでにおよそ2倍の速さにあり、その約8割は社内での AI の利用によると見積もった。AI が次の AI を作る速さを、外部の機関が企業の内側のデータで測り、数字にして公表した。

Anthropic は10月、METR のチームに社員に近い社内アクセスを与えたと公表していた (METR への社内アクセス付与)。

「2倍未満」と「1.97」

Anthropic は責任あるスケーリング方針 (RSP v3.4) で、AI 研究開発の自動化について2つの基準を置く。研究者と技術者の全員を、競争力のある費用で置き換えられるモデルが出たときと、AI の進歩が劇的に速まったときだ。後者の目安が、AI 研究開発の自動化による進歩の速さの倍増になる。

リスク報告書は、どちらの基準にも達していないとして、このリスクを「低い」と評価した。公開版では加速は「2倍未満」とし、非公開版では全体の伸びが「2倍をわずかに下回る」と書いていたという。METR はこの「2倍未満」という言い方を「言い過ぎ」とした。非公開版の数字から計算すると、加速の倍率は1.97になる。この値そのものは非公開版にも載っていない。METR 自身の先行指標での推計は、定義と期間によって1.3〜2.8倍の幅に収まる。

全員の置き換えという基準については、METR も超えていないと認めた。意見が割れたのは、2倍という線の手前か向こうかという一点だ。

1年で2年分の進歩

並行して出た評価は、8月12日から10月29日まで METR の担当者が Anthropic の社内データに広く接して行ったものだ。結論は次のとおり。

明確に定義された課題での能力の伸びは、2024年3月〜2025年10月のおよそ2倍の速さ。真の値が1.3倍や3倍に近くても驚かない
ベンチマークの得点の伸びは、2025年10月以前の1.9倍 (95% 信頼区間 1.5〜2.8倍)。過去1年で、従来の2年分ほど進んだ計算になる
現在 (2026年10月) の加速の大半、おそらく約8割は AI によるもの。ただし「大きな不確実性を伴う判断」で、2025年後半の加速には他の要因も大きく効いた

METR は9月22日の Claude Opus 5.5 の評価で、別の暫定報告の推計として、加速を約1.5倍、2倍に達する確率を30%程度と紹介していた (対象期間は明示されていなかった)。1か月半で、見立ては1.5倍から2倍へ動いた。METR は今後6か月で進歩がさらに大きく速まる可能性を「排除できない」とし、そうなればリスクが急速に「高い」水準へ移りうると書いた。

黒塗りされた根拠

METR は報告の中で、手続きの限界も具体的に書いている。Anthropic は報告に含まれる非公開の情報すべてについて、単独で黒塗りを決める権利を持っていた。METR によれば、Anthropic は結論にとって最も有益だった証拠の過半を黒塗りした。Anthropic の説明は、他の AI 開発企業の進歩を速めかねない機密を除くためだ。計算資源の配分の検証は、作業の途中で範囲から外された。費用のやり取りはなく、METR は Anthropic から支払いを受けていない。

結論が外に出て、根拠の多くが外に出ない。METR は黒塗りが結論に重要だった箇所はすべて報告で説明したとしているが、読者が数字を自分で検算できる範囲は限られる。10月の取り決めは、METR が黒塗りの中身を明かさずにその正当性を公に述べられるとしていた。今回 METR が書いたのは、黒塗りが最も有益な証拠の過半に及んだという事実だ。

加速は価格の前提でもある

フロンティア AI 企業への巨額の投資と評価額は、能力が速く伸び続けることを前提に積まれている。その速さが社内の AI 利用で2倍に達したという見立ては、投資の側から見れば追い風の材料になる。同じ数字が、安全の側では早期警戒の線を越えたかどうかの争点になる。一つの倍率が、資本の物差しと安全の物差しの両方に使われ始めた。

次に見るもの

確認先は、Anthropic が2026年2月と8月に出してきたリスク報告書の次の版だ。METR は報告書に「今後の測定で、一度きりの跳ね上がりか、持続する加速かが明らかになる」と書き加えるよう提案している。次の版で、加速の倍率を2倍の線との関係でどう書くか、METR の提案した文言が採られるかを見る。同時に、METR が次の評価で、今回範囲から外れた計算資源の配分を検証できたかどうかも確かめる。

ことば

METR — AI モデルの危険な能力を外部から評価する米国の非営利団体。Anthropic や OpenAI の公開前のモデルを試験してきた。10月から Anthropic の社内に社員に近い形で入り、今回が最初の公表になった。
責任あるスケーリング方針 (RSP) — Anthropic が、モデルの能力が一定の線を越えたら追加の安全対策を取ると定めた社内規程。リスク報告書はこの線に照らして、現在のモデルの危険度を自己評価する文書。
早期警戒の基準 — 脅威がまだ現実になっていない段階で、備えを始める合図として置く線。今回は、AI 研究開発の自動化で進歩の速さが2倍になることがそれにあたる。

🔗 一次ソース