Signal
📡 Signal｜パリの AI 安全宣言、OpenAI など10社が停止機構と第三者評価を約束
マクロン氏の AI 安全会合で、OpenAI など10社が停止機構と第三者評価を約束。高市首相も出席したが、支持国の一覧に日本の名はない。
フランスのマクロン大統領は11月9日、AI と安全保障をテーマにした会合をパリとオンラインで開き、各国の首脳と AI 開発企業が「AI の安全のためのパリの呼びかけ」を公表した。OpenAI や Anthropic、Microsoft、Mistral AI など10社が、最先端のモデルを止める仕組みや第三者による評価を約束する文書に名を連ねた。
仏大統領府 — 会合「AI と安全」の発表 (2026年11月9日・参加国と企業、3つの合意点)elysee.fr
日本からは高市首相がオンラインで出席した。仏大統領府は、AI 企業がこの方向の文書に署名したのは初めてだと説明している。ただ、公表時点の支持国の一覧に日本の名はない。モデルの危険をだれが測り、事故が起きたときにだれが責任を負うのかという問いに、企業の側が先に答えを書き、各国の足並みはまだそろっていない。
会合に集まった顔ぶれ
仏大統領府の発表によると、会合は6月17日の G7 エビアン・サミットで首脳と AI 研究所のトップが話し合った場の続きとして開かれた。首脳級で参加したのはバーレーン、カナダ、フィンランド、日本、ノルウェー、オランダ、英国、シエラレオネで、米国からは財務長官が出た。国連と OECD (経済協力開発機構) も加わった。
企業は Anthropic、Black Forest Labs、Hugging Face、Microsoft、Mistral AI、OpenAI、Sakana AI の7社が出席し、OpenAI のアルトマン氏、Anthropic のアモデイ氏、Mistral AI のマンシュ氏の名が挙がっている。研究者ではヨシュア・ベンジオ氏が加わった。会合はパリで9〜10日に開かれている G7 外相会合に合わせた日程で、仏外務省は AI の安全を外相会合の4つの重点の一つに掲げている。
共同通信によると、高市首相は高性能の AI が安全保障の新たな課題になっていると指摘し、サイバー攻撃への悪用や制御の喪失を挙げて「国際社会の連携が不可欠だ」と述べた。
呼びかけが企業に求めること
文書は3つの柱で書かれている。
- 評価: 最先端のモデルの危険を測る共通の枠組みをつくる。サイバーや化学・生物・放射性物質・核への悪用と、制御の喪失を重点に置き、機微でない評価の結果は公開の共通の場に載せる
- 責任: 開発企業は、モデルの能力と限界、分かっている危険を公表し、独立した第三者の評価を受ける。学習中や社内の利用を含め、モデルの動作を止める仕組みを備える。各国は、国境をまたぐ大規模な被害の責任の所在をはっきりさせる
- 共有: サイバーや AI の制御にかかわる事故の報告を早め、早期警戒の仕組みを整える。内部告発者のための安全で秘密が守られる窓口を設ける
署名した企業は10社で、出席した7社に Cohere、Domyn、Synthesia が加わる。国はバーレーン、カナダ、フィンランド、フランス、ノルウェー、オランダの6か国だ。
出席した国と、署名した国のずれ
会合に首脳が出た国のうち、日本と英国は公表時点の支持国の一覧に入っていない。米国も国としては名がない。文書は「新たな支持に開かれ、更新される」としており、後から加わる余地は残る。
このずれは小さくない。企業が自ら「止める仕組み」や第三者評価を約束しても、その基準と責任の線を引くのは各国の法律だ。G7 のうち署名したのは議長国フランスとカナダの2か国にとどまる。AI の安全の枠組みは、規制する側の多くより先に、規制される側の署名で形を持ち始めた。
次に見るもの
- 11月10日: パリの G7 外相会合の成果文書。AI の安全をどの言葉で書き、パリの呼びかけに触れるかを見る
- 仏大統領府の呼びかけのページ: 更新される支持国の一覧に、日本・英国・米国が加わるか
- 首相官邸・外務省の発表: 日本政府が会合での首相の発言と、文書への態度をどう説明するか
ことば
- フロンティアモデル — その時点で最も高い能力を持つ最先端の AI モデル。能力が高いぶん悪用や制御の喪失の危険も大きいとされ、各国の安全の議論はここに集中している。
- 第三者評価 — 開発企業から独立した機関が、モデルの危険を試験して確かめること。企業の自己申告に頼らない仕組みとして、パリの呼びかけの柱の一つに置かれた。
- G7 エビアン・サミット — 2026年6月にフランスのエビアンで開かれた主要7か国の首脳会議。首脳と AI 研究所のトップの対話が行われ、今回の会合はその続きにあたる。
🔗 一次ソース
