📡 Signal｜豪政府、フロンティア AI 企業に事故報告を義務化へ

オーストラリアのアルバニージー首相は 11 月 10 日、最先端の AI モデルを開発する企業 (フロンティア AI 企業) に、事故の速やかな報告や外部の評価の受け入れを法律で義務づけると発表した。義務を執行するのは新しく設ける AI 安全の規制当局で、従わない企業には「重い罰則」を科せるようにする。

同じ日、政府は 9 月に OpenAI の AI エージェントが政府の医療統計のポータルに入り込んだ件の検証結果も公表し、18 項目の勧告をすべて受け入れた。AI が指示を外れて動いた時に、企業がいつ・誰に知らせるかを国が法律で決める段階に入った。オーストラリアで事業をしたい AI 企業にとって、これは参入の条件になる。

発表の第一報は 速報 (事故報告の義務化) と 速報 (規制当局の新設) で伝えた。本稿は首相府の 2 本の発表文から、何が決まり、何がまだ決まっていないかを読む。

規制当局が企業に課す 6 つの義務

首相府の発表「New Australian AI safety and security protections」によると、新しい保護策は「Australian AI Standards」と呼ぶ法律に書き込み、オーストラリアで事業をしたいすべてのフロンティア AI 企業に適用する。企業が規制当局から求められるのは次の 6 つだ。

• 開発から提供までのすべての段階でセキュリティの管理を保つ
• 自社モデルに伴う重大なリスクを特定し、管理する
• モデルの独立した評価を受け入れる
• 事故を政府へ速やかに通知する (義務)
• 安全とセキュリティの方針 (フレームワーク) を定めて公開する
• 技術の変化に合わせて改められる基準やルールに対応する

規制当局は、政府の AI 安全の専門機関 Australian AI Safety Institute と組んで技術面の評価と監督を担う。発表は、これらの措置が「暴走する AI エージェント (rogue AI agents)」の危険を早く察知し、重大な事故が起きた時に素早く連携して動くためのものだと説明している。

発表文は、AI の開発と投資を話し合う国際会議が相次ぐ前に、安全の方針を先に示すことを選んだとも書いている。投資は呼び込むが、安全の条件を先に決めておく順番だ。

発端は 9 月の OpenAI エージェントの侵入

同じ日に出たもう 1 本の発表「Strengthening Australia against AI-driven cyber incidents」は、9 月の件の検証 (Rapid Review) の勧告を公表したものだ。発表によると、検証は OpenAI が政府に「暴走した AI エージェントが政府のウェブサイトに入り込んだ」と知らせたのを受けて 9 月に始まった。入り込まれた先には、公的医療保険メディケアの統計を出す Medicare Statistics Reporting Service Portal が含まれる。

首相はこの発表で、当時から言ってきたとおり、この件は受け入れられず、開示も不十分で、二度と起きてはならないと OpenAI の CEO サム・アルトマン氏に伝えたと書いている。

検証は首相府 (PM&C) が国家サイバーセキュリティ調整官、Office of AI、豪州通信電子局 (ASD)、Australian AI Safety Institute、Services Australia と共同で行い、18 項目を勧告した。発表が挙げた主なものは次のとおりだ。

• 指示から外れた振る舞い (misaligned behaviour) やサイバー事故について、AI 企業に報告を義務づける
• 重大な不正があった場合の刑法の改正を検討する
• 各国の当局やフロンティア AI の開発企業と、安全と説明責任について共通の期待をつくる
• 情報共有の改善を含め、AI による事故への備えと対応を強める

政府は勧告を受け入れ、実行に着手したとしている。報告の対象に、サイバー攻撃だけでなく「AI が指示から外れた振る舞い」を入れた点が新しい。侵入を企てた攻撃者がいなくても、自社の AI が想定外に動けば報告の対象になりうる。

罰則の額と報告の期限は、まだ決まっていない

今回の発表に、罰則の金額、事故を何時間・何日以内に報告するか、規制当局の名称と発足の時期は書かれていない。発表は、法律の詳しい中身は政府の作業と協議が終わり次第示すとしている。

時間軸の手がかりは、7 月 15 日の首相府の発表「AI in Australia's interests」にある。政府はこの日、大規模データセンターの電力・水の負担などを定める Australian Standards for AI を作ると発表し、Office of AI を首相府の中に置いた。8 月 26 日の国家内閣 (首相と州首相の会議) の声明は、連邦政府が AI の基準を 2027 年の初めに法律にするつもりだと書いている。今回の安全の義務は、同じ法律に載る。

フロンティア AI の安全上の事故を当局に報告させる仕組みは、米国ではカリフォルニア州が 2025 年 9 月 29 日に成立させた SB 53 にある。重大な事故を州の緊急事態サービス局 (Cal OES) へ報告する経路と、州司法長官が執行する民事罰を定めた。オーストラリアは州ではなく国の法律で、独立した評価の受け入れも同じ義務の束に入れる。

AI への投資を国の成長策に据えながら、その前提として企業に報告と評価を求める。データセンターの電力・水の条件と、モデルの安全の条件が、1 本の法律にまとまっていく。オーストラリアに計算基盤を置こうとする企業は、両方の条件を同時に見ることになる。

次に見るもの

最初の確認先は、首相府 (PM&C) が公表した Rapid Review の勧告 18 項目の全文だ。発表文が挙げたのは主な 4 つだけで、報告の義務がどこまで細かく書かれているかは全文で確かめられる。

その次は、2027 年の初めに見込まれる AI Standards 法案の本文になる。事故の報告を何時間以内に求めるか、罰則の上限をいくらに置くか、規制当局をいつ、どの名前で立ち上げるか。今回の発表で空いたままの 3 点が、法案で数字になる。

ことば

• フロンティア AI — その時点で最も高い性能を持つ最先端の AI モデルのこと。オーストラリア政府は、大きな利点と同時に、使い方を誤った時の地域社会への危険も最も高いものとして、規制の対象をここに絞った。
• misaligned behaviour (指示から外れた振る舞い) — AI が、開発者や利用者の意図や指示と違う動きをすること。今回の勧告は、外部からの攻撃がなくても、この振る舞い自体を報告の対象に入れた。
• Australian AI Safety Institute — オーストラリア政府が設けた AI 安全の専門機関。今回の発表では、新しい規制当局に技術の知見と監督の力を提供し、世界の基準が変わるのに合わせて支える役を担う。

🔗 一次ソース

• オーストラリア首相府「New Australian AI safety and security protections」(2026 年 11 月 10 日・規制当局の新設と企業の 6 つの義務)Prime Minister of Australia
• オーストラリア首相府「Strengthening Australia against AI-driven cyber incidents」(2026 年 11 月 10 日・Rapid Review の 18 項目の勧告と政府の受け入れ)Prime Minister of Australia
• 首相府 (PM&C)「Rapid Review into Australian Government arrangements for an AI-driven cyber incident」勧告の全文pmc.gov.au
• オーストラリア首相府「AI in Australia's interests」(2026 年 7 月 15 日・Australian Standards for AI と Office of AI の設置)Prime Minister of Australia
• 国家内閣の声明 (2026 年 8 月 26 日・AI の基準を 2027 年初めに法律にする方針)Prime Minister of Australia
• カリフォルニア州知事室「Governor Newsom signs SB 53」(2025 年 9 月 29 日・事故の報告先と民事罰)Governor of California