📡 Signal｜政府、高性能 AI の事業者に罰則の新設を検討

政府が、高性能な人工知能 (AI) が引き起こすリスクに対処するため、AI 関連の事業者に安全の確保を義務づけ、罰則を新設する方向で検討していることが11月11日に分かった。共同通信が報じ、ビジネス+IT も同じ内容を伝えた。AI の法制度を議論する非公開の作業部会で確認され、年末までに法改正を含む制度の見直しの全体像を示す。

2025年に成立した日本の AI 法は、研究開発と活用を後押しする「推進法」で、事業者には協力を求めるだけで罰則を持たない。AI の悪用によるサイバー攻撃や、自律的に動く AI の暴走が現実の脅威として語られ始め、国が「お願い」以上の手段を持つかどうかが問われている。

何が検討されているか

共同通信によると、検討の中身は次のとおりだ。

問題が起きても国との協議に応じない事業者に、国が必要に応じて強制力のある命令を出す
命令に違反した場合に罰則を適用する
罰則は、高性能な AI による事案に絞る方向

狙いは、サイバー攻撃への悪用や暴走といった重大な脅威に対し、協議に応じない悪質な事業者への対抗手段を政府が持つことにある。ビジネス+IT は、早ければ2027年の通常国会への法案の提出をめざすと伝えている。

誰を対象にするか

難しいのは線の引き方だ。共同通信によると、AI の事業者は研究、基盤モデルの開発、利用者向けのサービスの展開まで細かく分かれており、どこまでを対象にするかは今後詰める。米国の巨大 IT 企業を含めた場合、日本の利用者を守る仕組みが実際に働くかも問われる。

内閣府の人工知能戦略専門調査会は10月26日の会合で、「現行の AI 法を含む AI 開発・活用関連制度の見直し・強化に着手」すると資料に明記した。フロンティア AI (各時点の最先端の AI) のリスクへの対応も論点に挙げている。今回の罰則の検討は、この見直しの具体的な中身にあたる。

各国が「報告」から「命令」へ

オーストラリア政府は今週、フロンティア AI の企業に事故の報告を義務づけ、違反に罰則を科す規制機関を新設する方針を示した (11月10日の記事)。日本の検討も、事業者の自主的な協力に頼る段階から、国が命令できる段階へ移る流れの中にある。

一方で、日本政府は「世界で最も AI を開発・活用しやすい国」をめざすと掲げ、AI 法も開発の後押しを軸に作られた。罰則の対象を高性能な AI の事案に絞る方向は、開発の後押しと安全の確保を両立させようとする線引きだ。どこで線を引くかが、国内で AI を開発する企業と、海外から日本にサービスを出す企業の負担を決める。

検討の第一報は速報で伝えた。

次に見るもの

内閣府の人工知能戦略専門調査会と作業部会の資料 (年末まで): 制度の見直しの全体像で、罰則の対象となる「高性能な AI」がどう定義されるか
2027年の通常国会 (1月召集): 法改正案が提出されるか。提出されれば、対象の事業者の範囲と罰則の重さが条文で確かめられる

ことば

AI 法 — 2025年に成立した「人工知能関連技術の研究開発及び活用の推進に関する法律」。国の基本計画や司令塔の本部を定めるが、事業者への罰則はない。
フロンティア AI — 各時点で最も性能の高い AI モデル。能力が高い分、サイバー攻撃への悪用など重大なリスクの議論の中心になっている。
基盤モデル — 大量のデータで学習し、文章や画像の生成などさまざまな用途に使える大規模な AI モデル。個々のサービスはこの上に作られる。

🔗 一次ソース