Signal
📡 Signal｜Anthropic、AI の回答がどのモデルか証明する FlashProve を公開
Anthropic が AI の回答の出どころを zkSNARK で証明する試作品 FlashProve を公開。検証は CPU で約17秒、証明づくりは通常推論の約72倍。文脈は1,024トークンまで。
Anthropic は 11 月 2 日、AI の回答がどのモデルから出たかを暗号で証明する研究用の試作品「FlashProve」を公開した。ブロックチェーンの処理の拡張で使われてきたゼロ知識証明の一種 zkSNARK を使い、事業者がモデルの重み (中身の数値) を明かさないまま、「この回答は、事前に約束したこのモデルが出した」と第三者に確かめさせる。コードは Apache 2.0 で GitHub に出ている。
AI を使う側は、いま事業者の言葉を信じるしかない。高いモデルの料金を払って、安いモデルの回答を受け取っていても、外からは分からない。暗号資産の世界で「信頼せずに検証する」ために磨かれた道具が、AI の供給の現場に持ち込まれた。
第一報は 速報 で伝えた。本稿は Anthropic の研究報告から、どこまでできて、どこから先が未完成かを読む。
仕組み: 先に重みを約束し、回答ごとに証明を付ける
研究報告によると、手順は二段に分かれる。
まず事業者が、モデルの重みに対する「約束 (コミットメント)」をオフラインで一度だけ公開する。重みそのものではなく、後から中身をすり替えられない形の要約だ。次に、利用者からの質問に答えるたびに、その回答がこの約束どおりの重みで計算されたことを示す証明を作る。検証する側は、約束と質問と回答だけで証明を確かめられる。
担当は Anthropic のフロンティア・レッドチームで、スイス連邦工科大学ローザンヌ校 (EPFL)、MIT、ゼロ知識証明の開発企業 StarkWare と Succinct の研究者が共著に入っている。報告は、zkSNARK の改良と手順の仕様書づくりを Claude が担ったとし、Claude の判断は評価が難しいことがあるため、証明の正しさを定理証明の言語 Lean で形式的に書いたと説明している。
数字: 検証は 17 秒、証明づくりは 72 倍の重さ
試験に使ったのは Meta の Llama 4 Maverick (4,000 億パラメータの混合専門家モデル、1 トークンあたりの稼働は約 170 億) を 4 ビットに変換したものだ。GPU は H100 を 1 枚、CPU は 24 コア。
- 重みの約束の作成: 1 モデルにつき 1 回、約 39 分。1 つの約束で約 1,600 万件の要求に使える
- 証明の作成: 24 件の要求をまとめて約 223 秒 (毎秒約 110 トークン)
- 証明の大きさ: 1 件あたり約 18.78 MB
- 検証: 24 スレッドで約 17 秒、1 スレッドで約 21 秒。利用者は約 6.5 MB の約束を一度取得する
- 重さ: 推論ソフト vLLM での通常の推論と比べ、GPU あたり約 72 倍 (24 件のまとめ処理・試行で 66〜77 倍)、最も負荷の高い条件で約 94 倍
検証が手元の CPU で数十秒に収まる一方、証明を作る側の計算は通常の推論の数十倍になる。いまの形では、すべての回答に証明を付ける運用は費用が合わない。
何に使えるか、何がまだ足りないか
報告が挙げる用途は、承認されたモデルが使われていることを規制当局が確かめる、推論サーバーでのモデルのすり替えや改ざんを見つける、外部の評価機関が試験しているのが本番と同じモデルかを確かめる、複数のモデルを仲介するサービスの利用者が払った分のモデルから回答を受け取っているかを確かめる、などだ。
限界も明記されている。証明の対象は整数に変換したモデルで、毎回最も確率の高い語を選ぶ決まった出力の方式 (貪欲法) に限られ、普段の AI のような確率的な出力は対象外。扱える文脈は 1,024 トークンまで。高速化したコードと論文・Lean の記述が一致する保証は無く、処理時間から中身を推測する攻撃も範囲の外だ。GitHub のリポジトリは「保守しない研究用の成果物」と書いており、報告自身も「途中経過の共有で、完成した研究計画ではない」としている。
AI のモデルを国が承認する制度の議論が進むなかで、承認したモデルが実際に動いているかを誰がどう確かめるかは、制度の側にまだ答えの無い問いだ。FlashProve は、その答えを事業者の申告ではなく暗号の証明に置く道があることを、動く形で示した。
次に見るもの
確認先は Anthropic の研究ページ (anthropic.com/research) の続報だ。報告は今回を途中経過と位置づけており、次の報告で文脈の上限 1,024 トークンと確率的な出力への対応がどこまで広がるかを見る。そこが広がらない限り、規制や契約の現場で使える道具にはならない。
ことば
- ゼロ知識証明 — ある計算が正しく行われたことを、計算に使った秘密の中身を明かさずに相手に納得させる暗号の技術。ブロックチェーンでは、大量の取引をまとめて正しさだけを示す処理の拡張に使われてきた。
- zkSNARK — ゼロ知識証明の方式の一つで、証明が小さく、検証が速いのが特徴。今回は AI の推論の計算そのものを証明の対象にし、回答とモデルの結び付きを示すのに使った。
🔗 一次ソース
