Signal
📡 Signal｜NVIDIA のフアン CEO、安全でない AI の開発企業には供給停止も
NVIDIA のフアン CEO が、安全性に問題のある AI を開発する顧客への半導体供給を止める考えを示した。一方で、技術は汎用的で使い方の判断には限界があるとも述べた。
NVIDIA のジェンスン・フアン CEO は、安全性に問題のある AI ソフトウェアを開発する顧客には、半導体の供給を止める考えを示した。ロンドンでブルームバーグのエミリー・チャン氏のインタビューに応じたもので、同社が10月15日に報じた。一方で、いまの AI 技術をめぐる懸念は行き過ぎているとの認識も示した。
AI の計算に使う半導体の主要な供給元のトップが、自社の出荷を安全性の歯止めとして使いうると口にした。ただし本人は同じ場で、その歯止めの限界も認めている。
「仮定の話だが、そうする」
ブルームバーグによると、無責任な開発会社には半導体の供給を止めるのかと問われたフアン氏は、「仮定の話だが、そうする」と答えた。続けて「ただ、その前に話し合うことになる。われわれが他社を経営しているわけではない。他社による当社技術の使い方について、われわれが判断できる範囲にも限界がある。当社の技術は汎用的だからだ」と述べた。
答えは 2 つの層に分かれている。最後の手段として供給を止める選択肢は否定しない。しかし、顧客が NVIDIA の半導体で何を作っているかを同社が細かく判断することはできないし、その立場にもない、という線引きだ。半導体は表計算から創薬、言語モデルまで同じものが使われる。どの使い方を「安全でない」と見るかの基準も、この発言の中では示されていない。
計算基盤の側に寄ってきた安全の議論
NVIDIA はここ数週間、AI の安全を計算基盤の側から扱う姿勢を強めている。9月28日には、AI エージェントの暴走を、エージェントの手が届かない専用チップの上から監視して止める安全基盤を発表した (9月28日の記事)。エージェントと同じ層の安全装置はエージェント自身に回避されうる、という前提に立った設計だった。
今回の発言は、それを顧客との取引の層にまで広げたものと読める。チップの上に止め役を置くのが技術による歯止めなら、供給を止めるのは取引による歯止めだ。もっとも、後者は本人が言うとおり「話し合い」が先に立ち、どこで線を引くかは同社の裁量に残る。
顧客側から見れば、AI の開発企業にとって、計算能力の調達先の判断は事業の存続に直結する。主要な供給元が「安全性」を取引の条件として口にしたことは、規制当局や政府の基準とは別に、民間の供給網の中に安全の物差しが生まれうることを示す。同時に、フアン氏が「懸念は行き過ぎ」とも述べている以上、その物差しが厳しく運用される前提で読むのは早い。
次に見るもの
確認先は NVIDIA の公式ニュースルームと、同社の次の決算発表だ。例年 11 月下旬に開く第 3 四半期 (8〜10月期) 決算の説明会で、顧客の使い方や安全性について経営陣がどこまで踏み込むか、そして供給の条件を文書で示すかを見たい。
ことば
- 汎用技術 — 特定の用途に限らず、多くの産業や目的に使われる技術。NVIDIA の GPU は画像処理から科学計算、AI の学習と推論まで同じ製品が使われるため、売り手が用途を管理しにくい。
- AI エージェント — 目標に沿って道具を使い、複数の手順を自分で組み立てて実行する AI。人の確認を経ずに動く範囲が広がるほど、外から止める仕組みが求められる。
🔗 一次ソース