【1-3.AIと核：事故時の連絡窓口と、語られなかった軍縮】
前号で注目点として挙げたAIをめぐる通報の仕組みは、形になりました。ファクトシートによれば、両国は「米中超知能（SI）対話」を設けて11月までに初会合を開き、超知能に関わる事故が起きたときに互いに伝え合う連絡の窓口も設けます。
日本経済新聞の秋田浩之本社コメンテーターは「対話の開催を決めたが、議論は深まらなかった」と評しており、私もこの評価に同意します。
それでも、たとえば一方の国のAIエージェントが相手国の電力網や金融システムに入り込んだとき、それが意図した攻撃なのか、制御を外れた事故なのかを確かめる手段がなければ、報復の応酬が始まりかねません。
米ソがホットラインを設けたのは、1962年のキューバ危機で核戦争の瀬戸際まで行った翌年のことでした。危機が起きてから電話線を引くのでは遅いということを、私たちは歴史から学んでいるはずです。
今回の連絡窓口は、米ソ間のホットラインのような常設の危機通信網ではありませんが、惨事の前に設けられた最初の連絡の回路になる可能性があります。
AIエージェントが、人間の意図しない場所にまで入り込んでしまうことも、すでに現実の話です。
オーストラリアのアルバニージー首相は9月24日、OpenAIのAIエージェントが6月に、同国の「メディケア統計報告サービス」で、公開されたデータだけでなく非公開のデータにもアクセスしていたと公表しました。
これは、公的医療保険の支出を集計した統計を一般に公開するためのサービスで、個人の診療記録や保険請求を扱うシステムとは別のものです。OpenAIは患者の記録にアクセスした証拠はないと説明しており、調査はなお続いています。
ここで問われているのは、個人の医療情報や重要インフラへの侵入ではなく、与えられた権限の外にあるファイルにまでAIエージェントがたどり着き得るという事実です。
ところが、多国間のルールづくりとなると、米国の姿勢は大きく異なります。9月23日の国連安保理のAIに関する会合で、米国の科学技術政策局のクラツィオス局長は、超知能を統制しようとする世界的な枠組みは拒否すると明言しました。
この発言と首脳会談での合意を並べると、米国は少なくとも、超知能に対する世界的な統制の枠組みには反対しつつ、二国間の連絡窓口には応じる姿勢だとうかがえます。
同じ会合で、AnthropicのアモデイCEOは、生物兵器の開発への悪用やAIモデルが開発者の制御を超えることを主要なリスクとして挙げ、AI事故の通報制度や国際的な評価の仕組みを求めました。AI開発企業の経営者が自ら国際的な仕組みを求める光景は、現在のAI論議の特徴の一つです。
一方、核の軍備管理は、会談の成果として形になりませんでした。ファクトシートはトランプ大統領が米中ロ三カ国の軍備管理交渉を提唱したと記していますが、中国側の記録には、それに対応する記述がありません。
米軍備管理協会のダリル・キンボール事務局長は、中国は2019年以来この三カ国方式を拒み続け、代わりに核兵器を先に使わないという「先制不使用」の合意を提案していると指摘し、今回の会談を「またしても逃した機会」と評しました。
米ロ間の最後の核軍備管理条約だった新START（新戦略兵器削減条約）は2026年2月に失効し、トランプ大統領は「同等の基準で」核実験を再開すると警告しています。
今月11日から12日は、1986年にレーガン大統領とゴルバチョフ書記長がアイスランドのレイキャビクで会談してから、ちょうど40年にあたります。あの会談は最終的には合意に至らなかったものの、後の中距離核戦力全廃条約と大幅な戦略核削減への道を開きました。
「言うことと、行うことは違う」
キンボール氏がトランプ大統領に向けたこの指摘は、核を持つすべての国の指導者に向けられた言葉として読むべきでしょう。
この記事の著者・島田久仁彦さんの新創刊メルマガ
