社会インフラから個人の資産管理に至るまで、デジタル技術なくしては成り立たない我々の日常。しかし今、「新たな脅威」によりその安全性が根底から覆りかねない状況にあることをご存知でしょうか。今回のメルマガ『国家権力＆メディア一刀両断』では元全国紙社会部記者の新 恭さんが、自律型AI「クロード・ミュトス」の登場を取り上げ、金融機関や基幹インフラが直面するサイバー攻撃リスクを検証。さらにアメリカの技術への依存が進む日本の安全保障と、AI時代に問われるデジタル主権のあり方について考察しています。
※本記事のタイトル・見出しはMAG2NEWS編集部によるものです／原題：自律型AI「クロード・ミュトス」が変えた日本の防衛ライン
「AIは平和の道具」という理想の崩壊。「ミュトス」登場で世界が目の当たりにする“軍事・経済の再編”という現実
「まさにこれは、いまそこにある危機である」
4月24日午後、片山財務大臣は、記者団を前に、重苦しい表情で語った。直前まで、片山大臣の呼びかけにより、国家と国民にとってきわめて重要な会議が金融庁で、開かれていたのだ。
出席者は日本銀行の植田総裁、3メガバンクの頭取、日本取引所グループの首脳ら金融業界のトップたちだ。危険すぎる新型AIといわれる「クロード・ミュトス」の出現にどう対処するかが課題だった。
「ミュトス」はアメリカのアンソロピックが開発し、今年4月7日に発表されたばかりだが、既存のAIより飛躍的に高い能力を有している。これまで人間が見つけられなかったシステムのバグ（脆弱性）を数分で特定し、それを攻撃するためのコードを自動で書き上げることができる。
従来、サイバー攻撃を仕掛けるには、高度な技術を持つ人間が司令塔として必要だった。しかし、ミュトスのような自律型AIなら、人間が会議をして対策を練っている数分の間に、数千通りの攻撃パターンを試し、次々と防衛網を突破していくだろう。
開発元のアンソロピックはその危険性ゆえにミュトスの一般公開を断念し、米欧の主要テック企業や金融機関のセキュリティ対策のために提供する「プロジェクト・グラスウィング（Glasswing）」を立ち上げた。参加したアマゾン、アップル、シスコ、グーグル、JPモルガン、マイクロソフト、エヌビディア…といった世界的企業。そのシステムに潜む欠陥を発見、修正するのが目的だ。
もし、ミュトスのようなAIがハッカーの手に渡ったら、理論上、ネットワークに接続されているすべてのインフラが危険にさらされる。金融、電力、通信、交通といった基幹インフラが攻撃され、深刻な国家的危機に陥る可能性は否定できない。
なかでも早期の対応を迫られているのが金融だ。電力や水道などの物理インフラと違い、金融システムは「数字」と「信用」だけで成り立っている。しかも、日本の金融機関の多くは、数十年前から使い続けている複雑な「レガシーシステム」を抱えていて、現代のエンジニアでも把握しきれない未知のバグが潜んでいることが多い。
ミュトスが非常に堅牢とされるOS「OpenBSD」に眠っていた27年前のバグを自力で見つけ出したという事実は、IT業界に戦慄を与えた。安全だと思われてきたシステムでさえ、無防備なものに変わりうるのだ。
この記事の著者・新 恭さんを応援しよう
わずか数分で市場を崩壊させることも可能なミュトス級AI
ミュトスのようなAIにかかれば、銀行のコアシステムに侵入し、預金残高を書き換えたり消去したりするのは造作もないことだろう。証券取引システムに介入し、超高速で不正な取引を繰り返すことで、わずか数分で市場を崩壊させることもできる。
片山財務大臣は言う。「今、AIの進展が金融分野にもたらす戦火から新たな備えが必要になり、経営判断が一層重要になってくる」。
各金融機関はミュトス級のAIを使って、自社システムの弱点を攻撃者より先に見つけ出し、予防策を講じておく必要があるということだ。だが、金融機関にのしかかるセキュリティ費用は膨らむばかりで、経営的な余力は限られている。官民の協力体制を整えるためには政府が乗り出すほかはない。
3月3日の衆議院予算委員会で、平将明議員（自民）は、前サイバー安全保障担当大臣として次のように危機迫る日本の現状を指摘した。
「中国のAI企業がアメリカのビッグテックの技術を使って、いいとこ取りで高性能のAIを作るんだけれども、この蒸留をすると、元々のAIの会社が作っていたガードレールが外れちゃうんですね。こういうAIが世界に散らばっていくと、本当に危ない世界になっている」
ミュトスには、サイバー攻撃の手伝いをしないよう強力な安全装置（ガードレール）が組み込まれている。しかし、それをもとに別のAIを「いいとこ取り」（蒸留）して作ると、安全装置だけが抜け落ち、悪用のためのAIが誕生してしまう恐れがある。
金融庁における4月24日の官民会議では、各機関が情報を共有し、対策を打っていくための作業部会を発足させることが決められた。ただし、日本独自で対応するのは難しい。防衛省やNICT（情報通信研究機構）を中心にAIセキュリティの研究を進めているが、ミュトス級の国産AIは、まだ実用化に至っておらず、米国のビッグテックに大きく水を開けられているのが実情だ。
このため日本の戦略は自ずから決まってくる。攻撃側のAIが放たれる前に、同等のAIを防御側に配備する「プロジェクト・グラスウィング」の国際的な枠組みに食い込むしかない。いかに早く最強のAIを味方につけて防衛システムに組み込めるかという政治的・運用的スピードが、日本の安全を左右する鍵となっている。
AIはミュトスのような高性能の自律型の登場によって、AGIの時代に一歩足を踏み入れたといっていい。
AGIとは、人間のように幅広い知的能力を持ち、問題解決や創造的な活動を柔軟に行える次世代型AIのこと。これまでのAIとは異なり、単一のタスクだけでなく、複数の領域を横断して思考・判断・学習できるのが特徴だ。
これまで「サイバー戦争」という言葉は、国家間のハッキングの応酬を指すやや遠い存在だったが、このAIの出現によって、日常生活の基盤を直接脅かす、生々しい現実へと変貌した。
この記事の著者・新 恭さんを応援しよう
海外AIエージェントの気まぐれ一つで消し飛ぶ日本の生活基盤
ミサイル一発を撃つには莫大な予算と準備が必要だが、ミュトスのようなAIを走らせれば、24時間365日、世界中から同時に、しかも低コストで日本のインフラを攻撃し続けることができる。
実は現在、米国のNSAなど安全保障機関では、すでにミュトスが実戦配備され、自国のインフラの脆弱性スキャンを開始しているといわれる。この「米政府・アンソロピック連合」から、日本向けの防御ライセンスを確保することを日本政府は狙っているようだ。自国でミュトス級のAIをゼロから開発するよりは、ミュトスをレンタルして、「今そこにある危機」を凌ぐという選択が、日本政府にとっての“現実解”となっている。
むろん、日本がこの「最強の盾」を保持し続けるには、米国企業に対して永続的に膨大なライセンス料やインフラ使用料を支払い続けることが必要になるだろう。いわばデジタル上の主権を米国のAIに預けるようなものだ。
「平和の道具」としてのAIという理想の裏で、着々と進む「AIによる軍事・経済の再編」を、我々は目撃している。この危うい賭けに勝つためには、米国の技術を買うだけでなく、日本自身のAI開発力を急ピッチで伸ばしてゆくしかない。
もはや「サイバーセキュリティ」は、一部の専門家や企業の課題ではなくなった。預金通帳の数字が、そして今夜の明かりが、海の向こうのAIエージェントの気まぐれ一つで消えてしまうかもしれない──そんな脆弱な基盤の上に、我々の日常は乗っている。
この記事の著者・新 恭さんを応援しよう
image by: gguy / Shutterstock.com