わずか数分で市場を崩壊させることも可能なミュトス級AI
ミュトスのようなAIにかかれば、銀行のコアシステムに侵入し、預金残高を書き換えたり消去したりするのは造作もないことだろう。証券取引システムに介入し、超高速で不正な取引を繰り返すことで、わずか数分で市場を崩壊させることもできる。
片山財務大臣は言う。「今、AIの進展が金融分野にもたらす戦火から新たな備えが必要になり、経営判断が一層重要になってくる」。
各金融機関はミュトス級のAIを使って、自社システムの弱点を攻撃者より先に見つけ出し、予防策を講じておく必要があるということだ。だが、金融機関にのしかかるセキュリティ費用は膨らむばかりで、経営的な余力は限られている。官民の協力体制を整えるためには政府が乗り出すほかはない。
3月3日の衆議院予算委員会で、平将明議員（自民）は、前サイバー安全保障担当大臣として次のように危機迫る日本の現状を指摘した。
「中国のAI企業がアメリカのビッグテックの技術を使って、いいとこ取りで高性能のAIを作るんだけれども、この蒸留をすると、元々のAIの会社が作っていたガードレールが外れちゃうんですね。こういうAIが世界に散らばっていくと、本当に危ない世界になっている」
ミュトスには、サイバー攻撃の手伝いをしないよう強力な安全装置（ガードレール）が組み込まれている。しかし、それをもとに別のAIを「いいとこ取り」（蒸留）して作ると、安全装置だけが抜け落ち、悪用のためのAIが誕生してしまう恐れがある。
金融庁における4月24日の官民会議では、各機関が情報を共有し、対策を打っていくための作業部会を発足させることが決められた。ただし、日本独自で対応するのは難しい。防衛省やNICT（情報通信研究機構）を中心にAIセキュリティの研究を進めているが、ミュトス級の国産AIは、まだ実用化に至っておらず、米国のビッグテックに大きく水を開けられているのが実情だ。
このため日本の戦略は自ずから決まってくる。攻撃側のAIが放たれる前に、同等のAIを防御側に配備する「プロジェクト・グラスウィング」の国際的な枠組みに食い込むしかない。いかに早く最強のAIを味方につけて防衛システムに組み込めるかという政治的・運用的スピードが、日本の安全を左右する鍵となっている。
AIはミュトスのような高性能の自律型の登場によって、AGIの時代に一歩足を踏み入れたといっていい。
AGIとは、人間のように幅広い知的能力を持ち、問題解決や創造的な活動を柔軟に行える次世代型AIのこと。これまでのAIとは異なり、単一のタスクだけでなく、複数の領域を横断して思考・判断・学習できるのが特徴だ。
これまで「サイバー戦争」という言葉は、国家間のハッキングの応酬を指すやや遠い存在だったが、このAIの出現によって、日常生活の基盤を直接脅かす、生々しい現実へと変貌した。
この記事の著者・新 恭さんを応援しよう
