北朝鮮からの奇襲攻撃を想定して「AIに戦争を任せる」ことはできるのでしょうか？無料メルマガ『キムチパワー』の著者で韓国在住歴30年を超え教育関係の仕事に従事している日本人著者が、韓国の報道をもとに詳しく紹介しています。
北の奇襲攻撃時、どこまでAIに任せるべきか
人工知能（AI）に戦争を任せてもいいのか。生成型人工知能(AI)チャットGPT開発会社であるオープンAIのサム・オルトマン最高経営者(CEO)が「そのためにはつき決めてみなければならない質問が多い」として慎重な態度を示した。
「北朝鮮の奇襲攻撃時の対応速度が速いAIに防御を依存しても良いか」という質問にも「簡単に決められる問題ではない」と答えた。オルトマンCEOは7日、米国シンクタンクのブルッキングス研究所との画像対談で、いわゆる「AI兵器化」に対する自分の意見を表明した。
マイケル・オハンロン先任研究員が「北朝鮮がソウルに有人戦闘機を出撃させ、韓国がAIで統制する防御ロボットで迎撃する状況を仮定する時、AIに人命を害する恐れのある決定を任せても良いか」と尋ねると「本当に問い詰めるべき質問が多い」と答えた。
オルトマンCEOは「戦闘機が韓国に近づいてきたが、人間が意思決定に関与する時間がない時にAIが迎撃決定をすることもできる」として「しかし本当にそのような攻撃が起きている状況だと確信できるのか？ どの程度確実でなければならないのか？ といったいろいろの灰色地帯（greyzone）のどこに線を引くべきかなど、考慮すべきことが多い」と説明した。
オルトマンCEOのこのような発言は、複数の大国がAI兵器化に速度を上げている状況で、人間の介入程度などに対する議論がさらに必要だという意味と解釈される。
にもかかわらず、AIの武器化そのものに反対するわけではないという考えも示した。彼は「AIが核兵器発射を決定できなければならないという主張は聞いたことがない」として「だからといって緊急な状況でAIを使ってはならないという主張もやはり聞いたことがない」と話した。
ただし彼は「私たち(オープンAI)は米国と同盟の味方」とし「AI技術が人類に得になることを願うが、私たちが同意しない指導層がある国家に利益を与えることは望まない」と付け加えた。最近米国はAI兵器化に人間の介入を義務付ける規制を推進している中で、今月中に中国とAI規制協力のための初会議を開く予定だ。
各国の情報機関は、諜報戦にAIを活用する競争を激しく繰り広げている。ブルームバーグ通信は同日「マイクロソフト(MS)が米情報機関のためにインターネットと断絶した生成型AIモデルを開発した」と報道した。
これまで生成型AIを利用しようとしても、開放されたインターネットに基づいただけに、機密情報が外部に流出したりハッキングされたりする恐れがあるという懸念に活用が制限された。
シタール・パテル米中央情報局(CIA)副局長は最近開かれた安保カンファレンスで「各国の情報機関がAI適用を巡り激しい競争を繰り広げている」として「情報機関にAIを導入する初めての国がこの戦争で勝利するだろう」と話した。[東亜日報 参照]
image by: Shutterstock.com