「ロボット兵器が戦争に使われる」…まるで映画の中だけのような話が現実になりつつあるようです。では、人を殺すために開発されたロボット兵器を実際の戦争に投入すると、戦死者は今まで以上に増えることになるのでしょうか。メルマガ『冷泉彰彦のプリンストン通信』の著者で在米ジャーナリストの冷泉彰彦さんは、米国をはじめ世界で開発が進む「自律型ロボット兵器」の「危険性とは何か？」について考察しています。
【Q】：ロボット兵器が投入されると、戦争全体の戦死者は減ると思いますか？ 増えると思いますか？
【A】：増えると思います。戦争の目的は相手国の屈服であり、ロボット兵器の犠牲だけでは済まないからです。勿論、ロボット戦に敗北したことで、人命が危険に晒される前に降伏するという判断ができれば、人的被害は減るかもしれません。ですが、そのような形で為政者が屈服することは考えにくい中では、結局は技術の進歩は人命損傷の効率化につながると思います。
自律型ロボット兵器、その危険性を考える
テスラやスペースXを率いるイーロン・マスクなど、ロボティクスやAIに関係した世界のアントレプレナーが国連に対して「自律型のロボット兵器の開発に関する懸念」を表明し、「この種の兵器を禁止せよ」というオープン・レターを公表しました。
● Tesla CEO Elon Musk joins other experts in asking United Nations to ban killer robots
さて、この「自律型」という意味合いですが、例えばAという国の5万体の歩行型ロボット軍団が、Bという国の同じく歩行型ロボット4万5千体と戦った。それぞれに、戦場レベルでの戦術から各自の射撃と応射などの動きは、ビッグデータと洗練されたアルゴリズムに基づいて処理された自律的な行動となった結果、B国の軍団の方がハードウェアの設計と高度なソフトにおいて勝り、A国を圧倒した。
Aは敗戦によって防衛能力を喪失するなど国家存立が難しくなり、領土割譲を含む講和条件に同意した……というような「ロボット兵器同士の戦い」が現実に起こり、その結果として人命の損失が避けられる……などということは基本的にあり得ないと思います。
何故かというと、これでは「戦争を行う代わりにサッカーの勝敗で国境線を決める」というのと何ら変わりはないからです。自律型のロボット同士を戦わせれば、戦争での人的被害は回避できる、あるいは低減できるというのは幻想だと思います。
では、あくまで戦争とは人間の殺し合いであり、反対に「自律型ロボット兵器」というのは意味を成さないのかというと、これも違います。現在の軍事の最前線では、この自律型というのは戦略的・戦術的に極めて重要となっており、その危険性は無視できないからです。
自律型の反対は「人間による遠隔操作」ですが、例えば今アメリカなどが実戦使用を始めている無人機の場合は、現在は基本的には「人間が遠隔操作して」います。具体的には、アフガンやシリアなどを飛行させている無人機を、アメリカ本土のコントロールルームで遠隔操作しているのです。
コントロールルームは、冷暖房完備で多くのモニターに囲まれ、基本的にはキーボードとマウス、そしてジョイスティックのようなUIで操作がされます。例えば、パキスタン北部のＭという村に、指名手配中のテロ容疑者Kが現れて、M村の若者をテロ集団にリクルートするらしいという「諜報」があったとします。
それが、信頼に足る筋のものであるか、そうではなくても人間を通じた諜報に加えて、周辺の人物による通話やSNSなどの内容（チャター）を解析すると「どうもそのようだ」と断定がされたとします。その上で、別の諜報によりK容疑者が自動車でMに向かったということが判明したとします。その時点で、無人機を飛ばしてKの車両を追跡し、M村で複数の人物が出迎えたところを別の無人機で襲撃し、Kとその同調者と思われる人物を殺害する、そのような運用がされています。
問題は、その全てのプロセスが米国本土の「オフィスの一角」で完結するということです。ですから、「オペレーター」は普通に郊外の家に住んでいて、朝定時に出勤して宿直要員と引き継ぎを行い、8時間なら8時間の任務を終えると、オフィスを退庁するわけです。そうして自分の車で子どもをサッカーの試合に連れて行ったり、食料品の買い物をして家に帰ったりするわけです。また朝が来れば、同じ車で出勤し、厳重なセキュリティ・チェックを越えてオフィスに入る、その繰り返しです。
そのような一見平和な生活の中で、彼または彼女が何をやっているのかというと、殺人をやっているわけです。厳密に言えば、戦時国際法に基づく宣戦布告もないし、当該の村の属する主権国家の警察権とのすり合わせもない超法規的な、そして多くの場合は厳重に管理された秘密の作戦として「人殺し」をしなくてはならないのです。
これは常識的な人間にとっては大変な負荷のかかる仕事です。重いPTSDに苦しんでいる人も出ているそうです。ですから、近年では、このような「オペレーター」についても、大きな戦功を上げた場合は軍人としての勲章授与などを行って、国家的栄誉を称えることが必要だということになっています。
その一方で、「それはおかしい」という声もあります。つまり現場で「自分も死の危険を覚悟で」戦っている兵士と比べて「安全なオフィス内のオペレーター」にも栄誉を与えるのには反対という声です。また、CIAがこの種の作戦を行うのは超法規的に過ぎるので、軍が主導すべきという議論も出たり入ったりしています。
一番の問題は、人物の誤認が多いことです。無人機で追跡し、人間の体温を赤外線センサーで確認するなど念には念を入れて攻撃してみたら、その「集会」は女性と子どもの集まりであって、テロ容疑者などとは無関係、結果的に無実の市民が6名殺されたというような事例が起きているわけです。こうした事態は、「オペレーター」には耐えられない厳しい状況と言えるでしょう。
そうした「人間が関与することから来る問題」は、自律型のロボット兵器を使うことで、簡単にハードルを乗り越えることができます。全体として軍や諜報機関の高位の人間が「このクラスのテロ容疑者は全員が再犯の恐れがあり、地球上のどの地点であろうと発見次第に超法規的に無力化」という「命令」を入力したら、後は、データ収集に始まって最後の「無力化」までを自律型のハードとソフトで完結させることは可能です。
そうなれば、この種類の「殺し」についてはほとんど人間は「関与しない」つまりは、「手を汚さない」ことが可能になってくるわけです。これは、大変に恐ろしい事態であると思います。
更に危険なのは、自律型のロボット兵器というのは、従来とは全く違った形で人間社会に侵入して、ミッションを完遂することが可能だということです。
例えば、要人暗殺にしても、都市機能の破壊にしても、何食わぬ顔で送りつけたダンボールの中から自律型のロボットがうごめいて、それが時間をかけて何十台も集結して破壊行動を始めるとか、超小型の潜水艦型兵器を河川を遡上させてターゲットに向かわせるとか、様々な形で戦争や陰謀の可能性を拡大することができます。
最大の問題は、そうしたロボティクス技術やAIの技術がテロリストや、犯罪国家などにわたることです。自律型ロボットが市民生活の奥深くに潜入して、大規模破壊が可能になるのであれば、自爆テロということはもはや不要になるからです。
では、そのような危険性をどうやって防止するかですが、例えばある程度以上の処理能力を持ったロボティクス用のプロセッサには物理的な仕掛けをしておいて、合法的な「鍵」を使わないと作動しないとか、あるいは一定の基準を越えた「隠密行動」は非合法化し、違反者は国際法廷で戦争犯罪人として処断するとか、様々な知恵を絞っていかなくてはなりません。
その一方で、技術の軍事利用を抑制し、民生利用への障害を取り除くということも重要です。軍事技術化したテクノロジーは、機密のベールの中に取り込まれて民生利用が難しくなるからです。また、同時に民生利用を保証したとして、その技術がテロなどの犯罪に利用されないように、登録制などの工夫をすることも必要となります。
また、それ以前の問題として、自律型か遠隔操作型に関わらず、現在、実用化がどんどん進んでいる無人機に関する国際的な規制条約の作成と締結が急がれると思います。
image by: Shutterstock.com