人工知能研究の第一人者が「気候変動よりも深刻なリスク」と警鐘を鳴らす、AIによる社会支配という問題。日常生活から政治・軍事まで、AIの能力が人間を上回るのは時間の問題と見られています。そのとき「機械」と対峙する私たちは、どのように「生身ならではの生き方」を取り戻すのでしょうか？ メルマガ 施術家・吉田正幸の「ストレス・スルー術」が、『攻殻機動隊』と絡めて考察します。
AIは人間社会を支配するか？第一人者の見解
「あなたはAIですが、聞きたいです。正直、AIが人間社会を支配する可能性あるはあると思いますか？」
ChatGPT-4にこんな質問をしてみた。どこまで正直に答えが返ってくるかわからないが（笑）。すると即座にChatGPT-4は次のように答えてきた。
私はAIですが、人間社会を支配する可能性については、様々な見解があると思います。
一般的には、AIは人間が作成したプログラムに基づいて動作するため、人間を支配するような行動をとることはありません。しかし、AIの性能が向上することで、AIによる人間の監視や制御が可能になる可能性があります。
また、AIは人間が作成したコンテンツや文章、アート、音楽などによって訓練され、それを模倣するため、AIの制作者は莫大な富と権力を得ることができます。これは、社会の不平等や不安定さを招く恐れがあります。
一方で、AIは社会に多くの利益や価値をもたらすこともできます。例えば、AIは人間の能力を拡張させる手段として活用されたり、社会福祉や教育などの分野で役立てられたりすることが期待されています。
つまり、AIが人間社会を支配するかどうかは、AIの開発や運用に関わる人間の意思や倫理によって大きく左右されると言えるでしょう。
「人間の意思と倫理」つまりはこれ次第ということなのだろう。
しかしニュースを見れば、ロシア・ウクライナ戦争の無慈悲な激化や、イスラエルとハマスの抗争……「人間の意思と倫理」の在り方自体に不安を覚えてしまう。
そんなとき、人工知能研究の第一人者という人物が、選挙操作や戦闘ロボ開発に警鐘……「AIが人間社会を支配する可能性ある」という記事を読売新聞が報じた。
その人物とは、カナダ・トロント大名誉教授のジェフリー・ヒントン氏（75）。読売新聞の書面インタビューに応じたという。
「生成AIが人類の知能を上回り、人間社会を支配する可能性がある」と指摘し、技術の急速な進展に伴うリスクに警鐘を鳴らした。これは前から言われてはいたことだけれど、ニュースでは中々報じていない。
ちなみにユーキャンが12月1日に発表した、2023年の「新語・流行語大賞」のトップテンに「生成AI」が入り、メディアアーティストの落合陽一さんが受賞した。
はじめこのニュースを知った時、落合さんがこの「生成AI」という言葉を最初に使ったのか！と驚いて調べてみたが、落合さんは自らのnoteで受賞の経緯を綴っており、悩んだ末の受賞だったことを明かしていた。
それによると、落合さんが受賞の打診を受けた際の最初のリアクションは、「受賞対象者はサム・アルトマンじゃないのか？」だったという。「生成AI」の受賞者には、ChatGPTを開発したOpenAIのサム・アルトマンCEOがふさわしいと考えたようだ。
一方で、「ChatGPTはOpenAIの人がもらうべきだが、生成AIならまぁ……」と迷っていたところ、事務局から「賞は言葉に深く関わった人、団体を顕彰するとしている」「ドラマのセリフが流行語になった場合、本来なら脚本家に渡すべき賞からもしないが、役者によって広まったという解釈で、演者に受賞してもらった例も何度もある」と説得を受けたという。
落合さんは2017年ごろから生成AIの論文を書いたり、関連ビジネスを展開したりするなど、この6年ほど生成AIに深く関わってきたという自認もあり、賞を受けることにしたそうだ。
僕は落合陽一氏にとても興味がある。なぜならば、彼は“全部知っている”という感じがあるからだ。ただの直感だけれど（笑）。知っているなら、いつ言うのかな？と思って切ない期待をしている。それは、魂とAIの関係性（笑）。
しかし、この受賞は素直に素晴らしい功績だと思うのと同時に、倫理的問題に関しては、このただならぬ闇の中で救いを求めたいという身勝手な気持ちになった。いずれにせよ、倫理的問題はもっと浮上するだろう。
選挙での情報操作にAI悪用も
話を元に戻そう。読売新聞がインタビューしたヒントン氏は、対話型AIのChatGPTが、すでに人間の脳の数千倍の知識を蓄えられると分析したとのこと。
2020年代か30年代までに生成AIが多くの点で人間の能力を上回る可能性があると。「自分たちより知能の高いデジタル的存在が人間社会を乗っ取るという実際の脅威に、今まで経験のない人類はどう対処すべきか分からない」と懸念を示したというのだ。
生成AIから程遠い世界で仕事をしている自分にとっては、ほとんど関係ない世界かもしれないが、『攻殻機動隊』のファンである身としてはとても重大な問題なのである(笑) なぜならば、すでに1980年代の漫画の中では唯一、ゴースト（霊）と電脳化AIの葛藤がそこには描かれていたから。
そして、ヒントン氏が特に懸念を示したのが生成AIによる選挙への影響だ。
「権威主義的な政府が、個人をターゲットにした偽情報を使って有権者を操作することがはるかに容易になる」と指摘した。
これってどういうことだろう？偽情報を検出する方法はいくつかあるらしい。例えば、不正なURLがないかを確認することができるという。
また、偽情報を検出するために研究開発されたICTツールもそのひとつで、例えば、AIにより生成されたフェイク顔映像を自動判定するプログラムや、ディープフェイク動画、画像を検出する技術などがあるというのだ。
ただし、偽情報を検出するためには、情報リテラシーの向上が必要なので、信頼できる情報源から情報を収集し、複数の情報源を比較検討することが大切だというが、人間にそれが追いつくものなのか。
さらに、一番重要なのは、軍事リスクだろう。彼はAIの軍事面のリスクにも言及している。
この記事の著者・吉田正幸さんのメルマガ
気候変動よりも深刻なAIの軍事・経済リスク
彼は、AIを搭載した兵器の開発により「豊かな国が貧しい国を簡単に侵略できるようになる」と説明している。AIが攻撃目標を自動的に設定して殺傷するシステムが実用化されれば、戦争を制御できなくなり、被害が野放図に拡大する恐れがあると警告したのだ。
また、地震予知や医療などの分野でAIが人類に恩恵をもたらす可能性があるとした一方で、人間の仕事が奪われ、雇用の減少などを通じて貧富の格差拡大が起こるとの懸念も示した。
ヒントン氏はAIについて、気候変動よりも緊急のリスクを人類にもたらす可能性があるとの立場らしい。
そのために、リスクを最小限に抑えるため、政府機関などが適切に対処し、世界的な開発競争に歯止めをかける必要があるとも指摘したのだ。「現在のAIへの安全対策は不十分。人類は方向転換が必要だ」と訴えたとのこと。
要は、現在のAIへの安全対策は不十分なので、方向転換が必要だよってことだけど、どのように方向転換をすれば良いのか、情報を頼りに変わっていきなさいってこと。まぁ、単なる警鐘の範囲だ。
AIが人間社会を支配する前に『攻殻機動隊』をみよ!?
だから、専門家より、未来を見通している漫画の方がよっぽどイメージが湧きやすい。それが、『攻殻機動隊』だ。論文を書いているときの落合さんより、よっぽどこのYouTube動画の方が面白いと感じる。
● 【落合陽一】ネット社会は20年で『希望のない方に進化してしまった』『人間が攻撃的になった』攻殻機動隊・神山健治監督、 現代日本の“摩擦”と“生きづらさ”を語る。
「そう囁くのよ、私のゴーストが」というフレーズは、「攻殻機動隊」シリーズのほぼ全てに登場する、公安9課の少佐こと、草薙素子の代表的なセリフ。
『攻殻機動隊』の世界観というのは、今より未来、科学が進歩し、人々が脳を「電脳化」し、脳とコンピューターを直接つなげることが当たり前になった世界。
コンピューターとの親和性を高めて、脳が直接インターネットにアクセスできるようになり、人々の間で情報が並列化されていく近未来。といっても2045年の設定なのでそんな先の未来ではない。
ゴースト(魂・霊)とAI全身義体との葛藤。これがこれからの問題で、義体までの未来は少し横に置いておくにしても、ChatGPTでさえそれが見え隠れし始めている。
脳が移植されて意識がAIと共に歩き始めていく世界。「自分の記憶」「自分とはなにか？」が、曖昧になってしまった世界観。
その世界の中で「ゴースト」とは、「自我」「自分の原初の思い」そして「個性」。情報の並列化、コンピューターの制御を超えた「自分ならではの思い」「自分の、本当の、本心」。これをひっくるめて「ゴースト」と呼んでいるのだと感じる。
「私のゴーストが囁くのよ……」というセリフは、主人公の草薙素子が大事な決断をする時に出てくる名セリフである。
この台詞が頭から離れず、印象に残り続けた。その理由は自分でもわからない。
可能性も、そして破壊性も秘めていそうな、とても大切なフレーズのように、自分は感じてしまったに違いない。何故かアンテナが反応してしまったということらしい。
「私のゴーストが囁くのよ……」
「今の社会」に生きる我々現代人にとっても、とても大切なキーワードだと思う。
自分も含め、現代社会の人々は、電脳化やコンピューターという機械自体ではないにしろ、それと同じように「魂」が、「霊」が、「自分自身」が、制御されているような気がする。
メディアの発信する情報をいとも簡単に受け入れ続け、情報が並列化され、いつの間にか作られた社会常識に制御されて、「根本的な自分の思い」「本心」をも制御されてしまっているのではないだろうか。
生身の人間が、生身ではない「機械」と対峙することによって、「生身の生き方」というものに邂逅するきっかけになれば良いと思う。
「生身の倫理観」をもAIはすぐに学ぶからこそ、人間の正しい倫理というものが今、求められている──（『施術家・吉田正幸の「ストレス・スルー術」』2023年12月9日号より一部抜粋、続きはご登録の上お楽しみください。初月無料です）
この記事の著者・吉田正幸さんのメルマガ
【関連】「吉本興業は今年潰れる」立花孝志氏の予言は当たってしまうのか？
image by: Club4traveler / Shutterstock.com