AIは人間を超えるのか
そういう訳で、リスクのNo.1、2、5などはまるで興味をひかないが、「あれ、これは何だ？」と思わせられたのはNo.3の「大混乱生成兵器」である。馴染みがない言葉だが英語原文は「Weapon of Mass Disruption」で、もちろんWeapon of Mass Destruction（大量破壊兵器）の捩（もじ）りである。これは新しい論点として取り上げるに値すると思うので、まず日本語版のその部分を全文紹介する。
《大混乱生成兵器》
▼ベルリンの壁が崩壊したとき、米国は世界で最も主要な民主主義の輸出国であった。常に安定していたわけでも、常に良い結果を生んだわけでもないが、追随できる国はなかった。それ以来、ほとんどの期間、技術革新（その多くは米国で起きた）は自由化の原動力となってきた。しかし今日、米国は、意図的にではなく、成長を追求する ビジネスモデルの直接的な結果として、民主主義を弱体化させるツールの主要な輸出国となっている。その結果、人工知能（AI）の技術的な進歩が社会の信頼を損ない、デマゴーグや権威主義者に力を与え、ビジネスや市場を混乱させている。
▼2023年は、社会における破壊的テクノロジーの役割の転換点になる。生成AIと呼ばれる新しいAIによりユーザーは簡単な指示でリアルな画像、動画、文章を作成することができるようになる。GPT-3や、間もなくリリースされるGPT-4のような大規模言語モデルは、機械が人間の知能を模倣する能力を持つかを確認するチューリング・テストを確実にパスできるようになる。また、ディープフェイク、顔認識、音声合成ソフトの進歩により、肖像権は過去の遺物となるだろう。ChatGPTやStable Diffusionのよう な手軽に使えるツールによって、少し技術に詳しい者なら誰でもAIの力を利用できるようになっている（実際、このリスクのタイトル「大混乱生成兵器（Weapons of mass disruption）」は前者が5秒以内に生成した）。
▼これらの進歩は、AIが人々を操って政治的混乱を引き起こす能力を一気に高める。コンテンツ作成への参入障壁がなくなると、コンテンツの量は指数関数的に増加し、ほとんどの市民が事実とフィクションを区別できなくなる。偽情報が横行し、社会的連帯、商業、民主主義の基盤である信頼がさらに損なわれる。ソーシャルメディアは、私的所有、規制がないこと、エンゲージメントを最大化するビジネスモデルから、AIの混乱効果を広げる理想的な場であり続けるのだ。こうしたブレークスルーは、政治的・経済的に広範な影響を及ぼすだろう。
▼デマゴーグやポピュリストは、小さな世界での政治的利益を得ようとしてAIを武器に使うだろう。犠牲となるのは民主主義や市民社会だ。ドナルド・トランプ、ブラジル前大統領のジャイル・ボルソナロ、ハンガリー首相のビクトル・オルバンらはソーシャルメディアと偽情報の力を利用して有権者を操り、選挙に勝ってきた。技術の進歩により、どのような政治的な立場にあろうと、すべての政治指導者にはこれらのツールを活用することに構造的利点が生まれるだろう。政治家はAIの進歩を利用し、低コストの人間のようなボット軍団を作り、過激な候補者を持ち上げ、陰謀論や「フェイクニュース」を売り込み、分極化をあおり、過激主義や暴力さえも進行させるだろう。今年は、米国の大統領選予備選の初期段階（リスクNo.8参照）や、スペインやパキスタンの総選挙で、間違いなくこのような現象が見られるだろう。
この記事の著者・高野孟さんのメルマガ
