人類滅亡のカウントダウンか？元内部者が暴露した「AI暴走の恐怖」と市場を揺るがす株価暴落の暗雲＝冷泉彰彦

業界と政治を巻き込むAI規制を巡る激しい攻防

それはともかく、なぜこれほど大きな反響になったのか大きかったのは、前述したようにコクソン氏が単なるAI評論家ではなく、オープンAIとアンソロピックの双方に在籍して研究した経験を持つ内部関係者だったことです。しかもアンソロピックを退職することで、会社から得られる可能性のあった「未公開株」などを失うリスクを取って警告を発したため、「自分の利益のための発言ではない」というわけで、説得力をもって受け止める人もいました。

AIの制御が十分でないというニュースは、確かにこの投稿を契機に増えました。ですが、投稿の直前にも、AIエージェントがテスト環境から抜け出したり、許可されていないコンピューターシステムにアクセスしたりする事例が公表されていました。そのため、「AIが制御不能になる」という話が、従来のSF的な仮説だけではなく、現在起きているAIの予想外の行動と結び付けて考えられる、そんな地盤ができていたのも事実です。それが反響を大きくしました。

この発言、業界内としては機が熟しており、その一方で一般の社会ではちょうどいいタイミングでの問題になった、そんな感じで理解できます。ところで、様々な反響があった中で、特に注目されたのは、コクソン氏の警告に対して、アンソロピックのアラインメント・サイエンス部門の研究者であるエヴァン・ハビンガーという人が同意したことです。ハビンガー氏は、AIが将来的に人類全体に重大な危害を与える可能性をかなり高く見積もっていると公言しました。

アラインメントというのは、AIに「人間が出した命令に従うように」させるということで、これは現在非常に重要な技術分野になっています。その研究者が実名を明かして発言しているというのは、重たいという見方もあります。また、コクソン氏の同僚であったことから、やはりアンソロピックなり、業界の中の何らかの意図をコクソン氏が代弁しているという説もあります。

一方で、アンソロピック社の研究結果としての公式見解では、現在のモデルが直ちに文明規模の危険をもたらす可能性は低いとも評価されています。つまり、「現在のAIは危険だから直ちに止めるべきだ」という話と、「今後AIの能力がさらに急速に向上した場合には深刻なリスクがある」という話は区別する必要があります。言い換えれば、業界内ではスローダウンの話ですが、一般社会では「怖いから大変だ」的な受け止めになっている、その辺りの温度差もあると思います。

さて、コクソン氏の発言は、AI規制をめぐる米国政治にも波紋を投げかけました。例えば民主党左派のバーニー・サンダース上院議員は、コクソン氏の懸念に理解を示し、超知能の開発を一時停止することなどを含む規制を早速提唱しています。一方、AI開発を国家競争、とりわけ中国との競争という観点から見る政治家や企業関係者からは、過度な規制への警戒も出ています。

特にトランプ大統領は、中国との開発競争に負けるわけにはいかないとして、開発のスローダウンには反対しています。また、AIの名称における「アーティフィシャル（人工の）」という部分が「悪イメージの根源」だと考えたようで、AIを改名するというアイディアを出してもいます。また、政府として「AIフォース（AI軍）」を持つとか、「AIザー（AIのボス）」を指名するとも言っています。

興味深いのは、AIの危険性について左右両陣営から異なる形で警戒する声が出ていることです。Wired誌などは、コクソン氏の警告をきっかけに、米国左派の中でも「AIの将来的な人類滅亡リスクを重視するべきだ」という立場と、「AIによる失業やデータセンター、公害など現在発生している問題を優先すべきだ」という立場の対立が目立ってきたと報じています。

反響が大きかった分、コクソン氏への批判も出ています。一部の保守系論者やテック業界関係者からは、「AI規制を進めるためのPRではないか」「AI企業自身が規制を求めることで、競争相手を排除しようとしているのではないか」といった疑念が示されています。
実際、コクソン氏自身も「仕組まれた退職ではないか」という疑いを受け、本人はそのような組織的な仕掛けではないと否定しています。ワシントン・ポスト紙は、コクソン氏が退職前に規制団体などと共同で計画していたという証拠は「確認できなかった」と報じています。

また、AI用半導体設計大手のエヌビディアのジェンセン・ファンCEOは9月21日に、AIが2030年までに人類を滅ぼすという予測を「科学的根拠のないもの」として否定し、現在の法律でもAIに関するサイバーセキュリティや製造物責任などに対応できるとの立場を示しました。まあ、ファン氏の場合は、AIそのものの技術には責任はなく、とにかくAIがガンガン開発されれば半導体需要の拡大になるので、「まあそうだよね」という感じではあります。

それとは別に、もう少し冷静に議論全体を見てみると、AI業界内での意見相違が生まれており、そのこと自体が興味深いとも言えます。今回の議論においては、「本当に2030年までにAIが人類を滅ぼすのか」という「2択の命題」だけを見るより、AIを最もよく知っている人々の間で、開発速度と安全性についてかなり深刻な意見の相違が生まれている、その方が重要だと思います。

まあ、ここまでが業界内の動向としてのコクソン発言と、その反響ということになりますが、それとは別に「なぜ今」なのか、ということについては具体的には2つの問題があります。

Next: AI脅威論の裏に蠢く巨大マネーと市場の危機