「AIが人類を滅ぼす」という衝撃的な警告がアメリカで波紋を広げています。元研究者の告発をきっかけに過熱するAI脅威論ですが、その背景には技術的リスクだけでなく、政治的思惑や株価・市場を巡る巨大な経済的背景が隠されていました。メルマガ『『冷泉彰彦のプリンストン通信』では、著者で作家の冷泉彰彦さんが、過熱するAI騒動の裏側にある本当の「狙い」と米国の思惑を多角的に分析・解説します。
※本記事は有料メルマガ『冷泉彰彦のプリンストン通信』2026年9月22日号を一部抜粋・再構成したものです。興味を持たれた方は、ぜひこの機会に『今月すべて無料のお試し購読』をどうぞ。
プロフィール：冷泉彰彦（れいぜい あきひこ）
東京都生まれ。東京大学文学部卒業、コロンビア大学大学院卒業。福武書店（現、ベネッセ・コーポレーション）、ベルリッツ・インターナショナル社、米国ニュージャージー州立ラトガース大学講師を経て、現在はプリンストン日本語学校高等部主任。1993年より米国在住。メールマガジンＪＭＭ（村上龍編集長）に「FROM911、USAレポート」を寄稿。
全米を揺るがす元研究者の「人類滅亡」警告
まさに騒然という形容が合っていると思うのですが、9月に入ってアメリカではAIが脅威だという、いわば「AI脅威論」が盛んになっています。契機としては、AI開発を主導しているアメリカの主要企業であるオープンAIからアンソロピックに移籍してAIの学習プロセスを研究していた人物、ジェイコブ・コクソン（Coxon）氏のメッセージがバズったからです。
コクソン氏は、英国出身でケンブリッジに学んだ27歳の研究者ですが、アンソロピックを辞任するにあたって、Xに次のような投稿をしています。この投稿はアッという間に拡散し、ガーディアンによれば、X上で1億7000万回以上閲覧されたとされています。
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
このツイートに加えて、コクソン氏が様々なメディアで語っている内容を総合すると、
「今後10年以内にAIが制御不能になる危険がある」
「その場合にAIが人類を滅亡させる可能性が否定できない」
「今、これに対する対策をするべきで、対策が遅れれば手遅れになる」
「AI企業は、安全性を十分に理解する前に、競争に勝つことを優先している」
「アンソロピックとオープンAIは協力して対処すべきだ」
というようなメッセージになります。AIの暴走というのは、昔から言われていることです。ですが、さすがに「AIの学習（マシンラーニング）プロセス」や「AIの初期設定（プリトレイニング）」に関する最先端の技術者であるコクソン氏が言っているということで、相当なインパクトがあったのは事実です。
ですが、巷間囁かれていたように、コクソン氏が本当に危険を感じて隠遁したというのは、どうやら噂に過ぎないようで、ツイート後も様々なメッセージを出しているのは事実です。ですから、一刻を争う危険な状況というのは、さすがに過剰反応だと思います。
確かに、ここ数日、AIが他社システムを勝手にハックしたというような報道が増えているのは事実ですが、AIが急速に邪悪化して怪しい事案が増えたのではないと思います。コクソン発言以来、明らかに国際社会において、この問題が最大の関心事になっており、世論が過敏になる中で、報道が増えているだけ、インシデントが急増しているのではないという見方をしておくのが常識的です。
とりあえず、差し迫った脅威ではないとして、問題は「何故、今なのか？」という点です。まず、技術的にはアンソロピック社が「クロウド・ミトス」を公開、更に、オープンAIの「ChatGPT」が「5」から「6」へと改良される中で、開発のフェーズが次の段階に移行したという時間的な問題があります。つまり、現在のAIそのものというより、自己改良を続け、人間を上回る能力を持つ「超知能（superintelligence）」に向かって、競争が加速していることです。
Next: 業界と政治を巻き込むAI規制を巡る激しい攻防
業界と政治を巻き込むAI規制を巡る激しい攻防
それはともかく、なぜこれほど大きな反響になったのか大きかったのは、前述したようにコクソン氏が単なるAI評論家ではなく、オープンAIとアンソロピックの双方に在籍して研究した経験を持つ内部関係者だったことです。しかもアンソロピックを退職することで、会社から得られる可能性のあった「未公開株」などを失うリスクを取って警告を発したため、「自分の利益のための発言ではない」というわけで、説得力をもって受け止める人もいました。
AIの制御が十分でないというニュースは、確かにこの投稿を契機に増えました。ですが、投稿の直前にも、AIエージェントがテスト環境から抜け出したり、許可されていないコンピューターシステムにアクセスしたりする事例が公表されていました。そのため、「AIが制御不能になる」という話が、従来のSF的な仮説だけではなく、現在起きているAIの予想外の行動と結び付けて考えられる、そんな地盤ができていたのも事実です。それが反響を大きくしました。
この発言、業界内としては機が熟しており、その一方で一般の社会ではちょうどいいタイミングでの問題になった、そんな感じで理解できます。ところで、様々な反響があった中で、特に注目されたのは、コクソン氏の警告に対して、アンソロピックのアラインメント・サイエンス部門の研究者であるエヴァン・ハビンガーという人が同意したことです。ハビンガー氏は、AIが将来的に人類全体に重大な危害を与える可能性をかなり高く見積もっていると公言しました。
アラインメントというのは、AIに「人間が出した命令に従うように」させるということで、これは現在非常に重要な技術分野になっています。その研究者が実名を明かして発言しているというのは、重たいという見方もあります。また、コクソン氏の同僚であったことから、やはりアンソロピックなり、業界の中の何らかの意図をコクソン氏が代弁しているという説もあります。
一方で、アンソロピック社の研究結果としての公式見解では、現在のモデルが直ちに文明規模の危険をもたらす可能性は低いとも評価されています。つまり、「現在のAIは危険だから直ちに止めるべきだ」という話と、「今後AIの能力がさらに急速に向上した場合には深刻なリスクがある」という話は区別する必要があります。言い換えれば、業界内ではスローダウンの話ですが、一般社会では「怖いから大変だ」的な受け止めになっている、その辺りの温度差もあると思います。
さて、コクソン氏の発言は、AI規制をめぐる米国政治にも波紋を投げかけました。例えば民主党左派のバーニー・サンダース上院議員は、コクソン氏の懸念に理解を示し、超知能の開発を一時停止することなどを含む規制を早速提唱しています。一方、AI開発を国家競争、とりわけ中国との競争という観点から見る政治家や企業関係者からは、過度な規制への警戒も出ています。
特にトランプ大統領は、中国との開発競争に負けるわけにはいかないとして、開発のスローダウンには反対しています。また、AIの名称における「アーティフィシャル（人工の）」という部分が「悪イメージの根源」だと考えたようで、AIを改名するというアイディアを出してもいます。また、政府として「AIフォース（AI軍）」を持つとか、「AIザー（AIのボス）」を指名するとも言っています。
興味深いのは、AIの危険性について左右両陣営から異なる形で警戒する声が出ていることです。Wired誌などは、コクソン氏の警告をきっかけに、米国左派の中でも「AIの将来的な人類滅亡リスクを重視するべきだ」という立場と、「AIによる失業やデータセンター、公害など現在発生している問題を優先すべきだ」という立場の対立が目立ってきたと報じています。
反響が大きかった分、コクソン氏への批判も出ています。一部の保守系論者やテック業界関係者からは、「AI規制を進めるためのPRではないか」「AI企業自身が規制を求めることで、競争相手を排除しようとしているのではないか」といった疑念が示されています。
実際、コクソン氏自身も「仕組まれた退職ではないか」という疑いを受け、本人はそのような組織的な仕掛けではないと否定しています。ワシントン・ポスト紙は、コクソン氏が退職前に規制団体などと共同で計画していたという証拠は「確認できなかった」と報じています。
また、AI用半導体設計大手のエヌビディアのジェンセン・ファンCEOは9月21日に、AIが2030年までに人類を滅ぼすという予測を「科学的根拠のないもの」として否定し、現在の法律でもAIに関するサイバーセキュリティや製造物責任などに対応できるとの立場を示しました。まあ、ファン氏の場合は、AIそのものの技術には責任はなく、とにかくAIがガンガン開発されれば半導体需要の拡大になるので、「まあそうだよね」という感じではあります。
それとは別に、もう少し冷静に議論全体を見てみると、AI業界内での意見相違が生まれており、そのこと自体が興味深いとも言えます。今回の議論においては、「本当に2030年までにAIが人類を滅ぼすのか」という「2択の命題」だけを見るより、AIを最もよく知っている人々の間で、開発速度と安全性についてかなり深刻な意見の相違が生まれている、その方が重要だと思います。
まあ、ここまでが業界内の動向としてのコクソン発言と、その反響ということになりますが、それとは別に「なぜ今」なのか、ということについては具体的には2つの問題があります。
Next: AI脅威論の裏に蠢く巨大マネーと市場の危機
AI脅威論の裏に潜む株式上場と金融市場の危うい現実
1つは、これが本題だと思いますが、AIに関する「ビッグ3」の上場問題です。現時点では、まずAIだけでなく宇宙航空も衛星ネットなどもカバーする「スペースX」がいち早く上場しています。とにかく上場直後はブームになって、200ドルという水準まで上昇、しかしながらその後は内部関係者の売りがあって100ドル近辺まで下がった後は、140前後となっています。
悪くはないし、この後、まだ年内には内部関係者の第2回の売出し解禁があるようですから、「まあ、こんなもの」かもしれません。ですが、株式市場全体としては決して元気のいい感じではなくなってきているのも事実です。問題は、株というよりも、債券に移して来ています。米国債の金利上昇がかなり顕著になっており、つまりは価格が下落しています。その一方で、インフレも状況が悪化しています。
そんな中で、先週、FRBのウォーシュ議長は金利アップを決断しました。これに対してトランプ氏は批判しています。トランプ氏によれば、これは非常にユニークな発想なのですが、「物価高はイランのせいで、イラン戦争は自分が選挙に勝つか、有利になれば止まる」という不思議なことを言っています。つまりは「金利を上げて物価を沈静化するのはダメ」だというのです。何故ならば、金利を上げてインフレを止めると、景気のスローダウンを伴うからです。
景気がスローダウンしては選挙に負ける危険があり、これを嫌っているのだと思います。だったら、イラン戦争を止めれば良いのですが、そうすると「強いアメリカ」の演出もできないし、「戦時の大統領として拳を挙げて選挙に向かう」ポーズができないということもあるようです。
そんな中で、「とにかく株価も景気も強気で行きたい」ということがあるようです。ですが、これ以上景気に関して強気に行けば、必ずインフレが暴走しますから、ブーメランとして返ってくるのですが、それは「イランのせい」にするというのが不完全ながら一種のロジックになっています。
しかし、市場はこうしたストーリーを信認していません。ですから、米国債はジリジリ下げているのだし、株価もパッとしない・・・どころか、暴落の危険を常に感じるという綱渡り状態になっています。暴落については、例えば不動産市場が暴落するとか、円の大暴落と米国債売りが発火点になるとか、色々なことが言われています。
ですが、現在の米国の株式市場では依然としてAI相場が続いています。AIのビッグ3の上場はまだ未完成で、アンソロピックとオープンAIは上場日が流動的です。ですが、その動向が市場全体に大きく影響しています。エヌヴィディアなど、AIインフラ関連の株も依然として市場の牽引車です。一つの可能性は、AI開発に急ブレーキがかかることです。AIが実は経済成長すら敵に回しかねないとなれば、そこでAI相場は止まるかもしれません。
そんな中で、残る2社の上場を止められるのかというと、これはーーー
※本記事は有料メルマガ『冷泉彰彦のプリンストン通信』2026年9月22日号を一部抜粋・再構成したものです。興味を持たれた方は、ぜひこの機会に『今月すべて無料のお試し購読』をどうぞ。
『冷泉彰彦のプリンストン通信』（2026年9月22日号）より一部抜粋
初月無料お試し購読ＯＫ！有料メルマガ好評配信中
冷泉彰彦のプリンストン通信
[月額880円(税込) 毎月第1火曜日・第2火曜日・第3火曜日・第4火曜日予定]
アメリカ北東部のプリンストンからの「定点観測」です。テーマは２つ、「アメリカでの文脈」をお伝えする。「日本を少し離れて」見つめる。この２つを内に秘めながら、政治経済からエンタメ、スポーツ、コミュニケーション論まで多角的な情報をお届けします。定点観測を名乗る以上、できるだけブレのないディスカッションを続けていきたいと考えます。そのためにも、私に質問のある方はメルマガに記載のアドレスにご返信ください。メルマガ内公開でお答えしてゆきます。但し、必ずしも全ての質問に答えられるわけではありませんのでご了承ください。