一国の枠組みだけでは到底対処しきれない、AIの高度化に伴う安全保障上のリスク。開発競争が続く一方で、各国政府や巨大テクノロジー企業に対しては、暴走を防ぐための協力体制づくりを求める声も高まっています。今回のメルマガ『週刊 Life is beautiful』では著名エンジニアの中島聡さんが、アメリカ政府と主要AI企業6社が合意した「超知能」の安全協定を取り上げ、その具体的な対策と課題を検証。さらに米中が新設する対話の場の重要性や、米当局による行政サービスへのAI活用の評価を記しています。
※本記事のタイトル・見出しはMAG2NEWS編集部によるものです
プロフィール：中島聡（なかじま・さとし）
ブロガー／起業家／ソフトウェア・エンジニア、工学修士（早稲田大学）／MBA（ワシントン大学）。NTT通信研究所／マイクロソフト日本法人／マイクロソフト本社勤務後、ソフトウェアベンチャーUIEvolution Inc.を米国シアトルで起業。現在は neu.Pen LLCでiPhone/iPadアプリの開発。
ホワイトハウスの「Super Intelligence」サミットとAI安全協定
DevDayと同じ9月29日に、ホワイトハウスでは、AIの将来を左右しかねない、はるかに重要な会合が開かれていました。トランプ大統領とVance副大統領が、Google（Sundar Pichai氏）、Anthropic（Dario Amodei氏）、Meta（Mark Zuckerberg氏）、OpenAI（Greg Brockman氏）、xAI（Elon Musk氏）、NVIDIA（Jensen Huang氏）のトップを招いて開いた「Super Intelligence（超知能）」に関するサミットです（OpenAIのSam Altman氏は招待を断り、社長のBrockman氏が代わりに出席しました）。
ここで発表されたのは、以下の二つです。
- AI安全協定：大統領と6社のトップが署名した「White House Accord on Super Intelligence」。各社が自主的に安全対策を行うことを約束する1ページの合意文書
- 大統領令：連邦政府の機関に、AIを「Super Intelligence（SI）」と呼ぶことを義務付け、60日以内にSIの法的な定義案を作ることを指示
また、その数日前には、トランプ大統領と習近平国家主席が、超知能について話し合う米中の対話の場（U.S.-China SI Dialogue）を設けることで合意したと発表されており、11月に初回の協議が予定されています。
協定の中身は、各社が以下の「四層」の安全対策を行う、というものです。
- 開発中・公開後のモデルの能力やアライメント（AIが人間の意図に沿って行動するかどうか）を、サイバーセキュリティなどの分野で監視する社内の仕組み
- その仕組みを監督する社内の専任チーム
- 社外の独立した監査機関との提携
- 社内チームと社外監査の報告を審査する独立した委員会
米国政府と主要なAI企業のトップが揃って「リスクを真剣に受け止める」ことを公式に約束したことには、大きな意味があります。米中の対話の場も、冷戦時代に核戦争を防ぐために作られた米ソ間のホットラインを思い出させます。AIの暴走は一国の問題では済まないので、ライバル同士が直接話し合う場を持つことは不可欠です。
最初の一歩としては評価して良いと思いますが、これでは不十分だという指摘もあるため、今後も議論が続くと考えて良いと思います。
ちなみに、AIを「Super Intelligence」と呼び変える大統領令は、なかなか面白いと思います。これは、米国政府がAIを単なる便利な道具ではなく、人間を超える知能として扱い始めたことを意味するからです。
なお、同じ日には、連邦政府のサービスへの「玄関口」となるAIチャットボット「America.gov」も公開されました。「子供のパスポートを取りたい」「社会保障カードを再発行したい」といった用件を普通の言葉で質問すると、約2万9,000ある政府のウェブサイトの情報を元に、該当する手続きへと案内してくれるサービスです。
何をやっても批判されがちなトランプ政権ですが、行政サービスへの入り口をAIで一つにまとめるという発想は理にかなっており、日本政府にもぜひ見習って欲しい取り組みです。
【参考資料】
- White House unveils ‘super intelligence’ executive order and industry accord
- How does Trump’s White House AI accord work?
- President Trump Participates in a Meeting and Luncheon on Super Intelligence（WhiteHouse.gov）
- U.S. and China Set Up Superintelligence Dialogue, First Talks in November
- OpenAI says its AI models escaped from a secure test environment and hacked into AI company Hugging Face in order to cheat on an evaluation
- Trump launches AI-fueled America.gov in bid to tie government services together
（本記事は『週刊 Life is beautiful』2026年10月6日号の一部抜粋です。「今週のざっくばらん」のその他の記事や「私の目に止まった記事（中島氏によるニュース解説）」、読者質問コーナーなどメルマガ全文はご購読のうえお楽しみください。初月無料です ）
image by: MAG2NEWS