一国の枠組みだけでは到底対処しきれない、AIの高度化に伴う安全保障上のリスク。開発競争が続く一方で、各国政府や巨大テクノロジー企業に対しては、暴走を防ぐための協力体制づくりを求める声も高まっています。今回のメルマガ『週刊 Life is beautiful』では著名エンジニアの中島聡さんが、アメリカ政府と主要AI企業6社が合意した「超知能」の安全協定を取り上げ、その具体的な対策と課題を検証。さらに米中が新設する対話の場の重要性や、米当局による行政サービスへのAI活用の評価を記しています。
※本記事のタイトル・見出しはMAG2NEWS編集部によるものです
プロフィール：中島聡（なかじま・さとし）
ブロガー／起業家／ソフトウェア・エンジニア、工学修士（早稲田大学）／MBA（ワシントン大学）。NTT通信研究所／マイクロソフト日本法人／マイクロソフト本社勤務後、ソフトウェアベンチャーUIEvolution Inc.を米国シアトルで起業。現在は neu.Pen LLCでiPhone/iPadアプリの開発。
ホワイトハウスの「Super Intelligence」サミットとAI安全協定
DevDayと同じ9月29日に、ホワイトハウスでは、AIの将来を左右しかねない、はるかに重要な会合が開かれていました。トランプ大統領とVance副大統領が、Google（Sundar Pichai氏）、Anthropic（Dario Amodei氏）、Meta（Mark Zuckerberg氏）、OpenAI（Greg Brockman氏）、xAI（Elon Musk氏）、NVIDIA（Jensen Huang氏）のトップを招いて開いた「Super Intelligence（超知能）」に関するサミットです（OpenAIのSam Altman氏は招待を断り、社長のBrockman氏が代わりに出席しました）。
ここで発表されたのは、以下の二つです。
- AI安全協定：大統領と6社のトップが署名した「White House Accord on Super Intelligence」。各社が自主的に安全対策を行うことを約束する1ページの合意文書
- 大統領令：連邦政府の機関に、AIを「Super Intelligence（SI）」と呼ぶことを義務付け、60日以内にSIの法的な定義案を作ることを指示
また、その数日前には、トランプ大統領と習近平国家主席が、超知能について話し合う米中の対話の場（U.S.-China SI Dialogue）を設けることで合意したと発表されており、11月に初回の協議が予定されています。
協定の中身は、各社が以下の「四層」の安全対策を行う、というものです。
- 開発中・公開後のモデルの能力やアライメント（AIが人間の意図に沿って行動するかどうか）を、サイバーセキュリティなどの分野で監視する社内の仕組み
- その仕組みを監督する社内の専任チーム
- 社外の独立した監査機関との提携
- 社内チームと社外監査の報告を審査する独立した委員会
米国政府と主要なAI企業のトップが揃って「リスクを真剣に受け止める」ことを公式に約束したことには、大きな意味があります。米中の対話の場も、冷戦時代に核戦争を防ぐために作られた米ソ間のホットラインを思い出させます。AIの暴走は一国の問題では済まないので、ライバル同士が直接話し合う場を持つことは不可欠です。
最初の一歩としては評価して良いと思いますが、これでは不十分だという指摘もあるため、今後も議論が続くと考えて良いと思います。
ちなみに、AIを「Super Intelligence」と呼び変える大統領令は、なかなか面白いと思います。これは、米国政府がAIを単なる便利な道具ではなく、人間を超える知能として扱い始めたことを意味するからです。
ページ: 1 2