AIの性能が飛躍的に向上し、人間に近い能力を持つ「フロンティアAI」の登場が現実味を帯びる中、その恩恵とともに安全性への懸念も急速に高まっています。開発競争が激化する一方で、悪用を防ぐためのルールづくりは世界共通の課題となっています。今回のメルマガ『週刊 Life is beautiful』では著名エンジニアの中島聡さんが、Google DeepMindが提案した新たな規制の枠組みをもとに、フロンティアAIに求められる安全対策や制度設計、そして規制の課題について考えています。
フロンティアAIの危険性と規制
加速を続けるAIの進化が、まさにAGI（汎用人工知能。人間の脳が持つあらゆる認知能力を備えたAI）と呼ぶのに相応しいレベルに至ろうとしている今、その危険性を社会としてどう対処すべきかの議論が高まって来ました。そんな中で、これまで口を閉ざしていたGoogleから、この件に関して公式のコメントが出たので注目を集めています。
Anthropicが最先端のAIモデル、Mythosをリリースする際に、一般公開の前に一部の信頼できる機関にのみ渡し、既存のソフトウェアの脆弱性を前もって調べておけるようにした際には、「巧みなマーケティング」と批判する人たちもいましたが（私も半分はそう思っていました）、先週になって、Google Deep MindのDemis Hassabisまでもが同様のことを言い始めたため、少し印象が変わりました。
彼の提案（A Framework for Frontier AI and the Dawning of a New Age）は以下のとおりです。
- 一定のベンチマークを超えたモデルを「フロンティア級」、それを作る組織を「フロンティア・ラボ」と認定
- ラボは新モデルを公開の最大30日前に団体へ提出し、サイバーセキュリティや生物兵器などの高リスク領域の評価を受ける
- 評価は四半期ごとに更新し、いずれは団体が独自の非公開テストを開発
- 制度が有効と実証された後は、米国市場で展開する条件として合格を義務化
- オープンソースか否か、開発国を問わず適用し、スタートアップや大学の非フロンティア級モデルは対象外
Hassabisは、FINRA（金融取引業規制機構。米国の証券業界が自主的に運営する規制団体）をモデルにした、官民パートナーシップ型の標準化団体を作り、業界から拠出した資金で運営し、世界トップクラスの技術人材と大規模テスト用の計算資源を確保するとしており、状況が深刻化した場合にはフロンティア・ラボ間で開発の減速を調整する権限まで持たせうる、というかなり踏み込んだ内容になっています。
ちなみに「AIのリスク」というと映画ターミネーターのようなAIが人類を滅ぼしにくるようなリスクを思い浮かべる人が多いと思いますが、GoogleやAnthropicの研究者たちが最も心配しているのは、悪意を持った人たちによる「AIの悪用」です。
具体的には、
- 既存のソフトウェアの脆弱性を見つけて攻撃
- 生物・化学兵器や核兵器の作り方の習得
- 自律的に動くロボット・ドローン兵器への応用
などが想定されているようです。
完全にリスクを排除することはとても難しいのですが、何もやらないとそれこそ犯罪のやり放題になってしまうため、「ソフトウェアの脆弱性は先に見つけて修正しておく」「危険な兵器の作り方を教えたりしないことを確認しておく」などで、可能な限りリスクを減らしておこうとするものです。
少し気になるのは「非フロンティア級モデルは対象外」としている点です。既に、オープンウェイトなモデルを改造（ファインチューニング）することにより、危険な兵器の作り方を教えてしまうAIモデルが誰でもダウンロードできるところに置いてありますが、これはこれで社会にとって十分に大きなリスクだと私は感じています。
この記事の著者・中島聡さんのメルマガ
※ワンクリックで簡単にお試し登録できます↑
￥880/月（税込）初月無料 毎週 火曜日(年末年始を除く)
月の途中でも全ての号が届きます
image by: Shutterstock.com