考えてみると、この180度の方針転換は、いくつかの大きな業界トレンドと符合しています。
一つ目は、フロンティアAIの能力が、セキュリティの専門家ですら追いつけないスピードで進化していること。Anthropic自身が以前からAI安全性について警鐘を鳴らしてきましたが、Mythosのケースは「能力が安全装置を追い越した」ことが現実の脅威として顕在化した最初の大きな例と言えます。皮肉なことに、最も慎重に作られているとされるAnthropicのモデルが、規制再導入の引き金を引いたわけです。
二つ目は、米中AI覇権争いの中で「規制を緩めて中国に勝つ」という戦略が、サイバー攻撃のリスクを前にして見直しを迫られていること。AIが米国のインフラを攻撃する道具になり得るとなれば、安全保障の観点から放置できません。
三つ目は、EU AI Act（EU人工知能法、世界で最も厳しいAI規制）が既に施行されている中、米国もついに似た方向に動き出した点です。「FDAモデル」は事前審査の代名詞であり、医薬品業界では新薬の市場投入を遅らせる典型的な原因でもあります。AIに同じ仕組みを当てはめれば、米国のAI開発のスピード感が削がれる可能性は否めません。
そして最大の論点は、AI企業自身が自社モデルを評価する仕組みが利益相反（conflict of interest、自分の都合のいいように評価してしまう恐れ）を抱えていることです。Google、Microsoft、xAIがCAISIに協力するのは結構なことですが、独立した第三者による評価体制を作れなければ、形だけの規制になりかねません。「美しい赤ちゃん（英語の比喩の直訳ですが、意味は通じると思います）」を野放しにするか、それとも本気で躾けるか――トランプ政権は、わずか16ヶ月で正反対の答えを出そうとしています。
この記事の著者・中島聡さんのメルマガ
image by: gguy / Shutterstock.com
ページ: 1 2
