中島聡が警告「AIに頼り過ぎる人類」は“確実に劣化”する。ノーベル賞経済学者が示した「知識崩壊」の不都合な真実
「人間より賢いAI」の誕生は、私たちの社会にどんな影響をもたらすのでしょうか。2024年ノーベル経済学賞受賞者のDaron Acemoglu教授らの論文は、AIに頼った人類が「学ぶこと」をやめることで、社会全体の共通知識が枯渇する「知識崩壊」のシナリオを示しています。今回のメルマガ『週刊 Life is beautiful』では、著者で著名エンジニア・投資家の中島聡さんが、この衝撃の論文を紹介しつつ、自らのAIコーディング体験から「使い方次第で毒にも薬にもなる」と語ります。
※本記事のタイトルはMAG2NEWS編集部によるものです
プロフィール：中島聡（なかじま・さとし）
ブロガー／起業家／ソフトウェア・エンジニア、工学修士（早稲田大学）／MBA（ワシントン大学）。NTT通信研究所／マイクロソフト日本法人／マイクロソフト本社勤務後、ソフトウェアベンチャーUIEvolution Inc.を米国シアトルで起業。現在は neu.Pen LLCでiPhone/iPadアプリの開発。
AIの誕生によって低下する人類の知能
まもなく誕生しようとしている「人間より賢いAI」が、私たちが暮らす社会にどんな影響を与えるかについて考えたり、議論することが増えました。そんな中で、「AIが人類全体の知識を逆に痩せ細らせる可能性」を示した論文を目にしたので、紹介します。
● AI, Human Cognition and Knowledge Collapse
2024年のノーベル経済学賞受賞者であるDaron Acemoglu教授（MIT）らによる新しい論文で、「人間が学ぶ動機」がAIに奪われると何が起きるか、という問題提起からスタートしています。
私たちが何かを学ぶとき、その努力は本人の役に立つだけでなく、ブログ・論文・口コミなどを通じて、社会全体の「共通知識」も増やしています。Acemoglu教授らは、これを「学習の外部性（自分の努力が他人にもメリットを与える効果）」と呼んでいます。意思決定の質を上げるには、この社会的な共通知識と、自分にしか分からない文脈的知識の両方が必要で、両者は補完関係にあるという前提に立ちます。
ところが、エージェント型AIが当たり前のように意思決定を代行するようになると、人間はわざわざ自分で調べたり考えたりしなくなり、新しい知識が社会に流れ込まなくなります。短期的にはAIの推薦に従っていれば意思決定の質は上がるけれど、長期的には「みんなが頼っているAIの学習元」である人間由来の知識が枯渇していく、という構造です。
論文は数理モデルでこれを分析し、AIの推薦精度が一定の閾値（しきい値、境目）を超え、かつ人間が「学ぶのをやめる」方向に十分敏感に反応する場合、社会は「共通知識がゼロに収束する定常状態」へ突入しうると示しています。さらに、社会の福祉（人々の暮らしの豊かさ）はAIの精度に対して単調に上がっていくわけではなく、ある点を越えると逆に下がる、という重要な指摘もしています。AIが賢くなればなるほど人類が幸せになる、と単純には言えないというわけです。
この記事の著者・中島聡さんのメルマガ
