あの中島聡も納得。「AIに新しいものを作らせるな」世界最高峰の数学者が語る、AI時代に“人間がやるべき仕事”の本質

社会的コストと「循環引用」の問題

社会的なコストにも踏み込んでいます。AIによってエントリーレベル（新人向け）の仕事が消えると、若い世代がキャリアを積む入口そのものが失われます。AIの膨大なエネルギー消費や水資源の問題、AI生成データでAIを訓練すると品質が劣化する「モデルコラプス（モデル崩壊）」の問題にも触れています。さらに興味深いのは、AIのディープリサーチツールが文献を要約し、その要約自体が権威ある情報源として再利用されることで、以後の文献検索が汚染されるという「循環引用」の問題です。これは今まさに起きている問題です。

具体的な提案としては、「AI版CERN」（多国籍の公開研究機関）の設立や、大規模モデルから蒸留（大きなAIモデルの知識を小さなモデルに移し替える技術）した小さなモデルをコミュニティが運用する仕組みなど、AIへのアクセスの民主化を訴えています。

チェスが廃れなかったように

この論文が示唆に富むのは、実際にAIを数学の研究に積極的に活用している人物が書いているからです。AIの可能性を十分に理解した上で、「AIが人間より賢くなっても、チェスが廃れなかったように、人間の知的活動には固有の価値がある」と主張している点が印象的です。チェスの世界では、AIに負けた後も人間同士の対局は盛んですし、AIを練習相手として活用することでむしろレベルが上がっています。タオはこの構図が、数学を含むあらゆる知的活動に当てはまると考えているわけです。

AIの進化に対して「脅威だ」と叫ぶのでも、「万能だ」と礼賛するのでもなく、「ジーニー（魔人）をボトルに戻すことはできないが、煙を払いのけて明るい未来に向かうことはできる」というタオの結論は、今まさに私たちが持つべきバランス感覚だと思います。