少し冷静にならないと……
AIを技術面からだけでなく文明論として語ることのできる数少ない専門家である西垣通＝東京大学名誉教授は、8月25日付朝日新聞オピニオン欄でのインタビューで、「AIが人間の知性を超える日は来るのか」という問いに要旨こう答えている。
▼少し冷静になりましょう。機械が人間のような知性を持つでしょうか。そういう日は来ないし、人間と同様のことができる汎用AIも出現しないと私は思っています。今開発されている生成AI技術は重要ですし、使いようによっては人類の役に立つ。ただし、人間の知性の代わりには決してなりません。そうしたAIの本質を理解しないまま、ただただ「乗り遅れるな」と活用にのめり込む日本の風潮が心配です。
▼〔生成型〕AIは「正しさ」よりも、大量のデータを統計処理し「確率の高い解」を求めることに重点が置かれているのです。長い間、AIは正しい答えを自動的に出す機械とされていたのですが、「誤りを許容する」のは大転換です。正確さよりも、一般ユーザーが容易にアクセスできることを優先させている。質問に対し、言葉の意味を理解せずに確率計算を行い、もっともらしく易しい文章で答えることで、商業的な成功をねらう。でも、一般の人々に「AIは間違えない」といった信頼が残っていれば、正しくない情報が拡散してしまう危険が大きい……。
この意見に賛成である。
「正しさ」の判断は人間しかできない
《西垣発言へのコメント・1》
「汎用AI」とは、人間が実現可能なあらゆる知的作業を理解・学習・実行することができる人工知能のことで、業界の多数派は数十年以内に出現可能と主張しているが、西垣と同じく私もそれは出現不能と見ている。その私なりの理由は後述する。
《西垣発言へのコメント・2》
生成型AIは「正しさ」よりも、大量のデータを統計処理し「確率の高い解」を求めるものであり、従ってその解が正しいかどうかは確率の問題でしかないというのは、その通りである。それ以前の識別型AIの場合は、予めデータをインプットして正解を学習させておいた上で、問いに対して正誤を自動的に識別させるので、その限りにおいて答えは常に正しかった。そのため、一般の人々は「AIは間違えない」という誤った（？）信頼感を持ってしまったのだが、その感覚のままで生成型AIに接してはいけない。生成型AIは予めインプットされていない膨大なデータをネット上から勝手に（ということは発注主である我々には知る由もない基準と範囲で）収集して分析して組み立てるので、それが正しいかどうかは確率の問題でしかなく、それが使い物になる答えであるかどうかを最終的に判定するのは、やはり生身の人間だということである。
この記事の著者・高野孟さんのメルマガ
