「機械に仕事を奪われる」私たちが向かうべき、たった1つの冴えた未来＝山田健彦

「ブラックボックス化」する未来

筆者がむしろ怖いと感じるのは、「ディープラーニング（深層学習）」というメカニズムです。

プロの将棋棋士や囲碁棋士たちは、「AIがどうしてこんな手を出してくるのか、後から振り返っても理解できないことが多々ある」と言っています。

人間同士の戦いならば「ああ、この手は今後、こうするための布石かな」と想像がつくらしいのですが、AIの打つ手は「意図が読めない場面が多い」のだそうです。これはAIが、過去の人間同士の戦いの譜面を学習するだけでなく、囲碁や将棋以外の他の何かと独自に関連性などを結びつけて、新たな手を考案するからです。

つまり、AIは独自に学習し、その学習内容は人間からはブラックボックス化してしまうのです。これが「ディープラーニング」です。

例えば、AIが自動運転する車が「赤信号で止まる」という選択をせずに、場合によっては「そのまま交差点を突っ切ってしまうことがベストだ」と勝手に判断してしまうかもしれず、その思考過程を人は修正することができないということがあり得るのです。

ここのところをどのように制御するのか、まだ解を出した人はいないそうです。ちょっと怖い話ですね。

【関連】人間はAIに敗れるか？投資の世界に訪れるシンギュラリティ(技術的特異点)＝田渕直也

【関連】FinTechの本質。新しい「信用」のルールが経済を数倍に拡大する＝大前研一

【関連】自分の子や孫を「貧困層」に落とさないために私たちができること＝山田健彦