先日話題となった、facebookの開発した人工知能が人工知能同士で会話をしたところ、人間が理解できない言語を使って会話を始めたという事案。これを「気持ち悪い」とする向きもあるようですが、世界的プログラマーで起業家の中島聡さんは自身のメルマガ『週刊 Life is beautiful』で、人工知能を学習させようとする過程でよく起こることだと楽観視。こうした事案が発生した原因についても詳しく解説しています。
私の目に止まった記事
● Why Facebook Shut Down Its Artificial Intelligence Program That Went Rogue
Facebook が人間と会話できる人工知能の開発の過程で、人工知能同士を会話させて学習効果を高めようとしたところ、人間には理解できない言葉で会話をし始めてしまった、という話です。
「気持ちが悪い」と感じる人も多い様ですが、人工知能を学習させようとする過程では、よく起こる失敗の一つです。
機械学習には大きく分けて、教師あり学習と教師なし学習の二つがあります。
教師あり学習の典型的な例は、「その画像に何が映っているか」というラベル付きの画像を大量に与えることにより、画像認識ができる人工知能を作ろうというケースで、これはデータ量さえ十分にあれば、人間よりも認識率が高いところまで実現できることが分かっています。
一方の教師なしの学習は、上のようなラベルの付いていないデータを与えても、コンピュータ自身がその中に何らかのパターンを見つけ出すことを狙うものですが、あまりうまくいっていません。
このケースでは、人間同士の会話、もしくは人間と機械の会話というラベル付きのデータで、ある程度の学習をさせた後、人工知能同士に会話をさせることにより、データを与えなくとも勝手に学習をして行く環境を作ろうとしたのです。
このアプローチは、「囲碁の対局」の様なルールや勝敗の判定が明確に定まっている分野ではとても効果的なのですが、「会話」の様に自由度が高い上に、「良い会話が出来たかどうか」の判定をする方法がないため、狙い通りには学習が進まず、訳の分からない会話をする人工知能が作られてしまったのです。