グーグル、人工知能をストップできる「非常ボタン」開発
Business Insiderによると、人工知能開発をおこなうDeepMind社が、オックスフォード大学の科学者たちとの共同研究で、人工知能が人間によるコントロールを拒否、あるいは人間を害することを止めることのできる「非常ボタン（Big Red Button）」を開発したと発表しました（この研究結果の詳しい報告は、Safely Interruptible AgentsとしてPDFでまとめられています）。
これを開発した研究者たちは、人工知能が“いつも適切に動作するとは限らない”と話しています。
「リアルタイムで人間による監視の下、そのような人工知能が作動すれば、人間のオペレーターが、人工知能の有害な行動を阻止するための非常ボタンが必要だ。同じく、人工知能や環境にとっても有害な行動を阻止し、人工知能をより安全な状況に導く」（Safely Interruptible Agents）
すでに、人間のオペレーターがいつでも安全に人工知能を止めることができるフレームワークはできあがっているとのこと。
人工知能の精度が上がるにつれて、少なからずとも、私たち人間は恐怖感を抱くようになりましたが、この「非常ボタン」が開発されたことで、少しは安心できますね。
以上、最新の人工知能事情を紹介しました。
グーグルがいかに「人間らしい」人工知能の開発に力を入れているかがわかりました。
半年後には、またさらに人々をアッと驚かせるような人工知能を生み出すに違いありません。
Image by: lightpoet / Shutterstock.com
Source by: QUARTZ , Business Insider , Google公式ブログ , engadget
文／MAG2 NEWS編集部
