かねてから激論が交わされてきた「人工知能は自意識を獲得するか否か」という問題ですが、GPT-4登場の前と後ではその議論の質も内容も大きく変貌したと言っても過言ではないようです。今回のメルマガ『週刊 Life is beautiful』ではWindows95を設計した日本人として知られる中島聡さんが、GPT-4に「知能のようなものが出現した」という事実に注目。その上で、人工知能が自意識を持つに至る可能性を考察しています。
プロフィール：中島聡（なかじま・さとし）
ブロガー／起業家／ソフトウェア・エンジニア、工学修士（早稲田大学）／MBA（ワシントン大学）。NTT通信研究所／マイクロソフト日本法人／マイクロソフト本社勤務後、ソフトウェアベンチャーUIEvolution Inc.を米国シアトルで起業。現在は neu.Pen LLCでiPhone/iPadアプリの開発。
OpenAIからGPT4が発表されて3週間。知能や自意識の「出現」について
OpenAIからGPT4が発表されて3週間たちます。私も含めて、さまざまな人がアプリケーションを作り、そのポテンシャルの大きさに感動している、というのが現在の状況だと思います。同時に、人工知能の急激な進歩には、さまざまなリスクがあることも事実で、それゆえ、Elon Muskらが業界向けのオープンレター（「Pause Giant AI Experiments: An Open Letter」）を書いたりと、活発な議論も起こっています。
人工知能のリスクに関しては、OpenAI自身も十分に認識しており、「GPT-4 Technical Report」には、そのリスクに対するOpenAIの考え方や取り組みも書かれているので、一読すると良いと思います。
人工知能のリスクは、大きく分けると、
- 人工知能が人から職を奪うリスク
- フェイクニュースや、フェイクビデオ(Deep Fake)が蔓延するリスク
- 差別発言のリスク
- 犯罪への応用リスク
- 人工知能の暴走リスク
などがあります。
インターネットが誕生したころには、「原子爆弾の作り方」が公開されてしまったこと、子供たちが性的な映像に簡単にアクセス出来るようになってしまったこと、3Dプリンターが出たばかりのころには、「3Dプリンターで作る銃の設計図」が公開されたことなどが大きな社会問題として注目を集めましたが、同様のことが人工知能に関しても起こると考えて間違いありません。
OpenAIの「GPT-4 Technical Report」の中には、何度も「emerge（出現する）」という言葉が使われています。GPTは、元は、途中で終わっている文章に最も適切な言葉を追加することが得意な人工知能として開発されましたが、ニューラルネットワークの規模を大きくするに従い、「知能のようなもの」が出現して（emerge）しまい、今では、司法試験やSAT（米国版の共通一次テスト）で人間よりも良いスコアを得るようになってしまったのです。
この記事の著者・中島聡さんのメルマガ
ページ: 1 2