麻薬や砂糖と同じ。人類にとって人工知能「最大の危険性」を世界的エンジニアが警告

by 中島聡『週刊 Life is beautiful』

10か月前

産業革命に匹敵する大きな変化を人類にもたらすとされる、人工知能の登場。しかしそれらは我々にとって、「敵」になりうる可能性も大きいようです。今回のメルマガ『週刊 Life is beautiful』ではWindows95を設計した日本人として知られる中島聡さんが、自身の中ではっきりと見えてきたという「人類にとっての人工知能の最大の危険性」について解説。その上で特定の状況下における人工知能の利用については、サブリミナル広告と同様の規制をかけるべきとの見解を記しています。

プロフィール：中島聡（なかじま・さとし）
ブロガー／起業家／ソフトウェア・エンジニア、工学修士（早稲田大学）／MBA（ワシントン大学）。NTT通信研究所／マイクロソフト日本法人／マイクロソフト本社勤務後、ソフトウェアベンチャーUIEvolution Inc.を米国シアトルで起業。現在は neu.Pen LLCでiPhone/iPadアプリの開発。

「砂糖」と「麻薬」の間のような存在に。AIの最大の危険性

先日、Lex FridmanによるYuval Noah Harari氏のインタビュー（「Yuval Noah Harari: Human Nature, Intelligence, Power, and Conspiracies」）を聞いていて、今まで私の頭の中で漠然と感じていた「人工知能の人類にとって最大の危険性」がどこにあるかがハッキリと見えて来ました。

分かりやすく言えば、その危険性は「砂糖」や「麻薬」と良く似ています。

人間（人間だけでなく、霊長類を含むさまざまな動物）は長い年月をかけて味覚を発達させ、自分が必要とする栄養分を摂取するようになりました。その中で、「甘み」を感じる味覚は、エネルギー源である「糖分」を含む食べ物を積極的に摂取するために重要な役割を果たして来ました。

しかし、サトウキビから簡単に砂糖を作れるようになった現代では、その「味覚」をハックする甘い飲み物（例：コカコーラ）や食べ物（例：チョコレート、羊羹、…）が巷に溢れ、それが肥満や糖尿病（2型）の主たる原因になっています。肥満や糖尿病が原因で亡くなる人が毎年何百万人もいることを考えれば、砂糖は人類の敵だとも言えます。

同じことは「麻薬」にも言えます。麻薬は、砂糖と違って、人間の脳や神経の働きに直接的な影響を与え、幻覚や高揚感を与えます。しかし、中毒症状を起こし、通常の生活を送れなくなったり、過剰摂取により命を落とす人が後と立ちません。砂糖と違って、麻薬は明らかに「人類の敵」です。

人工知能は、近いうちに、人類にとって、「砂糖」と「麻薬」の間のような存在になって行くと私は見ています。

InstagramやTiktokなどのSNSは、アルゴリズムにより、ユーザーをそのサービスに「長時間釘付けにする」ことにより成功したビジネスです。次のフェーズでは、そこに人工知能が応用されるようになります。それは、人工知能を活用した、ペット、セラピスト、恋人、相談相手、教祖などのさまざまな形をとって具現化されますが、その全てに共通するのは、それが「ユーザーを虜にし、それなしでは生きていけないぐらい重要な存在」になることを目指して設計させる点です。

私が、今、Metaでエンジニアとして働いているとしたら、もしくは、シリコンバレーでSNSのベンチャー企業を立ち上げるとしたら、必ずそこを目指します。人工知能の技術を活用し、ユーザーにとって「それなしでは生きて行けない」ぐらい重要な「バーチャル・ペット」なり、「バーチャル恋人」を作ることに成功すれば、それが莫大な価値を生み出すことは確実だからです。

この記事の著者・中島聡さんのメルマガ

初月無料で読む

ユーザーを社会的廃人にし得る人工知能という「合法ドラッグ」

それはある意味、「薬物を使わない合法ドラッグ」です。一度その罠にハマったユーザーは、喜んでお金を使ってくれるだろうし、設計次第では、家族や友人も失った「社会的な廃人」になってしまう可能性すら十分にあります。もちろん、本当に廃人になってしまっては、貢ぐためのお金を稼いでくれなくなるので、そのバランスが難しいところです。

一度、そんな形でユーザーを「掴んで」しまえば、彼らに特定の商品を買わせたりすることもそれほど難しくなくなります。究極の広告です。さらに、彼らが特定の党や候補者に投票するように仕向けたりすることも可能になります。

これは、明らか、人類にとっての危機です。多くの人々の経済活動や投票行動が、一部のIT企業に意のままに操られる時代が来ようとしていることを意味するのです。

広告業界では人間の意識と潜在意識の境界領域より下に刺激を与える「サブリミナル効果」は禁止されていますが、それと同様の規制をここにもかけるべきだと私は思います。具体的に、「何が違法なのか」を定義するのは簡単ではありませんが、上に書いたような、人工知能を活用した「バーチャル・ペット」や「バーチャル恋人」を使ってユーザーを虜にした上で、それらを通して彼らの消費行動や投票活動に影響を与えることは、明らかに禁止すべきです。

（『週刊 Life is beautiful』2023年7月25日号の一部抜粋です。続きはご登録の上お楽しみ下さい。初月無料です）

この記事の著者・中島聡さんのメルマガ

初月無料で読む

初月無料購読ですぐ読める！ 7月配信済みバックナンバー

※2023年7月中に初月無料の定期購読手続きを完了すると、7月分のメルマガがすべてすぐに届きます。

2023年7月配信分

週刊Life is beautiful ２０２３年７月２５日号： Code Interpreter：リバース・エンジニアリング(7/25)
週刊Life is beautiful ２０２３年７月１８日号： Code Interpreter, Noteable(7/18)
【中島聡×辻野晃一郎　特別対談】日本の技術者を殺す「ノリと雰囲気」とは？ Google日本元社長とWindows95の父が語るAI革命と2025年のゲームチェンジ(7/11)
週刊Life is beautiful ２０２３年７月１１日号： SlashGPT、function chaining、分裂する米国社会(7/11)
週刊Life is beautiful ２０２３年７月４日号：SlashGPT、アンモニアとカーボン・ニュートラル(7/4)

いますぐ初月無料購読！

＜こちらも必読！月単位で購入できるバックナンバー＞

※ 初月無料の定期購読のほか、1ヶ月単位でバックナンバーをご購入いただけます。

2023年6月配信分

週刊Life is beautiful ２０２３年６月２７日号：OpenAIの神アップデート(6/27)
週刊Life is beautiful ２０２３年６月２０日号：私の分身をGPT3.5を使って作る実験、「コンビニ交付システム」問題に関して一言(6/20)
週刊Life is beautiful ２０２３年６月１３日号：Apple Vision Pro、人工知能用言語 Mojo(6/13)
週刊Life is beautiful ２０２３年６月６日号： Google PaML2、GPTからAPIを安定して呼ぶ方法(6/6)

2023年6月のバックナンバーを購入する

2023年5月配信分

週刊Life is beautiful ２０２３年５月３０日号：Tokenizer、Teslaが「EV特許」をオープンソース化した理由(5/30)
週刊Life is beautiful ２０２３年５月２３日号：人工知能の知能テスト(5/23)
週刊Life is beautiful ２０２３年５月１６日号： AI Transformation、CLIP(5/16)
週刊Life is beautiful ２０２３年５月９日号： ChatGPTに知能はあるのか？(5/9)
【特別増刊号】ChatGPTで「君、クビね」続々。AI失業の米国最新事例とは？Windows95の父・中島聡がAuto-GPT、BabyAGIを「今すぐ使え」と叫ぶ訳(5/5)
週刊Life is beautiful ２０２３年５月２日号： BabyAGI、小泉進次郎節を語る人工知能(5/2)

2023年5月のバックナンバーを購入する

2023年4月配信分

週刊Life is beautiful ２０２３年４月２５日号：ETHGlobal Tokyo ハッカソン(4/25)
週刊Life is beautiful ２０２３年４月１８日号： EmbeddingsとGPTを組み合わせると最強だという話(4/18)
週刊Life is beautiful ２０２３年４月１１日号：知能や自意識の「出現」について(4/11)
週刊Life is beautiful ２０２３年４月４日号：プロンプト・エンジニアリング(4/4)

2023年4月のバックナンバーを購入する

2023年3月配信分

週刊 Life is Beautiful ２０２２年３月２９日号：水素自動車 vs. 電気自動車(3/29)
週刊 Life is Beautiful ２０２２年３月２２日号：Apple M1 Ultra の歩留まり(3/22)
週刊 Life is Beautiful ２０２２年３月１５日号：ソニーとホンダの提携(3/15)
週刊 Life is Beautiful ２０２２年３月８日号：プログラム言語 Solidity(3/8)
週刊 Life is Beautiful ２０２２年３月１日号：スマートコントラクト(3/1)

2022年3月のバックナンバーを購入する

2022年2月配信分

週刊 Life is Beautiful ２０２２年２月２２日号：NFTゲームのビジネスモデル(2/22)
週刊 Life is Beautiful ２０２２年２月１５日号：Meta（旧 Facebook）が抱える問題点(2/15)
週刊 Life is Beautiful ２０２２年２月８日号：自社製チップと粗利益率(2/8)
週刊 Life is Beautiful ２０２２年２月１日号：Netflixと放送革命の最終章、Voicy はじめました(2/1)

2022年2月のバックナンバーを購入する

2022年1月配信分

週刊Life is beautiful ２０２３年１月３１日号：日本に中距離弾道ミサイルが配備される時代(1/31)
週刊life-is-beautiful-２０２３年１月２４日号：人工知能入門、バックプロパゲーション(1/24)
週刊life-is-beautiful-２０２３年１月１７日号：デジタル・トランスフォーメーション(1/17)
週刊Life is beautiful ２０２２年１月１０日号：Tesla Roof(1/10)
週刊life-is-beautiful-２０２２年１月３日号：新年号、society-5.0a-政策編(1/3)

2023年1月のバックナンバーを購入する

2022年12月配信分

週刊life-is-beautiful-２０２２年１２月２７日号：society-5.0a、ググる時代の終わりの始まり(12/27)
週刊life-is-beautiful-２０２２年１２月２０日号：亡くなった人との会話を可能にする人工知能(12/20)
週刊Life is beautiful ２０２２年１２月１３日号：マウナロアの噴火(12/13)
週刊life-is-beautiful-２０２２年１２月０６日号：Web3の問題点とその未来(12/6)

2022年12月のバックナンバーを購入する

2022年11月配信分

週刊Life is beautiful ２０２２年１１月２９日号：NounsFes、世界初のベクター形式のオンチェーン・フォント(11/29)
週刊Life is beautiful ２０２２年１１月２２日号：エンジニアの生産性、OS作りの楽しさ(11/22)
週刊Life is beautiful ２０２２年１１月１５日号：書籍発売のお知らせ(11/15)
週刊Life is beautiful ２０２２年１１月８日号：障害続きのTypepad、Voicy Fes(11/8)
週刊Life is beautiful ２０２２年１１月１日号：Halloween(11/1)

2022年11月のバックナンバーを購入する

2022年10月配信分

週刊 Life is Beautiful ２０２２年１０月２５日号：Alconで基調講演(10/25)
週刊 Life is Beautiful ２０２２年１０月１８日号：On-Chain Splatter(10/18)
週刊 Life is Beautiful ２０２２年１０月１１日号：SECとWeb3(10/11)
週刊 Life is Beautiful ２０２２年１０月４日号：Decentralize Autonomous Ecosystem(10/4)

2022年10月のバックナンバーを購入する

2022年9月配信分

週刊 Life is Beautiful ２０２２年９月２７日号：ジェネラティブ・アート(9/27)
週刊 Life is Beautiful ２０２２年９月２０日号：Draw2Earn アプリ(9/20)
週刊 Life is Beautiful ２０２２年９月１３日号：イノベーションを起こす組織と人と(9/13)
週刊 Life is Beautiful ２０２２年９月６日号：全個体電池に社運を賭けるトヨタ自動車(9/6)

2022年9月のバックナンバーを購入する

2022年8月配信分

週刊 Life is Beautiful ２０２２年８月３０日号：GPT-3(8/30)
週刊 Life is Beautiful ２０２２年８月２３日号：自動運転ドローンの初フライト(8/23)
週刊 Life is Beautiful ２０２２年８月１６日号：オープンソース開発の素晴らしさ(8/16)
週刊 Life is Beautiful ２０２２年８月９日号：COVID-19、Phil LibinとWeb3(8/9)
週刊 Life is Beautiful ２０２２年８月２日号：一度始めたことを辞められない日本(8/2)

2022年8月のバックナンバーを購入する

2022年7月配信分

週刊 Life is Beautiful ２０２２年７月２６日号：中学生にも分かるWeb3、Full On-Chain と decentralization(7/26)
週刊 Life is Beautiful ２０２２年７月１９日号：中学生にも分かるWeb3、Solidity(7/19)
読者限定！けんすう氏との対談「稼げるWeb3.0の最前線」全文配信（2）(7/15)
週刊 Life is Beautiful ２０２２年７月１２日号：中学生にも分かるWeb3、ガバナンストークン(7/12)
読者限定！けんすう氏との対談「稼げるWeb3.0の最前線」全文配信（１）(7/8)
週刊 Life is Beautiful ２０２２年７月５日号：中学生にも分かるWeb3、Play2Earnゲーム(7/5)

2022年7月のバックナンバーを購入する

2022年6月配信分

週刊 Life is Beautiful ２０２２年６月２８日号：中学生にも分かるWeb3、DAO、DeFi(6/28)
週刊 Life is Beautiful ２０２２年６月２１日号：中学生にも分かるWeb3、現状のWeb3が持つ課題(6/21)
週刊 Life is Beautiful ２０２２年６月１４日号：中学生にも分かるWeb3、ジェネラティブNFT、NFTブーム(6/14)
週刊 Life is Beautiful ２０２２年６月７日号：中学生にも分かるWeb3、ICO、ICOブーム、IEO(6/7)

2022年6月のバックナンバーを購入する

2022年5月配信分

週刊 Life is Beautiful ２０２２年５月３１日号：中学生にも分かるWeb3、マイニング、スマートコントラクト(5/31)
週刊 Life is Beautiful ２０２２年５月２４日号：中学生にも分かるWeb3(5/24)
週刊 Life is Beautiful ２０２２年５月１７日号：初めてのNFTオークション、The Tesla Decade(5/17)
週刊 Life is Beautiful ２０２２年５月１０日号：Yuga LabsはWeb3時代のGAFAなのか？(5/10)
【中島聡×マナブ】「どうやって最先端テクノロジーを学ぶのか？」(5/5)
週刊 Life is Beautiful ２０２２年５月３日号：Nouns Art Festival(5/3)

2022年5月のバックナンバーを購入する

2022年4月配信分

【中島聡×成田悠輔】INVENT OR DIE 17　未来の設計者たちへ対談全文配信(4/28)
週刊 Life is Beautiful ２０２２年４月２６日号：NounsDAOに参加した理由(4/26)
【中島聡×夏野剛】INVENT OR DIE 17　未来の設計者たちへ対談全文掲載(4/22)
週刊 Life is Beautiful ２０２２年４月１９日号：Giga Texas、SMBC日興証券事件(4/19)
週刊 Life is Beautiful ２０２２年４月１２日号：キッチンカー、クリプトデバイド、bitFlyer 買収劇(4/12)
週刊 Life is Beautiful ２０２２年４月５日号：久しぶりの日本入国、円安と日本の物価(4/5)

2022年4月のバックナンバーを購入する

2022年3月配信分

週刊 Life is Beautiful ２０２２年３月２９日号：水素自動車 vs. 電気自動車(3/29)
週刊 Life is Beautiful ２０２２年３月２２日号：Apple M1 Ultra の歩留まり(3/22)
週刊 Life is Beautiful ２０２２年３月１５日号：ソニーとホンダの提携(3/15)
週刊 Life is Beautiful ２０２２年３月８日号：プログラム言語 Solidity(3/8)
週刊 Life is Beautiful ２０２２年３月１日号：スマートコントラクト(3/1)

2022年3月のバックナンバーを購入する

2022年2月配信分

週刊 Life is Beautiful ２０２２年２月２２日号：NFTゲームのビジネスモデル(2/22)
週刊 Life is Beautiful ２０２２年２月１５日号：Meta（旧 Facebook）が抱える問題点(2/15)
週刊 Life is Beautiful ２０２２年２月８日号：自社製チップと粗利益率(2/8)
週刊 Life is Beautiful ２０２２年２月１日号：Netflixと放送革命の最終章、Voicy はじめました(2/1)

2022年2月のバックナンバーを購入する

2022年1月配信分

読者のみなさまへ、バックナンバーのご案内(1/26)
週刊 Life is Beautiful ２０２２年１月２５日号：Axie Infinity はポンジースキームか？(1/25)
週刊 Life is Beautiful ２０２２年１月１８日号：プログラミングと数学(1/18)
週刊 Life is Beautiful ２０２２年１月１１日号：ソニーへの提案(1/11)
週刊 Life is Beautiful ２０２１年１月４日号：テクノロジー業界の定点観測(1/4)

2022年1月のバックナンバーを購入する

2021年12月配信分

週刊 Life is Beautiful ２０２１年１２月２８日号：エンジニアから見たNFT(12/28)
週刊 Life is Beautiful ２０２１年１２月２１日号：教育ゲームと人工知能(12/21)
週刊 Life is Beautiful ２０２１年１２月１４日号：デジタル庁に向けた提言(12/14)
週刊 Life is Beautiful ２０２１年１２月７日号：ドローンベンチャーを立ち上げた理由(12/7)

2021年12月のバックナンバーを購入する

2021年11月配信分

週刊 Life is Beautiful ２０２１年１１月３０日号：Waymo vs. Tesla(11/30)
週刊 Life is Beautiful ２０２１年１１月２３日号：日本社会を浄化する「もの言う株主」(11/23)
週刊 Life is Beautiful ２０２１年１１月１６日号：日本政府が「脱石炭」に賛同出来ない理由(11/16)
週刊 Life is Beautiful ２０２１年１１月９日号：FacebookのMetaverseに感じる違和感(11/9)
週刊 Life is Beautiful ２０２１年１１月２日号：人生の岐路とドローンベンチャーの話(11/2)

2021年11月のバックナンバーを購入する

2021年10月配信分

週刊 Life is Beautiful ２０２１年１０月２６日号：M1 Pro・M1 Max の写真に隠された秘密(10/26)
週刊 Life is Beautiful ２０２１年１０月１９日号：NFTアプリの開発を始めました(10/19)
週刊 Life is Beautiful ２０２１年１０月１２日号：リモート・ワーク（ハワイ編）(10/12)
週刊 Life is Beautiful ２０２１年１０月５日号：3Dプリンタ、三週目(10/5)

2021年10月のバックナンバーを購入する

2021年9月配信分

週刊 Life is Beautiful ２０２１年９月２８日号：3Dプリンタ、二週目(9/28)
週刊 Life is Beautiful ２０２１年９月２１日号：3Dプリンタ(9/21)
【特別増刊号】私が米Ginkgo Bioworks社に投資した理由。未上場ユニコーンの株主になる方法、必読の資料、合成生物学が世界を一変させる可能性について(9/21)
週刊 Life is Beautiful ２０２１年９月１４日号：日本の半導体ビジネスの興亡(9/14)
週刊 Life is Beautiful ２０２１年９月７日号：自動車に設置した Apple AirTag (9/7)

2021年9月のバックナンバーを購入する

2021年8月配信分