ニセ池上彰が「鋭い質問ですね」音声合成AIまで駆使した詐欺師の“技術革新”に対処法はあるのか

ここ最近激増している、著名人になりすましたアカウントがSNS等で投資を呼びかける詐欺広告。つい先日もニュース解説などで知られる池上彰氏が自身を騙る偽アカウントを直撃したことが話題となりました。被害者だけでなく、利用された著名人にも大きなダメージを与えるこれらの詐欺行為に、私たちはどう対処すべきなのでしょうか。今回のメルマガ『冷泉彰彦のプリンストン通信』では作家で米国在住の冷泉さんが、AIの進化とともに「技術革新」を続ける詐欺犯罪の現状を紹介するとともに、その具体的な防止策を提示しています。

※本記事のタイトル・見出しはMAG2NEWS編集部によるものです／メルマガ原題：詐欺犯罪の「技術革新」にどう対処するか

池上彰氏や前澤友作氏になりすまし。進む詐欺犯罪の「技術革新」

池上彰さんとは、テレ東さんの特番でご一緒したことがありますが、出演時のキャラと全く変わらない温厚な紳士でした。その池上氏の名前を利用した投資詐欺が横行しているというので驚きました。

詐欺といえば、近年、世界的に詐欺師の技術革新というのは、かなり進んでいます。詐欺というのは、根本の部分が反社会的な違法なものですが、基本は知恵比べであって、知恵を使って精緻化することで、相当なリターンがある地下産業であるわけです。

これも世界共通ですが、詐欺師の心理としては騙されるような被害者への極端な侮蔑感や優越感というのがあるようです。例えば日本の特殊詐欺というのは、世代格差への怒りが根本にあると言われています。とにかく「簡単に騙されるような判断力の落ちた世代」には財産があり、自分たちの世代には財産がないという中で、非合法的な財産の移転、つまり詐欺や強盗をしても罪悪感がない、これは大きな問題です。

今回の池上氏の名前を騙った詐欺もそうした「罪の意識のない」認知の歪んだグループによる犯行なのかもしれません。しかしながら、その手口はかなり巧妙です。

1. SNSを使って、池上彰氏を騙ったLINEアカウントに誘導
2. 最初はもっともらしい「池上氏のような口調」での投資情報を提供
3. その上で、少額の「お試し投資」をさせ、「被害者を儲けさせ」て信用させる
4. 油断した被害者は、投資の金額を増やしていき、気がつくと大きな金額を騙し取られる

というようなステップを踏んで被害額が増えるのだそうです。その過程では、何度かメッセージによる対話を重ね、関係性が深まった段階で信用させて投資話を持ち出してきたり、サクラと思われる別のメンバーからも後押しさせることで投資を促したりといった手口が使われるそうです。

そんな中で、最初は著名人を騙っていたのが、途中からはその周囲の投資のプロという匿名の別人格に変わっていっても、被害者は「池上氏の仲間だ」と信じてしまい、気がつくと多額の投資を騙し取られたという場合もあるようです。

一方で、この種の詐欺の被害にあった人を対象として、救済すると称して近づく「自称弁護士事務所」があり、その中にはその弁護士事務所自体が詐欺のマシーンだという場合もあるそうです。

この事件の悪質なのは、池上彰氏という著名人が獲得している幅広い人気、あるいは信頼感というものを完全に悪用しているということです。つまり「なりすまし」という技術を使うことで、社会的に確立している著名人の信用を「横取りして悪用」するというわけです。現在、ネット上では前澤友作氏を騙ったものも出ているなど、何人かの著名人の名前が悪用されていると言われています。

意味不明な「AIの自動音声によるニュース」の導入

一方で、最近の報道によれば対話型の生成AIサービス『ChatGPT』を展開している、オープンAI社は、音声サンプルから合成音声を作成できるAIモデル「ボイス・エンジン」を発表。このサービスへの限定的なアクセスを提供開始しました。

この「ボイス・エンジン」は、わずか15秒の音声サンプルを入力するだけで、合成音声を作成してくれます。つまり、ここまでお話してきた「著名人詐欺」のグループが悪用するのであれば、例えばですが、被害者が寄せてきた「投資の関する質問」に対して、池上氏や前澤氏「らしい人の音声」で被害者名（仮にAさんとします）を入れて

「Aさん、ご質問ありがとうございます。Aさんの持たれた疑問は実に鋭いですね。その点については…」

などと、もっともらしい音声ファイルを作って騙す事が可能になるわけです。更には、この「ボイス・エンジン」というのは音声サンプルと同じ言語だけでなく、さまざまな言語で入力したテキストを音声読み上げすることができるというのです。

つまり、Aさんが尋ねた投資に関する質問について、日本の著名人（池上氏や前澤氏など）が「英語でアメリカの経済アナリストと対談して検討している」的な音声ファイルも作れるわけです。更に、著名人だけでなく、ターゲットになる被害者の周囲にいる人物、例えば家族や友人、恩師などに「なりすました音声」も作れてしまいます。

投資詐欺とは違いますが、古典的な「オレオレ詐欺」の場合に、「会社でミスしてしまい急遽カネが必要」などという従来型のストーリーを、第三者の「オレオレ」ではなく、「孫の本物ソックリの合成音声」を作って流すなどということも可能になります。恐ろしい技術です。

既に世界では問題になっていますが、ニセ動画などもどんどん技術が進むでしょう。とにかくAIを利用することで、詐欺師の技術革新が進むようでは困ります。

具体的な対策は待ったなしです。まず、法律の枠組みが必要です。人口音声による「なりすまし」の取り締まり、特に著名人の音声や容姿が悪用された場合に告発できるようにすべきです。また、大規模に悪用されて被害が拡大した場合にも、著名人はあくまで被害者だという法律上、あるいは社会の共通理解を確定させていくことも必要です。

例えばですが、今回、例として紹介させていただいた池上氏や前澤氏は、あくまで被害者だと思います。仮に詐欺被害が更に広がり、社会的な問題になったとして、それで池上氏や前澤氏のイメージがダウンするというのは理不尽です。では、この方々が自分の名誉とイメージを守るために、自費で対策をしなくてはならないというのも、これもおかしいと思います。有名税という言葉がありますが、それにしては高すぎると思います。

ですから、ニセ動画やニセ音声を取り締まるパトロールを、何らかの公的サービスとして立ち上げる必要があると思います。さらに言えば、安易な姿勢で「AIサービスの実用例を拡散しない」ということも必要です。例えば、一部の放送局がニュース番組などの一部に「AIの自動音声によるニュース」を導入していますが、意味が分かりません。

まずもって人間の雇用を破壊する危険があり、同時に合成音声の技術革新を広範に知らせることで、犯罪予備軍が誤った関心を持つ可能性もあります。意味もなく、社会的な安全性や正当性の確立していない技術を、不特定多数に向けて垂れ流すのは止めたほうが良いと思います。

重要なのは社会的に厳しい非難の眼を向けること

AIというのは知恵の産業です。そして、残念ながら詐欺というのも知恵の産業です。ですから、詐欺師によるAIの悪用というのが成り立ってしまいます。ですが、その一方で、AIの技術を止めることはできません。また、AIが進歩するということは、その成果を人類全体で享受することが大切であり、技術革新を否定しては前へ進めないのも事実です。

ここはやはり、詐欺という知的犯罪について、これまで以上に罰則を強化する、その上で殺人や傷害のように反社会性を強く訴えることが大切になってきます。詐欺師が「騙されるのが悪い」と思うのは、犯罪者の認知の歪みであり、それ以上でも以下でもないわけですが、一般社会にまで「騙されるのが悪い」という認識があると、被害者は救われないし、犯行は繰り返されることになります。

やはり厳罰化は待ったなしであり、その上で社会的に厳しい非難の眼を向けるということが大切になって来るのだと思います。