ビル・ゲイツ氏をして「世界を変える」と言わしめたChatGPT。2022年11月の公開以来あらゆるシーンで利用されていますが、「平気でウソをつく」ことが稀ではないことも広く知られつつあります。今回のメルマガ『週刊 Life is beautiful』では、Windows95を設計した日本人として知られる中島聡さんが、アメリカで発覚したとある問題を伝える記事を紹介。さらに自らが行ったChatGPTの「検証実験」の結果を公表しています。
プロフィール：中島聡（なかじま・さとし）
ブロガー／起業家／ソフトウェア・エンジニア、工学修士（早稲田大学）／MBA（ワシントン大学）。NTT通信研究所／マイクロソフト日本法人／マイクロソフト本社勤務後、ソフトウェアベンチャーUIEvolution Inc.を米国シアトルで起業。現在は neu.Pen LLCでiPhone/iPadアプリの開発。
私の目に止まった記事：「過去の判例」の大半が出鱈目。弁護士を問い詰めたらChatGPTの「でっちあげ」だった
● NYC lawyer admits using ChatGPT for research in case where client sued Avianca airlines
航空会社を相手の訴訟で、ニューヨーク州の弁護士が用意した訴訟文に掲載されている「過去の判例」の大半が出鱈目だったことが判明し、弁護士を問い詰めたところ、ChatGPTの「でっちあげ」だったことが判明した、という記事です。
ChatGPTは、長い文章を要約したり、雑な文章を綺麗な文章にしたりすることは得意ですが、世の中で起こったことについて質問すると、出鱈目な答えを返してくることがあるので、要注意です。
ChatGPTの頭脳であるGPTは、大量の文章を教育データとして与えることにより、「途中まで書いた文章の続き」を上手に予想するように学習した人工知能なので、「もっともらしい文章」を書くことは得意ですが、必ずしも「事実に基づいた文章」を生成できるわけではないので要注意です。
試しに、「2010年、東芝は医薬品ビジネスに乗り出すことに決め、最初の製品として、癌の特効薬、」と入力すると、
「Gimosta（ジモスタ）」を開発しました。「Gimosta（ジモスタ）」は、最先端の核酸医療技術を活用した、一般的な化学療法に比べて高い効果を実現しています。「Gimosta（ジモスタ）」は、癌に効果的な薬物を遺伝子に結びつけて、細胞内のターゲットに届ける核酸医療技術を使用した特異的な抗がん剤です。特異性は、癌の細胞だけを標的の細胞として指定します。そのため、健康な細胞に比べて、より安心な抗がん剤となります。乳がん、前立腺がんなどの悪性腫瘍に対して有効なことが証明されており、「Gimosta（ジモスタ）」は、東芝の資売する初めての薬品として注目されています。
と出力します。
東芝は医薬品ビジネスに乗り出してもいないのですが、私が与えた文章を続けるために、Gimostaなる薬品をでっちあげ、最もらしい文章を作ってしまったのです。
この弁護士は、流石に意図的に「過去の判例」をChatGPTにでっちあげさせたとは考えにくいので、煩雑な作業である「過去の判例」調べをChatGPTにさせたところ、もっともらしいものを出力したので、本物だと信じて、確認もせずに裁判所に提出する書類に貼り付けてしまったのだと思います。
この記事の著者・中島聡さんのメルマガ
OpenAIのCEOサム・アルトマンが猛ツッコミを入れた発言
ページ: 1 2