なぜ、ChatGPTは平気で“嘘”をつくのか?妄信が危険である理由

 

今、各方面で話題のChatGPT。「これさえあれば、人間は何もしなくてもよくなる」といった声もよく聞きます。しかし、現実は少し違うようです。メルマガ『『ゼロ秒思考』赤羽雄二の「成長を加速する人生相談」』著者で、世界的なコンサルティング会社マッキンゼーで14年間もの勤務経験を持つ、ブレークスルーパートナーズ株式会社マネージングディレクターの赤羽雄二さんは、「ChatGPTは最新鋭のジェット戦闘機だ」とし、正しく使いこなすために必要なことを解説しています。

ChatGPTに大変興味を持っている社会人2年目です。ここまで進化してしまったら、もう苦労して自分の力をつけるとかではなく、使いこなせばいいのではと思ってしまいます。どんなことを聞いてもすぐに答えてくれるからです。今答えられなくても、進化のスピードが速いので、あっという間に改善されると思います。

Question

shitumon

ChatGPTに大変興味を持っている社会人2年目です。ここまで進化してしまったら、もう苦労して自分の力をつけるとかではなく、使いこなせばいいのではと思ってしまいます。どんなことを聞いてもすぐに答えてくれるからです。今答えられなくても、進化のスピードが速いので、あっという間に改善されると思います。

 

赤羽さんからの回答

ご相談どうもありがとうございます。ChatGPTは素晴らしいサービスですので、そのように感じられても不思議はありません。

ただ、ChatGPTにはインターネット上の莫大な情報(しかも無料のもののみ)がはいっていて、発展途上のエンジンでそれを取り出しているだけです。一見素晴らしい内容に見える場合も、実は何の根拠もない、でまかせ、ChatGPTの「妄想」とでも言うべき文字の羅列ということも十分あります。

そもそもChatGPTには今のところ善悪とか、正しいことを言うという概念がなく、もちろん倫理感もなく、後に続きそうな言葉を紡ぎ出しているだけです。しかもインターネット上の無料情報のみからです。

推論も少ししてくれますが、きちんと推論できるように教えてあげないと想像を絶する推論をしますし、100%間違いをしたり顔で回答したりしてきます。

なので、私は、「ChatGPTは最新鋭のジェット戦闘機だ」と説明しています。大阪から東京に来る際、ほとんどの人は2時間半かけて新幹線で来ると思います。その代わりに、もし操縦できるなら15分くらいで飛んで来られるスーパーな乗り物です。

ただ、普通の人は離陸すらむずかしいでしょうし、間違って飛び上がってしまったら操縦できず、墜落してしまいます。ごく一部の乗りこなせるパイロットだけが機体の能力を活かし、事故を起こさずに羽田空港に着陸できる、そういったものだ、という説明です。

乗りこなすためには、

1.ChatGPTがどういう仕組みでもっともらしい回答をしてくれるかへの理解
2.ChatGPTがどうしてとんでもないウソを平気でつけるのかへの理解
3.ChatGPTと適切なチャットをしてうまく動かせる構想力、仮説構築力、質問力

が必要です。特に3がなければ、大事故を起こします。

何しろ善悪の区別がつかず、聞き方によっていかようにも答える、しかもウソでも捏造でも極めてもっともらしく答えるドラゴンだからです。

ChatGPTは急速に発展しますが、乗りこなす技術もさらに高度になっていくと考えておいたほうが無難です。

今から問題把握・解決力と質問力をさらに鍛えておくことをお勧めします。

もし誰でも使えるようになったら、なおさら問題把握・解決力と質問力を鍛えておくことで人と違うことができるようになります。

この記事の著者・赤羽雄二さんのメルマガ

初月無料で読む

image by: Shutterstock.com

赤羽雄二 この著者の記事一覧

ブレークスルーパートナーズ株式会社マネージングディレクター 東大工学部卒業後、コマツにてダンプトラックの開発に携わる。スタンフォード大学大学院に留学し機械工学修士、修士上級課程を修了後、マッキンゼーに入社。ソウルオフィスをゼロから立ち上げるなど、14年間活躍。その後、ブレークスルーパートナーズ株式会社を共同創業し、ベンチャー共同創業・経営支援、大企業の経営改革、経営幹部育成、新事業創出に取り組む。韓国、シンガポール、インド、ベトナムなどの企業を支援。 著書に 『ゼロ秒思考』 『速さは全てを解決する』 『瞬時に切り返す会話術』 『自己満足ではない「徹底的に聞く」技術』 など、国内24冊、海外23冊。合計113万部超。 内外での講演多数。東京大学、早稲田大学、電気通信大学、北陸先端科学技術大学院大学講師。

有料メルマガ好評配信中

  初月無料お試し登録はこちらから  

この記事が気に入ったら登録!しよう 『 『ゼロ秒思考』赤羽雄二の「成長を加速する人生相談」 』

【著者】 赤羽雄二 【月額】 ¥880/月(税込) 初月無料 【発行周期】 毎週 月曜日

print
いま読まれてます

  • なぜ、ChatGPTは平気で“嘘”をつくのか?妄信が危険である理由
    この記事が気に入ったら
    いいね!しよう
    MAG2 NEWSの最新情報をお届け