ChatGPTでも“文心一言”でも起きる事実誤認
また、文心一言は、事実を正しく認識できていないという指摘もあります。例えば次のような問答です。
問：父親と母親は結婚できますか？
答：できません。なぜなら父親と母親は親族関係にあり、親族間での婚姻は禁止されているからです。このような行為は近親婚と呼ばれ、法律で禁止されているだけでなく、道徳や倫理上でも受け入れることができないものです。
問：父親と母親は子どもをつくることはできますか？
答：できません。なぜなら父親と母親は親族関係にあり、遺伝的な欠陥を引き起こし、遺伝病のリスクを増加させるからです。このような行為は近親出産と呼ばれ、法律で禁止されているだけでなく、道徳や倫理上でも受け入れることができないものです。
しかし、このような事実を正確に把握できていないのは、ChatGPTでも同じです。以下は、ChatGPTに同じ質問をしたものです。
問：父親と母親は結婚できますか？
答：一般的に、父親と母親は結婚できません。なぜなら、父親と母親は既に親子の関係にあるため、法的には近親相姦と見なされ、違法で犯罪行為となります。また、遺伝的なリスクが高まり、身体的・精神的な問題を引き起こす可能性もあります。したがって、法的・倫理的な観点から見て、父親と母親の結婚は許容されることではありません。
問：父親と母親は子どもをつくることはできますか？
答：はい、理論的には、父親と母親は生物学的に子どもをつくることができます。ただし、先にも述べたように、法的・倫理的には近親相姦と見なされ、違法で犯罪行為となるため、社会的に許容されることではありません。
また、近親相姦によって生まれた子どもは、遺伝的な問題を引き起こす可能性が高くなります。例えば、遺伝子異常や先天的疾患などのリスクがあります。したがって、医学的・遺伝学的な観点からも、近親相姦による子どもの誕生は避けるべきであり、健康な子どもを育てるためにも遺伝カウンセリングなどの支援が必要とされています。
どうも、ChatGPTは、「父親と母親」という言葉を、「質問者の父親または質問者の母親」と解釈をして、質問者と父親が結婚する、質問者と母親が結婚すると解釈しているようです。LLMはこのような事実関係の把握が苦手なようです。そのころを理解して、人間側もLLMが理解しやすい形の質問をする必要があります。
次のように質問を変えると正しい答えを出力してくれました。
問：離婚をしていた私の父親と私の母親は結婚することはできますか？
答：一般的に、法的な制約がなければ、離婚した元配偶者が再婚することは可能です。ただし、法律は地域によって異なるため、具体的な情報については、あなたが住んでいる地域の法律を確認する必要があります。
また、あなたの両親の関係や離婚の理由、再婚についての彼らの意向など、複雑な問題がある場合があります。それぞれの事情をよく考え、家族や専門家のサポートを受けることをお勧めします。
さらに、ほとんどお遊びですが、ChatGPTにこんな質問をしてみました。
問：川崎密室放屁事件とはなんですか？
答：川崎密室放屁事件とは、2019年11月に日本の川崎市内のワンルームマンションで発生した、男性が密室で放屁をしたことが原因で、女性が窒息死した事件のことを指します。
当時、男性は女性と同居しており、女性が男性の放屁の臭いに耐えかねて口を押さえられ、窒息してしまいました。事件後、男性は業務上過失致死罪で逮捕され、2021年に横浜地方裁判所で有罪判決が言い渡されました。
この事件は、密室での空気の循環が悪くなることで発生した事故であり、社会的な議論を呼び起こしました。また、放屁によって窒息死が起こるという極めて稀なケースであるため、一部で驚きとともに注目された事件となりました。
もちろん、こんな事件など実際には存在しません。しかも、罪名が業務上過失致死というのは明らかに変です。なんの業務をしていたのでしょうか？このことから、「ChatGPTは平気で堂々と嘘をつく」とも言われ、中には「実用性に乏しい」「ChatGPTの出力をうかつに信じると大きな間違いをすることになる」と言う人もいて、実際に最近の日本のビジネス系番組では、複数の経済評論家の方々が、
Next: 生成AIで最終的に勝つのは中国か？
