やじうまWatch

「こんなことも分からないの?」失礼な口調ほどChatGPTの正答率が上がるとの調査結果

 質問の口調が失礼であればあるほど、ChatGPTのパフォーマンスが向上するとの研究結果が発表されて話題になっている。

 これはペンシルベニア州立大学の研究によるもの。ChatGPTに対し、口調が「非常に丁寧」「丁寧」「中立」「失礼」「非常に失礼」という5通りのプロンプトを用意して質問を行ったところ、口調が失礼になるほど正答率が上がったという。具体的には、非常に丁寧=「この問題を解いてもらえますか?」という口調では正答率が80.8%だったのに対して、非常に失礼=「気の毒なやつめ、これの解き方すら分からないのか?」では84.8%に上昇したのだという。かつて2024年に早稲田大学と理化学研究所が行った研究では、これとは正反対で、プロンプトが丁寧であるほど性能が向上し、失礼なプロンプトでは不正確な回答や回答拒否につながるとの結果が出ていた。当時使われていたのはGPT-3.5であり、GPT-4oのような新しいモデルは、人間の丁寧さを模倣するよりも直接的な表現を優先するように訓練されているため、反応が異なっている可能性があると研究者は主張している。ただし、こうした失礼な口調は、人間に対する行動をも攻撃的にさせる危険があると警告している。