日常に生成AIを取り入れているという人も増えていますが、
この生成AIが、聞かれたことに対して
「分かりません」とは答えずに適当なでっち上げを返してくる
という経験をした人は少なくないと思います。
パリ高等師範学校の研究チームは、オープンソースのAIモデル
「Step 3.5 Flash」を採用し、このモデルが苦手とする分野の
質問を考案し、この質問に正しく回答できないことを確認した上で、
人間にも同じ質問をする実験として、人間は2つのグループに分かれ、
片方はStep 3.5 Flashを使うことが許可された状態で検証。
生成AIを使わなかったグループと使ったグループにおける
回答の違いとは？
詳しくはリンク記事でご確認ください。
AIの「分かったふり」を見続けていると人間も「分からない」と言えなくなるという研究結果 – GIGAZINE
生成AIはしばしば、聞かれたことに対して「分かりません」とは答えずに適当なでっち上げを返してくることがあります。生成AIを使う人間もこれに影響され、「分かりません」と言えなくなってしまっている可能性が見えてきました。
[PR]