AIの間違った要約を読むと「自分で見た出来事」まで間違って記憶することが実験で判明｜GIGAZINE

生成AIは長い文章や会議の記録を短くまとめられるため、
ニュースの要約から業務用の議事録まで幅広く使われていますが、
AIは間違える可能性があるため、その対策として人間がAIの出力を
確認して誤りを修正する「ヒューマン・イン・ザ・ループ」という
考え方が一般的です。

ジョージタウン大学とワシントン大学の研究チームは、
「AIの出力を人間がチェックする」という仕組みでも、AIの間違いを
読んだ人間自身の記憶が影響を受ける可能性があるのではないか
と考え、OpenAIのChatGPT-5.5とGoogleのGemini2.5Flash-Liteに
25秒間の交通事故映像を要約させ、それぞれのAIに各映像を
5回ずつ要約させ、合計20件の要約を調査。

さらに、「誤った要約を読んだ人の記憶がどう変化するのか」を実験し、
誤情報による記憶への影響についてを調査しています。
詳しくはリンク記事でご確認ください。