AIの利用が広がる中で、入力された内容に対して
いかにもそれっぽいように見えるいい加減な内容を
AIが出力してしまうという問題が生じています。
こうした現象は「幻覚(ハルシネーション)」と呼ばれるそうです。
カリフォルニア大学サンディエゴ校と清華大学の
共同研究グループは、こうしたAIの幻覚を防ぐための
アプローチとして、
「Adapting While Learning(学習しながら適応する)」
と名付けた新しいAIのトレーニングプロセスを提案。
AIが取り組むタスクの難易度を評価できるように
するという「Adapting While Learning」の
具体的な方法とは？
詳しくはリンク記事でご確認ください。
AIに自力で解決しようとするのではなく「正しいタイミングで外部ツールを頼る」方法を学ばせることでパフォーマンスが約30％上昇したという研究結果 – GIGAZINE
大量のデータでトレーニングされた人工知能(AI)は、さまざまなタスクを高度にこなすことができるほど進化しつつありますが、それでも苦手な分野やミスしやすいケースなどがあります。カリフォルニア大学サンディエゴ校と清華大学による共同研究では、AIがシステムに組み込まれた知識だけに頼るのではなく、「外部ツールにいつ頼るべきか」をAIに教えることで、パフォーマンスの制度が28％向上することが示されました。
[PR]