「幻覚」という意味の英語から来た言葉です。AI は言葉のつながりから答えを組み立てるため、ありもしない数字や法律の条文、会社の名前を、自信がありそうな書き方で示すことがあります。
減らすには、元になる資料を AI に渡し、「この資料に書いてあることだけで答えて」と頼みます。そのうえで、答えに出てきた数字や固有名詞は、人が元の資料と照らします。AI の基礎とセキュリティの基礎は、当社の AI基礎研修の第 1 部でお話ししています。
要点よみ: はるしねーしょん
AI が、事実と違う内容を、もっともらしい文章で答えてしまうこと。