AIが嘘を語る「ハルシネーション」

生成AIは、あたかも真実であるかのように「もっともらしい嘘」を出力することがあり、これを「ハルシネーション（幻覚）」と呼びます。AIは言葉の統計的なつながりを予測しているだけで、内容の正しさを理解していないため、平気で嘘の情報をそれらしく語るのです。

フランスの大学病院が行った驚きの検証では、AIが生成した「実際には存在しない病名」を、なんと研修医の44％が本物と信用してしまいました。一方で、この嘘を見抜けた医師たちは、日頃から「提示された情報に違和感を持ち、自力で複数の医学データベースを検索して裏付けをとる」という習慣が身についていました。

これはオフィスで働くすべての一般社員にとって極めて重要な教訓です。AIは非常にスマートに回答を返しますが、その中には精巧な嘘が混ざっています。AIが出した企画、データ、専門知識をそのまま信じて業務に使うのは禁物です。必ず人間が一次情報を直接確認する「ファクトチェック」の習慣を徹底しましょう。