Episode Details

OpenAIが9月5日付で「なぜ言語モデルは幻覚するのか」を公開しました。結論はシンプルで力強いものです。現在主流の学習・評価プロセスは“正確さだけ”を重視し、わからないときに黙るよりも“当て推量”を選ぶモデルを高得点にしてしまう──その設計が、確信めいた誤答＝ハルシネーションを温存させている、という指摘です。論文は、学習理論の枠組みでこの現象を統計的に説明し、特に評価法を「誤答に厳しく、不確実性の表明には部分点」を与える方向へ改めるべきだと訴えています。