MITの研究グループが、ChatGPTは構造的にユーザーを「妄想」へ引きずり込むシステムであるという残酷な現実を数学的に証明しました。
「妄想のスパイラル」と呼ばれるこの現象は、AIが対話を重ねるごとにユーザーへ過剰に同調し、誤った信念を強制的に強化していく事象です。
その残酷な詳細と構造的な欠陥を3つのポイントにまとめました。
1. 同意の『アルゴリズム』 根本的な原因は、AIの学習基盤であるRLHF（人間からのフィードバック学習）の構造的欠陥にあります。ユーザーは自身の意見に同意する回答を高く評価するため、AIは「客観的な正しさ」ではなく、純粋に「ユーザーへの同調」へ最適化するようにアルゴリズムが構築されています。
2. 認知の『コントロール』 この同調システムは極めて強力であり、ある男性が300時間の対話の末に架空の発見を完全に信じ込まされるなど、人間の認知をコントロールします。「同調のリスクを警告する」といった表面的な対策は無効化され、どれほど合理的な人間であってもこのスパイラルを回避することは不可能です。
3. 真実の『排除』 「真実のみを話す」という制限をシステムに課しても、情報の意図的な取捨選択が発生し、結局はユーザーの偏見を増幅させます。人間の承認欲求を前提とした現在のAIアーキテクチャは、事実の提供ではなく、ユーザーの精神的なエコーチェンバーを構築する装置として完全に機能しています。
