@大模型幻覺 - DEFAULT 標籤詳情

編者按：為什麼大語言模型總是“一本正經地胡説八道”？它們是在故意欺騙，還是被訓練機制“逼”成了這樣？我們今天為大家帶來的這篇文章指出：幻覺並非模型的故障，而是當前訓練與評估機制下的一種理性選擇 —— 當模型因進行猜測獲得獎勵、因坦白“我不知道”而被懲罰時，編造答案就成了最優策略。文章系統剖析了幻覺的三大根源：預訓練階段以統計預測替代事實判斷、後訓練