鄭然泰的專業GPT革命5 | 針對ChatGPT長期存在的「幻覺」問題

OXMV框架引入了一項原則，即不自動信任用戶問題的前提。這意味著提示中包含的假設，例如「為什麼A導致B？」，會被分離為「提示前提」，並在作為進一步推理的基礎之前評估其事實準確性。這種機制解決了一種微妙的失敗模式，即AI可能會根據未經證實的錯誤前提進行流暢的解釋。

除了提示審查之外，OXMV還將句子解構為「原子主張」，允許每個實質性命題單獨驗證。這個過程會為每個主張保留重要的界限，例如時間、人群和範圍，旨在控制語義強化，例如「可能改善」變成「已被證明改善」，或者將特定條件推廣為普遍結論。

OXMV的另一個原則是區分來源和實際證據。系統將來源是否存在且正確的問題，與其相關段落是否直接支持某個主張，以及該證據是否足以支持該主張的強度等問題分開。這種分離旨在確保檢索文件不等於驗證其內容或其所支持的主張。