大模型幻覺的生成原因

  在人工智能領域，幻覺特指大模型生成的內容看似語法正確、邏輯嚴謹，但實際上存在著事實錯誤或無法驗證事實的現象，具有“一本正經胡說八道”、無法確認現實依據等特征。大模型的幻覺包括事實性幻覺與忠實性幻覺兩種類型，前者指的是與事實不一致或存在事實捏造，后者指的是生成內容與用戶指令不一致、上下文不一致或邏輯不一致。

  在本質上，大模型的幻覺問題是其技術架構、訓練和生成模式共同作用的產物，具有一般性、偶然性、隨機性、難以避免或克服等特征。在生成機制上，大模型幻覺的核心成因來自概率驅動的技術架構、訓練數據局限性以及人機互動生成邏輯的多重耦合。

  首先是技術架構的能力短板。目前大模型主要采取基于轉換器結構的GPT范式，這種技術架構確能大幅度提高自然語言處理的精度與效率，但在預訓練、監(jiān)督微調、推理等環(huán)節(jié)都可能存在能力短板，產生與事實、指令或上下文不一致的幻覺問題。例如在預訓練階段，大模型通過自回歸生成方式，基于歷史標記的概率分布逐詞預測輸出。這種機制天然缺乏對上下文語義一致性的把控能力，容易優(yōu)先選擇概率更高但與事實、邏輯不一致的詞匯組合，輸出形成“語法正確但內容失真”的幻覺。

  其次是訓練數據的天然缺陷。大模型基于互聯網海量數據進行深度學習，但由于互聯網語料并未經過嚴格檢驗處理，或者由于錯誤標注，不可避免存在事實錯誤或邏輯矛盾，大模型缺乏對數據真實性的鑒別能力，容易抓取或根據錯誤數據生成回答。例如，當要求GPT4大模型講述“林黛玉倒拔垂楊柳”的故事時，大模型并不能辨析其中的陷阱，而是未經事實驗證直接從海量文本數據中進行內容拼接，編造出一段荒謬情節(jié)。

  最后是人機互動的刻板誤傷。大模型采取的人類反饋強化學習，容易導致大模型在刻意逢迎人類需求過程中出現信口開河、事實偽造等問題。如加拿大航空聊天機器人在錯誤理解“特殊退款”概念后，連續(xù)生成虛構的退款條件與時限，最終釀成法律糾紛。大模型特有的技術架構和生成邏輯，導致幻覺具有自我強化的危險性。

大模型幻覺的價值風險

  大模型幻覺的隨機出現和難以避免，還存在著削弱人機信任、導向信息極化、沖擊社會秩序甚至引發(fā)意識形態(tài)安全危機等價值風險，亟待加強預防與治理。

  大模型幻覺最直接的危害就是對用戶決策的誤導，特別是在醫(yī)療、健康、金融等領域。大模型的權威性表達風格與流暢的敘事邏輯，使得錯誤信息具有極強的迷惑性。如果用戶過于依賴大模型生成信息輔助決策，很有可能被誤導進而產生嚴重后果。例如，相信大模型提供的錯誤治療方案，可能導致疾病無法控制甚至進一步惡化。長此以往，恐將削弱人機信任關系。

  更令人擔憂的是，大模型幻覺引發(fā)的價值風險呈現出從個人決策誤導向群體認知偏差、社會秩序沖擊的擴散路徑。在公共決策領域，幻覺可能扭曲政策認知，如果不加強對大模型輸出信息的甄別與把關，很有可能出現誤讀政策、發(fā)表歧視言論等幻覺問題，不僅會削弱政府公信力，甚至會危及社會公共安全。

  在意識形態(tài)安全領域，相關威脅更加隱蔽。例如，相關研究監(jiān)測到，某些境外大模型帶著意識形態(tài)的有色眼鏡看待中國特色社會主義發(fā)展成就與制度優(yōu)勢，刻意混入虛假事實或錯誤評價，形成與主流話語不同的輸出。這種經過意識形態(tài)包裝的幻覺內容，通過知識問答形式進行價值滲透，其誤導性遠超傳統虛假信息。

大模型幻覺的治理對策

  預防與治理大模型幻覺，應構建技術糾偏、法律規(guī)制與倫理調適的三維治理體系，通過技術優(yōu)化消除幻覺問題，借助法律規(guī)制明確責任邊界，依托倫理調適培育價值理性，使大模型成為人類更可靠的合作伙伴。

  構建多層次防治體系。“以技治技”是解決大模型幻覺問題的首選路徑。人工智能倫理的“價值敏感設計”或價值對齊策略，也有賴于技術層面創(chuàng)新與突破。這不僅需要人工智能企業(yè)與專家通過提高訓練數據質量、加強外部驗證與事實檢查、改進模型推理能力、增強透明度與可解釋性等途徑提升大模型性能，而且鼓勵哲學社會科學專家與人工智能專家攜手合作，通過知識庫優(yōu)化、訓練語料糾錯、價值對齊監(jiān)測等途徑，幫助大模型提高問答正確率，消除潛在的幻覺問題與價值風險。

  建立適應性治理框架。面對大模型的普及化應用，敏捷、柔性、規(guī)范的立法治理勢在必行。國家網信辦等七部門頒布實施《生成式人工智能服務管理暫行辦法》，對訓練數據選擇、模型生成與優(yōu)化、服務提供等提出明確的法律規(guī)制與風險防范要求，有利于推動“智能向善”，促進大模型的合規(guī)應用。歐盟《人工智能法案》要求大模型履行告知義務、確保技術方案的穩(wěn)健性和可靠性等規(guī)范要求，對大模型的應用形成有效的制度約束和問責框架，值得參考借鑒。

  提高技術開發(fā)應用的價值基準。對大模型幻覺更有意義的治理創(chuàng)新在于建立技術價值觀，將負責任創(chuàng)新、可控創(chuàng)造性等倫理價值融入工程師的頭腦、植入大模型的代碼。例如，倡導存在爭議結論不生成、無法溯源的信息不生成、超出模型認知邊界的內容不生成等原則，推動大模型從追求生成流暢度向確保內容可靠性轉型；又如，建立大模型回答事實性問題分級置信提示制度，按照高可信、需核實、推測性結論等進行分類標注，加強輸出內容的透明度與可解釋性。

  對用戶而言，應進一步提高科學正確應用大模型的信息素養(yǎng)，進而成為引導內容生成的指揮官、幻覺問題的甄別者。研究表明，經過人工智能交叉驗證等使用習慣培訓，能夠顯著降低用戶被幻覺誤導的概率。人們需要與時俱進地提升自身辨析幻覺、掌握常識、批判思考的綜合能力，在利用大模型檢索信息、生成內容的過程中遵守履行事實核查、邏輯驗證、專業(yè)甄別、最小必要、場景控制等價值原則，最大限度消除幻覺問題和價值風險。

  人工智能的可靠性建設往往滯后于其能力擴展。治理大模型幻覺的終極目標不是完全消滅技術的不確定性，而是要建立風險可控的人機協同機制。在這場人機協同的賽博進化中，始終保持技術的謙遜與倫理的清醒，是破除大模型幻覺迷霧的應有之義。

關鍵詞：