無論科技如何進步，保持獨立思考的能力永遠是最重要的。

文|祁 磊

東南大學計算機科學與工程學院、軟件學院、人工智能學院副研究員，《科學畫報》編委會人工智能專委會委員。

你在使用ChatGPT、DeepSeek等人工智能（AI）助手時，有沒有遇到過這樣的情況：AI給出的答案聽起來頭頭是道，仔細一查卻發現完全是錯的？這就是“AI幻覺”。

01.

什么是AI幻覺

如果你問AI助手：“中國第一位登上月球的航天員是誰？”它可能會一本正經地回答：“是楊利偉，他在2003年成功登月。”這個答案聽起來很有道理，但實際上完全是錯誤的——楊利偉確實是中國第一位進入太空的航天員，但他并沒有登上月球——事實上，至今還沒有中國航天員登陸月球。

這種AI編造出看似合理但實際錯誤的信息的現象，就叫作“AI幻覺”。就像人做夢時會看到不存在的事物一樣，AI也會“幻想”出一些虛假的內容。更有趣的是，AI在“胡說八道”時表現得特別自信，用詞準確、邏輯清晰，讓人很容易相信。

02.

AI為什么會“一本正經地胡說八道”

要理解這個問題，我們先要了解AI是如何工作的。現在的AI大模型就像一個超級學霸，它“讀”過互聯網上數以億計的文章、書籍和對話。但是，這個學霸有個特點：它并不真正理解這些內容的含義，而是在尋找詞語之間的規律和模式。

AI回答問題的過程，本質上是在玩一個接龍游戲。當你提問時，AI會根據它學過的所有文本，預測接下來最可能出現的詞語。就像我們玩成語接龍時，說出“一心一”后，對方會自然地接“意”。AI也是這樣，它通過不斷預測“下一個詞應該是什么”來回答你的問題。

AI的“知識”來自訓練數據，但這些數據中可能存在矛盾、過時或錯誤的信息。當AI需要回答一個問題時，它可能會把不同來源的信息隨意拼接在一起。在文章開頭的例子中，AI知道“楊利偉”和“中國航天第一人”有關，也知道“登月”是航天的重要成就，于是就可能錯誤地把這些信息組合起來，給出完全錯誤的答案。

AI之所以會產生幻覺，最根本的原因是AI并不真正理解現實世界。它不知道什么是“真”什么是“假”，只是在模仿人類的語言模式。就像一個外國人可能會說出語法正確但意思荒謬的中文句子，因為他只是在套用語法規則，而不理解實際含義。

03.

AI幻覺帶來的風險

AI幻覺帶來的最直接的風險就是使學習者在學習中被誤導。如果你在寫作業時完全依賴AI的答案，可能會把錯誤信息當作事實。例如，在歷史作業中引用了AI編造的歷史事件，或在地理作業中使用了錯誤的數據，這不僅會影響你的成績，更會使你形成錯誤的知識體系。

過度依賴AI可能會讓我們失去獨立思考和判斷的能力。如果總是不加驗證地接受AI的答案，我們的批判性思維就會逐漸退化，變得容易輕信各種信息。

我們如果把AI生成的錯誤信息分享給其他人，就會成為虛假信息的傳播者。在社交媒體時代，一條錯誤信息可能在幾小時內傳遍網絡，造成廣泛的誤解。

在一些重要的情況下，如考試、投資、執行重要項目時，如果依據AI給出的錯誤信息做決策，可能會導致嚴重后果。

04.

技術層面的改進措施

科學家和工程師正在努力減少AI幻覺。他們在訓練AI時加入更多高質量、經過驗證的數據，并教會AI區分可靠和不可靠的信息源。就像老師會告訴你哪些是權威的參考書，哪些資料需要謹慎對待。

增加事實核查機制有助于減少AI幻覺。一些新的AI系統會在生成答案后進行自我檢查，對比多個信息源，標注不確定的內容。這就像考試時的檢查環節，使AI能自己發現和糾正一些明顯的錯誤。

研究人員還嘗試引入知識圖譜，將結構化的、經過驗證的知識庫與AI結合，讓AI在回答特定領域問題時能夠參考權威數據。這相當于給AI配備了一本百科全書作為參考。

同時，越來越多的AI系統開始主動告訴用戶“我對這個答案不太確定”或“這個信息需要進一步驗證”。這種誠實的態度能幫助用戶更好地判斷信息的可靠性。

05.

我們該如何識別和應對

在AI時代，培養“AI素養”已成為每個使用者的必修課。這種素養的核心在于建立批判性思維，永遠保持懷疑精神，不盲目相信AI提供的答案。特別是當涉及具體事實、數據、人名、時間、地點等信息時，我們都應該養成問一句“這是真的嗎”的習慣。這個習慣很重要，你應該做到像過馬路看紅綠燈一樣自然地發問。

其次，你應該像偵探一樣查證信息。如果AI告訴你一個重要信息，別急著相信。你可以翻翻課本，問問老師，上網查查官方網站，或者用其他AI工具問同樣的問題。如果答案都不一樣，那就要小心了——這個信息很可能是錯的。

最后，要把AI當成學習小助手，而不是你的大腦的替代品。AI就像一個會很多知識的朋友，可以幫你理解難懂的知識點，給你學習的靈感，幫你檢查有沒有寫錯別字。但是，千萬不能讓它直接幫你寫作業，也不能把它說的每句話都當真。最重要的是，要用自己的大腦思考，AI只是幫助你學得更好的工具，真正的學習還是要靠你自己。

AI技術仍在快速發展，未來的AI會變得更加可靠和誠實。但無論技術如何進步，保持獨立思考的能力永遠是最重要的。AI是我們的工具和助手，而不是我們的大腦。

在這個AI時代，我們既要善于利用新技術帶來的便利，也要保持清醒的頭腦。記住，真正的智慧不是知道所有答案，而是知道如何尋找和驗證答案。當你下次使用AI時，不妨把它當作一個知識淵博但偶爾會出錯的朋友——感謝它的幫助，但也要用自己的判斷力去甄別真偽。

讓我們一起成為智慧的AI使用者，在AI時代保持人類獨有的批判性思維和創造力。這不僅是為了避免被AI幻覺所誤導，更是為了在未來的學習和生活中能夠真正駕馭技術，而不是被技術所駕馭。

*本文刊登于《科學畫報》2025年第10期，更多相關內容歡迎訂閱。

全年訂閱