去年有個數(shù)據(jù)在圈子里傳得很廣：某頭部模型的幻覺率，在特定領(lǐng)域能飆到30%以上。也就是說，你問它專業(yè)問題，每3次回答就有1次在胡說——但語氣篤定得像教科書。

作者第一次意識到這點，是問了一個稍微具體的技術(shù)問題。模型回得行云流水，邏輯閉環(huán)，甚至帶上了「據(jù)我所知」這種偽裝謙遜的開場白。結(jié)果關(guān)鍵事實全錯。

這就是LLM（大語言模型）的原罪：它不是在「知道」，而是在「扮演知道」。它的訓(xùn)練目標(biāo)不是準(zhǔn)確性，是流暢度。像極了一個考前沒復(fù)習(xí)、但口才極好的學(xué)生，被點到名時能把瞎編說得像引用原文。

RAG的本質(zhì)：先查資料，再張嘴

RAG（檢索增強生成，Retrieval-Augmented Generation）把這個流程拆成了兩步。第一步不是生成，是檢索——從指定的知識庫里撈出真正相關(guān)的文檔；第二步才是讓模型基于這些材料組織語言。

打個比方：普通LLM是閉卷考試，RAG是開卷考試還允許帶指定教材。后者的上限顯然更高，因為「會查」比「會編」可靠得多。

這個設(shè)計直接命中了LLM的三大死穴。第一，知識截止。模型訓(xùn)練完就封箱了，2024年的新論文、昨天的股價、上周的補丁說明，它一概不知。RAG把外部數(shù)據(jù)庫接進來，相當(dāng)于給模型裝了實時更新的外接硬盤。

第二，領(lǐng)域盲區(qū)。通用模型對垂直領(lǐng)域的理解往往停留在「正確的廢話」層面。醫(yī)療、法律、金融的細規(guī)，它要么沒訓(xùn)到，要么訓(xùn)到了也混在一起記串了。RAG把檢索范圍鎖死在專業(yè)文檔，逼它「就事論事」。

第三，幻覺不可控。這是最要命的——模型犯錯時你很難發(fā)現(xiàn)，因為它的錯誤往往包裹著正確的語法和邏輯。RAG至少提供了溯源可能：答案是從哪幾頁文檔里拼出來的，你可以去核對。

為什么現(xiàn)在才普及？

其實RAG的概念2020年就出現(xiàn)了，但直到向量數(shù)據(jù)庫成熟、嵌入模型（Embedding）成本打下來，這套方案才真正可用。以前檢索這一步又慢又貴，現(xiàn)在毫秒級召回已經(jīng)不算稀奇。

一個細節(jié)很能說明問題：某云廠商的RAG服務(wù)，去年Q3的客戶咨詢量環(huán)比漲了4倍。不是概念火了，是落地門檻真的低了。

當(dāng)然，RAG不是銀彈。檢索質(zhì)量決定了生成質(zhì)量——如果知識庫本身臟亂差，RAG只會讓你的錯誤回答看起來更有依據(jù)。以及，它解決不了模型的「創(chuàng)造性編造」沖動，只是用外部信息把它按住。

但比起讓LLM獨自面對用戶，這已經(jīng)是產(chǎn)品經(jīng)理能想到的最務(wù)實補丁。畢竟，「先查證再發(fā)言」這個習(xí)慣，人類也不是天生就會。

你現(xiàn)在用的大模型產(chǎn)品，有讓你看到它的答案是從哪查來的嗎？