LLM（大語言模型）生成的內(nèi)容有47%的概率包含事實性錯誤——這個數(shù)字來自去年斯坦福的實測。你讓AI寫個周報可能沒事，但讓它自動處理財務(wù)數(shù)據(jù)或醫(yī)療記錄，一次幻覺就是真金白銀的損失。

迭代驗證的本質(zhì)，是給AI的輸出設(shè)一道安檢門。

第一層邏輯很直白：模型吐出來的東西，不能直接用。你需要校驗層——可能是規(guī)則引擎、可能是另一個模型、也可能是人工審核——把結(jié)果打回去重跑。問題是，這套循環(huán)什么時候停？

原文提了兩種死法。一種是設(shè)死循環(huán)次數(shù)，比如最多跑5輪，挑個"錯得最少"的結(jié)果交差；另一種是設(shè)質(zhì)量閾值，過了線就放行，沒過就一直耗著。兩種都沒錯，但選哪種完全取決于你在解決什么問題。

醫(yī)療和金融的驗證邏輯，根本是兩套系統(tǒng)

舉個例子。假設(shè)你在做自動病歷摘要，漏掉一個藥物過敏史可能出人命。這時候"錯得最少" unacceptable，必須過閾值，哪怕迭代20次。但如果是生成營銷文案的變體版本，第3輪和第8輪的差距可能肉眼難辨，設(shè)硬上限反而省算力。

關(guān)鍵設(shè)計在反饋回路。校驗層不能只扔個"不對"回去，得告訴模型具體哪錯了——是格式？事實？還是上下文跑偏？反饋越細，下一輪收斂越快。 否則就是AI版的"往左一點、再往右一點"，永遠對不齊。

原文沒給具體實現(xiàn)，但拋了個有意思的問題：你的迭代驗證是怎么設(shè)計的？

我見過最狠的做法是三層嵌套——規(guī)則層篩格式，小模型驗事實，大模型做最終語義一致性檢查。每層失敗都回滾到對應(yīng)節(jié)點，而不是從頭再來。代價是延遲飆到秒級，但錯誤率從12%壓到了0.3%。

另一種極端是"樂觀策略"：第一輪直接用，同時異步跑驗證，錯了再通知用戶撤回。適合對實時性敏感、對錯誤容忍度中等的場景，比如客服機器人的首輪回復(fù)。

沒有銀彈，只有 trade-off 的清晰度

迭代次數(shù)和質(zhì)量閾值不是二選一，可以組合——比如"最多10輪，但第3輪起每輪必須比上一輪提升至少15%得分，否則提前終止"。這種動態(tài)策略需要你把歷史迭代數(shù)據(jù)喂給一個小型決策模型，讓它學(xué)會"什么時候該放棄"。

原文作者最后問了個開放問題：你在構(gòu)建迭代式智能體模式時有什么經(jīng)驗和想法？

我的觀察是，大多數(shù)人卡在反饋設(shè)計——驗證層能發(fā)現(xiàn)問題，但說不清楚怎么修，導(dǎo)致模型在同類錯誤上反復(fù)橫跳。你遇到過這種情況嗎？最后是怎么解決的？