來源/硅基智能時(shí)代

當(dāng)AI一本正經(jīng)地胡說八道，把一位律師“判了三年有期徒刑”，技術(shù)的“幻覺”撞上現(xiàn)實(shí)的法律，會(huì)發(fā)生什么？

2024年9月，一個(gè)尋常的下午，南京的李小亮律師在百度上搜索自己的名字。結(jié)果讓他愣住了。

搜索下拉框里，自動(dòng)跳出了“南京李小亮律師判刑了嗎？”“南京李小亮律師判刑了多少年”這樣的聯(lián)想詞。

更絕的是，點(diǎn)進(jìn)去后，百度的AI智能回答，竟然“一本正經(jīng)”地編造了一個(gè)完整的故事：“三年，李小亮律師被判三年有期徒刑，被告人李小亮因犯爆炸罪，被判處有期徒刑三年。”

底下還“貼心”地配上了他穿著律師袍的職業(yè)照。

一個(gè)兢兢業(yè)業(yè)的律師，就這樣被一個(gè)AI“定罪判刑”，成了個(gè)“賽博犯罪分子”。這荒唐的一幕，開啟了中國生成式AI領(lǐng)域的“第一案”。

被AI“判刑”的李律師自然不能忍，一紙?jiān)V狀將百度告上了法庭。

這個(gè)案子的一審、二審判決，清晰地為AI的“胡言亂語”劃定了責(zé)任紅線。

一審法院的判決很有意思，它精準(zhǔn)地區(qū)分了兩種責(zé)任：

對(duì)于搜索框里那些聯(lián)想詞，法院認(rèn)為那是“用戶搜索記憶”，是無數(shù)網(wǎng)友之前搜過留下的痕跡，平臺(tái)沒有主觀加工，不構(gòu)成侵權(quán)。

但到了百度“AI智能回答”這個(gè)環(huán)節(jié)，性質(zhì)就變了。法院認(rèn)定，這是平臺(tái)主動(dòng)加工、合成了文字和圖片，捏造了貶損他人的犯罪信息，導(dǎo)致當(dāng)事人的社會(huì)評(píng)價(jià)被降低。

法院認(rèn)為，平臺(tái)存在主觀過錯(cuò)，構(gòu)成了名譽(yù)侵權(quán)。

百度當(dāng)然不服，上訴時(shí)拋出了AI行業(yè)經(jīng)典的擋箭牌——“技術(shù)幻覺”。

他們的律師辯解道：AI都會(huì)產(chǎn)生幻覺，這是技術(shù)局限性，我們無法預(yù)測用戶會(huì)怎么問，也無法預(yù)見AI會(huì)怎么答。而且，是李律師自己用了“誘導(dǎo)性提問”。

翻譯一下就是：“AI發(fā)燒說胡話有啥辦法，百度只是犯了一個(gè)AI都會(huì)犯的錯(cuò)誤。”

但法庭上，法官的一個(gè)問題，讓他“技術(shù)幻覺”這個(gè)借口顯得有些蒼白。

“在豆包、Deepseek上發(fā)問，為什么沒有這些評(píng)價(jià)？”

是啊，大家都在同一個(gè)技術(shù)起跑線上，為什么別人家的AI沒有對(duì)李律師“判刑”，就你百度AI“病”得這么有針對(duì)性？

這個(gè)反問，直接刺破了“技術(shù)無罪論”的表面泡沫，將問題引向了技術(shù)實(shí)現(xiàn)路徑、內(nèi)容審核機(jī)制甚至是價(jià)值對(duì)齊的深水區(qū)。

百度的代理人只能堅(jiān)持“所有AI都有幻覺”的說法。然而，這句話的潛臺(tái)詞或許被解讀為：別人控制住了幻覺，而你沒有。

2026年3月12日，南京市中級(jí)人民法院作出二審判決：駁回上訴，維持原判。 百度AI合成虛假信息，構(gòu)成名譽(yù)侵權(quán)。

然而官司贏了，事情還沒完。判決生效后，百度公司遲遲沒有履行那份書面道歉的義務(wù)。

雙方嘗試過和解，但沒談攏。于是，李律師向法院提交了強(qiáng)制執(zhí)行申請(qǐng)。

昨天，也就是5月8日，法院通知李律師，百度的強(qiáng)制執(zhí)行案即將立案。截至目前，百度仍未對(duì)此事進(jìn)行公開回應(yīng)。

就在李小亮律師等待強(qiáng)制執(zhí)行的同時(shí)，北京的另一位黃貴耕律師，也遭遇了百度AI的“批量造謠”。

2025年5月，百度AI自動(dòng)“創(chuàng)作”了黃律師威脅法官、偽造印章、介紹賄賂、非法吸收公眾存款等一連串“罪行”，手法如出一轍——把公開新聞報(bào)道里的“某律師”“黃某”，直接替換成“黃貴耕律師”。

更可怕的是，這套AI系統(tǒng)似乎形成了一個(gè)“作惡閉環(huán)”。

用戶只要問一句“黃貴耕律師怎么樣”，AI就會(huì)自動(dòng)聯(lián)想出一連串諸如“有沒有被處罰”“是否被吊銷資格”等誘導(dǎo)性問題，點(diǎn)擊任何一個(gè)，都能“欣賞”到更多AI編造的細(xì)節(jié)。

目前，黃律師索賠105萬的案件也已在北京海淀法院立案，正在審理中。兩位律師，一南一北，共同面對(duì)著AI“幻覺”帶來的現(xiàn)實(shí)傷害。

這起“國內(nèi)人工智能大模型侵權(quán)第一案”，看似只是一個(gè)名譽(yù)權(quán)糾紛，實(shí)則是一次至關(guān)重要的“壓力測試”。

它測試的，是在技術(shù)狂奔的年代，法律、責(zé)任與商業(yè)的邊界在哪里。

技術(shù)可以“幻覺”，但企業(yè)不能“裝睡”。 法院的判決清晰地表明，“技術(shù)尚不成熟”可以是一個(gè)事實(shí)陳述，但不能成為一個(gè)免責(zé)金牌。

當(dāng)一家企業(yè)選擇將AI產(chǎn)品推向市場，它就必須為這個(gè)產(chǎn)品的輸出內(nèi)容承擔(dān)相應(yīng)的責(zé)任。這不僅是法律的要求，更是商業(yè)倫理的底線。

主審法官那句“為什么別人家沒有”，問得尤其深刻。它提醒所有從業(yè)者，在“大模型幻覺”這個(gè)普遍性難題面前，投入多少資源進(jìn)行對(duì)齊、審核、糾錯(cuò)，體現(xiàn)的是一家企業(yè)的選擇與態(tài)度。

是選擇“野蠻生長，出了問題再說”，還是“如履薄冰，將傷害降到最低”？

在現(xiàn)實(shí)的法律世界里，這是一次具有標(biāo)桿意義的判決，為AI技術(shù)的“狂想”套上了責(zé)任的韁繩。

也讓大眾看到，法律不會(huì)因?yàn)榇a的虛無而袖手旁觀。這起案件之后，每一個(gè)AI的開發(fā)者都會(huì)明了，你創(chuàng)造的工具，映射著你的責(zé)任。

而更多的“李律師”們，也得以確信，在這個(gè)數(shù)字與算法編織的時(shí)代，他們守護(hù)個(gè)人名譽(yù)的權(quán)利，依然堅(jiān)固地矗立在技術(shù)的浪潮前。