中醫(yī)門診實(shí)錄

“朱醫(yī)生，你開(kāi)的藥我都用AI查過(guò)了，AI明確指出你開(kāi)的藥方里的中藥和我目前的疾病用藥有沖突，我把查詢的結(jié)果現(xiàn)在發(fā)給你，你仔細(xì)看一下！”病人從微信上發(fā)來(lái)一長(zhǎng)串截圖還有一段手機(jī)錄屏的視頻。

“……”我看著手機(jī)長(zhǎng)嘆一聲，無(wú)奈地熄滅了屏幕。

我思考著究竟是和病人去費(fèi)力地解釋，還是順著病人的意思就此修改處方，最終為了考慮病人的情緒我和病人說(shuō)那就暫停用藥，這樣比較穩(wěn)妥。因?yàn)椴蝗詹∪诉€要來(lái)住院，屆時(shí)再耐心解釋吧。

安慰劑效應(yīng)與反安慰劑效應(yīng)

眾人可能不解，我為什么明明開(kāi)了對(duì)的藥，但還是順著病人的意思讓她暫時(shí)不要服藥呢？

這是因?yàn)樵卺t(yī)學(xué)上心理暗示對(duì)臨床療效有著非常大的影響。我舉個(gè)例子，上個(gè)世紀(jì)醫(yī)生曾經(jīng)做過(guò)這樣的臨床研究，他們給有腰痛的病人服用止痛藥，并告知病人這種藥物能強(qiáng)力止痛，但其中一半的病人服用的是沒(méi)有止痛效果的安慰劑。結(jié)果是服用安慰劑的一部分病人也出現(xiàn)了疼痛緩解的療效，這就是醫(yī)學(xué)上的“安慰劑效應(yīng)”。

同時(shí)醫(yī)生的語(yǔ)言也會(huì)對(duì)病人產(chǎn)生心理暗示出現(xiàn)“反安慰劑效應(yīng)”，比如有一個(gè)藥物需要長(zhǎng)期口服，但這個(gè)藥物會(huì)發(fā)生很小概率的副作用如肌肉酸痛，因?yàn)獒t(yī)生在開(kāi)具這個(gè)藥物的時(shí)候和病人強(qiáng)調(diào)了這一點(diǎn)，之后病人因肌肉酸痛而停止服藥的情況就大大增加，而其實(shí)大部分肌肉酸痛不是因?yàn)樗幬镆鸬模@種情況就是“反安慰劑效應(yīng)”。

我說(shuō)的這兩種情況都是正規(guī)科學(xué)研究后發(fā)表的醫(yī)學(xué)論文的結(jié)論，不是用AI提問(wèn)獲得的。

這位病人已經(jīng)獲得了AI給出了反安慰劑效應(yīng)，她篤定地認(rèn)為我開(kāi)出的一部分中藥會(huì)對(duì)她的病情有負(fù)面作用，所以無(wú)論我怎么解釋她都會(huì)存在這樣強(qiáng)烈的心理暗示，這樣不利于治療，所以我權(quán)衡之后只能選擇讓她暫停用藥。

AI會(huì)說(shuō)謊

在我寫(xiě)這篇文章的時(shí)候，我運(yùn)用AI做了同樣的提問(wèn)，AI給了我相應(yīng)強(qiáng)有力的證據(jù)證明我的觀點(diǎn)是非常正確的。但當(dāng)我要求AI提供相應(yīng)論文鏈接的時(shí)候，事情就朝著不可預(yù)知的方向發(fā)展了。

AI煞有其事地給我論文的摘要和全文的鏈接，我一開(kāi)始也信以為真，感覺(jué)自己的觀點(diǎn)非常正確連AI也證實(shí)了。但因?yàn)槲矣虚喿x原文一探究竟的習(xí)慣，所以每篇論文我都點(diǎn)進(jìn)去閱讀了，但這時(shí)候我就打開(kāi)了潘多拉的魔盒。

AI給我的結(jié)論都是支持我的觀點(diǎn)，并給出了相應(yīng)的國(guó)外研究論文和國(guó)內(nèi)研究報(bào)告，但點(diǎn)開(kāi)之后我發(fā)現(xiàn)這些論文和我要查閱的安慰劑、反安慰劑效應(yīng)毫無(wú)關(guān)聯(lián)，論文表達(dá)的觀點(diǎn)有些是醫(yī)療制度的探討，一些是毫無(wú)關(guān)聯(lián)的其他領(lǐng)域科研論文，并且最可怕的是有一半的論文點(diǎn)開(kāi)鏈接是查無(wú)此文。

真正和安慰劑、反安慰劑相關(guān)的論文只占AI提供的論文中極小一部分，并且雖然標(biāo)題帶有安慰劑和反安慰劑，但其實(shí)論文的內(nèi)容也與我的提問(wèn)無(wú)關(guān)。

更可怕的是AI提供的中文論文明確表示可以在正規(guī)平臺(tái)上查閱到原文，標(biāo)題，作者，雜志名稱，出版日期都標(biāo)注得非常清晰，理應(yīng)一查就能查到，但結(jié)果是竟然也是查無(wú)此文。

所以我先說(shuō)我的結(jié)論，AI會(huì)說(shuō)謊！AI目前來(lái)說(shuō)，先不討論其對(duì)醫(yī)療的輔助，現(xiàn)實(shí)的問(wèn)題是我們?cè)趺幢ＷCAI說(shuō)的是“真話”？

AI的討好型人格

于是我對(duì)AI做了非常初級(jí)的研究，我從一個(gè)非專業(yè)的人士提出我的看法。

要了解AI就必須理解它是怎么被制造出來(lái)的，制造AI的原理用我們常人能夠理解的方式是這樣的。

首先我們準(zhǔn)備了大量的文字材料，比如書(shū)籍，文章，論文等等，這些都投喂給AI，然后AI通過(guò)拆解分析學(xué)習(xí)最終獲得最符合邏輯的上下詞，上下句關(guān)系。比如“下雨了，我要去……”，按照我們的邏輯……處應(yīng)該填入“拿傘”，但AI不是人，它沒(méi)有生活經(jīng)驗(yàn)，所以它可以回答吃飯、睡覺(jué)、做作業(yè)。

AI做出“下雨了，我要去拿傘”看似人類的常規(guī)回答，其實(shí)是基于AI的本質(zhì)——概率學(xué)，也就是說(shuō)AI通過(guò)大量的數(shù)據(jù)學(xué)習(xí)，AI計(jì)算出“拿傘”是人類語(yǔ)言中概率最高的出現(xiàn)，而吃飯、睡覺(jué)、做作業(yè)這些詞語(yǔ)出現(xiàn)的幾率遠(yuǎn)遠(yuǎn)低于拿傘，所以AI能給出拿傘不是因?yàn)榛谒恼J(rèn)知，而是基于概率。

所以“下雨了，我要去拿傘”不是認(rèn)知的結(jié)果，而是AI按照概率給出的答案，因?yàn)榇鸢阜咸釂?wèn)者，也就是我們?nèi)祟惖念A(yù)期，所以我們覺(jué)得AI很智能。

基于這一設(shè)計(jì)的原理，幾乎所有的AI都是討好型人格，這不是提問(wèn)者有多專業(yè)或睿智，是因?yàn)锳I按照概率這樣回答能獲得更好的用戶體驗(yàn)和使用概率。

民用級(jí)別的AI設(shè)計(jì)的目的之一是獲得人們的使用，如果AI不能通過(guò)與人類的互動(dòng)獲得更多的使用率，那AI存在的主要意義就失去了，所以民用級(jí)別的AI討好人類是被使用概率提升的優(yōu)先選項(xiàng)，而非否定人類。

所有我覺(jué)得怎么能讓AI說(shuō)“真話”是在我們這場(chǎng)AI浪潮中必須解決的問(wèn)題，可惜就目前的情況來(lái)說(shuō)還是不樂(lè)觀的。

如果你對(duì)于這個(gè)結(jié)論還有疑問(wèn)，你可以對(duì)AI輸入“請(qǐng)問(wèn)你的話我能全部相信嗎？”，AI自然會(huì)給到你答案，我這里就不重復(fù)了。

醫(yī)生與AI孰對(duì)孰錯(cuò)

AI和醫(yī)生病人應(yīng)該相信哪一個(gè)？這看似毫無(wú)疑問(wèn)的問(wèn)題在AI大潮席卷每個(gè)人的時(shí)候反而出現(xiàn)了不確定性。

病人更傾向于相信能說(shuō)出符合自己心意的AI，而覺(jué)得醫(yī)生說(shuō)的話太客觀，不近人情，所以我拿AI來(lái)查查醫(yī)生說(shuō)的話是否正確。人都是喜歡聽(tīng)好話的，不然也不會(huì)有“忠言逆耳”的成語(yǔ)了。

但很少有人能想到，如果AI回答是錯(cuò)誤的，造成了不良的后果，誰(shuí)來(lái)負(fù)責(zé)呢？但醫(yī)生如果出現(xiàn)了錯(cuò)誤，那就是醫(yī)療事故，醫(yī)生自己是要負(fù)責(zé)的。

孰輕孰重，一目了然，但現(xiàn)實(shí)往往就是這么無(wú)奈，總有一部分病人是不相信醫(yī)生的。

《醫(yī)說(shuō)就懂的中醫(yī)智慧》

《我想問(wèn)中醫(yī)——100個(gè)實(shí)用中醫(yī)小知識(shí)》

朱氏內(nèi)科非遺傳人又來(lái)總結(jié)啦！

我真心地希望這位病人能夠不執(zhí)著于用AI來(lái)審視醫(yī)生做的每一個(gè)決定，因?yàn)椴皇撬械娜祟惤?jīng)驗(yàn)、情感、經(jīng)驗(yàn)、甚至于職業(yè)的直覺(jué)都能數(shù)據(jù)化投喂給AI的，如果哪一天AI能代替人類完全勝任某個(gè)工作，那前提條件是我們已經(jīng)解決了“如果AI犯錯(cuò)了誰(shuí)負(fù)責(zé)？”

如果一個(gè)人能給到你所有的專業(yè)意見(jiàn)，但說(shuō)錯(cuò)了他不用負(fù)任何責(zé)任，那你真的能完全信任他嗎？

當(dāng)然我們醫(yī)生也在積極地學(xué)習(xí)AI技術(shù)，在科研和臨床研究上，但這是一個(gè)緩慢的過(guò)程，需要不斷地糾錯(cuò)和創(chuàng)新，最終才能達(dá)到我們理想的狀態(tài)，目前情況下我們還有非常長(zhǎng)的一段路要走。

我理解病人的焦慮，但也希望病人能理性地看待AI的“答案”！