隨著越來越多的美國人開始使用大語言模型尋求健康建議，全國各地的醫(yī)療機(jī)構(gòu)紛紛著手推出或已經(jīng)上線各自品牌的聊天機(jī)器人，試圖借助這一廣受歡迎的工具吸引更多用戶并引導(dǎo)其使用自家服務(wù)。然而，這一新興趨勢也在美國本已復(fù)雜且整體表現(xiàn)欠佳的醫(yī)療體系中引發(fā)了一系列問題與爭議。

醫(yī)療機(jī)構(gòu)的高管們將這些新產(chǎn)品定位為便民之舉，認(rèn)為此舉能夠滿足患者的數(shù)字化需求，提供更具包容性的服務(wù)體驗，同時也聲稱這些專屬聊天機(jī)器人將比患者現(xiàn)在使用的商業(yè)版產(chǎn)品更加安全可靠。

"醫(yī)療行業(yè)正處于一個重要的拐點(diǎn)。"臨床AI公司K Health的首席執(zhí)行官Allon Bloch表示，"需求正在加速增長，患者已經(jīng)在用AI來管理自己的生活了。"

K Health正與其在康涅狄格州的合作伙伴哈特福德醫(yī)療（Hartford HealthCare）合作，計劃向數(shù)萬名現(xiàn)有患者推出其PatientGPT聊天機(jī)器人。

"問題不在于AI是否會影響醫(yī)療行業(yè)，而在于我們?nèi)绾我园踩?、透明的方式，在一個能夠連接患者病歷和醫(yī)療團(tuán)隊的醫(yī)療系統(tǒng)內(nèi)落地。PatientGPT代表的正是這個轉(zhuǎn)折點(diǎn)。"

不過，部分專家對這些密集上線的產(chǎn)品持審慎態(tài)度，他們對聊天機(jī)器人是否已為正式亮相做好準(zhǔn)備、監(jiān)督機(jī)制是否健全、責(zé)任歸屬如何界定，以及這究竟是不是真正解決患者就醫(yī)困境的方法，提出了諸多質(zhì)疑。

在這些風(fēng)險與疑問尚未消散之際，聊天機(jī)器人對患者的實際益處仍停留在假設(shè)層面。"這個想法很誘人，"波士頓貝斯以色列女執(zhí)事醫(yī)療中心（Beth Israel Deaconess Medical Center）的臨床推理研究員兼內(nèi)科醫(yī)生Adam Rodman近日對Stat News表示，但目前尚無證據(jù)表明將聊天機(jī)器人整合進(jìn)醫(yī)療系統(tǒng)能夠改善患者的健康結(jié)果，"我們還沒走到那一步。"

背景解讀

要評估AI在醫(yī)療領(lǐng)域的潛在作用，首先需要了解美國醫(yī)療體系的宏觀背景。美國是世界上最富裕的國家之一，但其醫(yī)療體系在與其他高收入國家的橫向比較中，表現(xiàn)始終明顯落后。美國人的預(yù)期壽命更短，可預(yù)防性死亡更多，孕產(chǎn)婦和嬰兒死亡率更高，肥胖及慢性病發(fā)病率也居高不下。美國人就醫(yī)渠道有限，健康結(jié)果也相對較差。美國是少數(shù)未能實現(xiàn)全民醫(yī)療覆蓋的發(fā)達(dá)國家之一。2023年的一項報告顯示，近三分之一的美國人——超過1億人——沒有固定的基層醫(yī)療服務(wù)提供者。

如今，人工智能正式加入這一復(fù)雜局面。任何擁有網(wǎng)絡(luò)連接的人都可以訪問那些令人感到安慰、表述信心十足的大語言模型驅(qū)動聊天機(jī)器人，越來越多的美國人正紛紛借助這些新工具咨詢健康和醫(yī)療問題。KFF上月發(fā)布的一項民調(diào)顯示，三分之一的美國成年人曾使用AI聊天機(jī)器人獲取健康信息。

在使用AI的人群中，41%的人表示曾將個人醫(yī)療信息（如檢查結(jié)果）上傳至相關(guān)工具。在被問及轉(zhuǎn)向AI的"主要原因"時，19%的人表示是因為負(fù)擔(dān)不起醫(yī)療費(fèi)用，18%的人則表示沒有固定的醫(yī)療服務(wù)提供者或無法預(yù)約到診。與此同時，65%的人表示只是想快速獲得一個答案。最終，許多人在進(jìn)行AI咨詢后并未進(jìn)一步就醫(yī)復(fù)診，其中包括58%咨詢過心理健康問題的人，以及42%咨詢過身體健康問題的人。

潛在隱患不可忽視

在如此多的美國人轉(zhuǎn)向AI填補(bǔ)醫(yī)療空白的背景下，各種警示案例和負(fù)面故事正在不斷涌現(xiàn)，凸顯出大語言模型在被詢問內(nèi)容及信息采集方面存在的雙重風(fēng)險。

今年2月，《自然醫(yī)學(xué)》（Nature Medicine）發(fā)表了一項涉及近1300名參與者的研究，嘗試評估大語言模型（具體包括GPT-4o、Llama 3和Command R+）在真實交互場景中的醫(yī)療準(zhǔn)確性。研究人員向大語言模型提供特定醫(yī)療場景的文字描述時，模型能夠正確識別病情的概率約為95%，正確判斷下一步行動（例如前往急診）的概率約為56%。然而，當(dāng)參與者用自己的語言描述相同場景時，模型僅能幫助正確識別病情約三分之一的時間，引導(dǎo)參與者采取正確下一步行動的比例也僅為43%。

該研究實質(zhì)上表明，"人們并不知道應(yīng)該告訴模型什么信息，"首席作者、牛津大學(xué)AI研究員Andrew Bean近日對美國國家公共廣播電臺（NPR）表示。

高級作者Adam Mahdi補(bǔ)充道："基準(zhǔn)測試得分與真實場景表現(xiàn)之間的落差，應(yīng)當(dāng)成為AI開發(fā)者和監(jiān)管機(jī)構(gòu)的警醒。"

此外，醫(yī)療信息質(zhì)量問題同樣令人擔(dān)憂。就在上周，《自然》新聞報道稱，有大語言模型向用戶介紹了一種名為"bixonimania"的皮膚病，而這種病完全是由瑞典研究人員憑空捏造的。研究團(tuán)隊將兩篇關(guān)于這一虛構(gòu)疾病的偽造論文發(fā)布到網(wǎng)上，以測試醫(yī)療錯誤信息在AI工具中的傳播速度——結(jié)果令人警惕：這些信息被迅速吸收并傳播。目前，這兩篇偽造論文已被刪除。

產(chǎn)品接連上線

盡管如此，多個醫(yī)療系統(tǒng)仍在推進(jìn)各自聊天機(jī)器人的部署。據(jù)Stat報道，哈特福德醫(yī)療與K Health合作的PatientGPT上月已向部分患者推出測試版，計劃本周進(jìn)一步擴(kuò)大至數(shù)萬名患者。

哈特福德方面發(fā)布了一項針對75名參與者的預(yù)印本研究（未經(jīng)同行評審），結(jié)果顯示其迭代壓力測試（即紅隊測試方法）隨著時間推移有效降低了失敗率，尤其是在"高風(fēng)險"場景中表現(xiàn)明顯改善——高風(fēng)險場景下的失敗率從30%降至8.5%。然而，這一數(shù)據(jù)在真實應(yīng)用環(huán)境中意味著什么，以及那8.5%的失敗案例可能帶來多大危害，目前仍不明朗。

據(jù)Stat報道，PatientGPT目前提供兩種使用模式：一種是通用醫(yī)療問答模式，可能會整合患者的個人信息；另一種是"醫(yī)療接診"模式，患者開始描述癥狀后，聊天機(jī)器人將減少閑聊，轉(zhuǎn)而按照臨床流程圖逐步引導(dǎo)。當(dāng)AI智能體在接診模式下收集到足夠信息后，將給出下一步建議，包括預(yù)約基層醫(yī)療隨診，或?qū)で缶o急/急診救治。若建議就急診，聊天機(jī)器人將停止回應(yīng)后續(xù)問題。

哈特福德表示，將在更大規(guī)模推廣的過程中持續(xù)監(jiān)控聊天機(jī)器人的表現(xiàn)。在試運(yùn)行階段，系統(tǒng)對每次交互都進(jìn)行了人工審查。但隨著規(guī)模擴(kuò)大，人工審查數(shù)量將壓縮至每天20條，其余交互將由另一個AI智能體進(jìn)行監(jiān)控，同時每1000次對話還會進(jìn)行一次批量研究。

"我們的使命是成為全國最以消費(fèi)者為中心的醫(yī)療系統(tǒng)，"哈特福德醫(yī)療總裁兼首席執(zhí)行官Jeff Flaks上月表示，"長期以來，醫(yī)療服務(wù)體系過于圍繞醫(yī)療提供者來組織，但顯然我們必須轉(zhuǎn)變方向，去主動滿足患者的需求。PatientGPT正是我們推出的一款新工具，它能夠在保護(hù)醫(yī)患核心關(guān)系的同時，支持您的健康管理，并提供全天候的醫(yī)療團(tuán)隊接入服務(wù)。"

更為審慎的工具

除PatientGPT外，還有一款名為Emmie的AI聊天助手，由電子病歷巨頭Epic旗下的MyChart平臺推出。目前，加州薩特健康（Sutter Health）和印第安納州里德健康（Reid Health）等多個醫(yī)療系統(tǒng)正在逐步通過線上門戶向用戶推廣Emmie。

據(jù)Becker's Hospital Review報道，Epic創(chuàng)始人兼首席執(zhí)行官Judy Faulkner在去年的一次高管演講中將Emmie描述為一款助手工具，可幫助患者通過起草就診議程來為預(yù)約做準(zhǔn)備，并在就診結(jié)束后協(xié)助患者理解檢查結(jié)果、解答后續(xù)疑問。

薩特健康關(guān)于Emmie的常見問題頁面注明，該聊天機(jī)器人可以"回答一般性健康問題，并查找或匯總您病歷中已有的信息，例如診療記錄、檢查結(jié)果、既往就診記錄或消息。"但頁面同時強(qiáng)調(diào)，Emmie"不提供個性化醫(yī)療建議，也不作出醫(yī)療決策。Emmie并非用于疾病或其他狀況的診斷，也不用于疾病的治愈、緩解、治療或預(yù)防。Emmie同樣無意取代、修改或替代醫(yī)生的專業(yè)臨床判斷。"

目前，Emmie僅向薩特健康的一小部分患者開放。這些患者可以通過簡單的點(diǎn)贊或點(diǎn)踩方式對Emmie的回復(fù)提供反饋。

里德健康成為繼薩特健康之后的第二家引入Emmie的機(jī)構(gòu)。里德健康首席信息官M(fèi)uhammad Siddiqui上周接受Becker's采訪時表示，里德健康的服務(wù)對象主要是農(nóng)村社區(qū)，公司將Emmie視為擴(kuò)大醫(yī)療服務(wù)可及性、幫助患者更好就醫(yī)導(dǎo)航的重要途徑。

"患者希望得到更清晰的答案、更便捷的就醫(yī)渠道，以及兩次就診之間更多的指引，"Siddiqui說，"如果我們能夠在醫(yī)療系統(tǒng)內(nèi)部、以連接可信臨床工作流程的方式提供這些服務(wù)，這肯定遠(yuǎn)比讓患者獨(dú)自使用那些準(zhǔn)確性無從保證的公共工具要好得多。"

Q&A

Q1：PatientGPT聊天機(jī)器人是怎么工作的？

A：PatientGPT提供兩種使用模式：一種是通用醫(yī)療問答模式，可整合患者的個人信息；另一種是"醫(yī)療接診"模式，患者描述癥狀后，系統(tǒng)將按照臨床流程圖逐步引導(dǎo)，收集足夠信息后給出下一步建議，如預(yù)約基層醫(yī)療隨診或?qū)で蠹痹\救治。若建議就急診，聊天機(jī)器人將停止回應(yīng)后續(xù)問題。

Q2：大語言模型在醫(yī)療咨詢中的準(zhǔn)確率有多高？

A：根據(jù)《自然醫(yī)學(xué)》的研究，當(dāng)研究人員以標(biāo)準(zhǔn)化文字描述醫(yī)療場景時，大語言模型正確識別病情的概率約為95%，正確判斷下一步行動的概率約為56%。但當(dāng)普通用戶用自己的語言描述時，模型僅能正確識別病情約三分之一的時間，給出正確下一步建議的比例也僅為43%，顯示出真實使用場景下的明顯局限性。

Q3：Epic推出的Emmie和PatientGPT有什么區(qū)別？

A：兩者定位有所不同。PatientGPT功能更為主動，可進(jìn)行癥狀收集并給出就醫(yī)建議。Emmie則更為保守，主要幫助患者準(zhǔn)備就診議程、理解檢查結(jié)果和回答隨訪問題，明確聲明不提供個性化醫(yī)療建議，不參與疾病診斷或治療決策，強(qiáng)調(diào)輔助而非替代醫(yī)生判斷。