*僅供醫(yī)學專業(yè)人士閱讀參考

連日來，多家醫(yī)學院校發(fā)文，督促師生員工審慎使用“龍蝦”等智能代理軟件，非必要不使用，如確需使用，應嚴格遵循一定安全要求。

專家表示，醫(yī)療關乎生命，AI賦能醫(yī)療必須以安全為底線。

撰文丨文慧、燕小六

近期，開源AI智能體框架OpenClaw（俗稱“龍蝦”）在網絡上迅速走紅。

它具有高度的“自主執(zhí)行”能力，可以自主進行文件管理、郵件收發(fā)、批量數據處理等復雜任務，一經推出便在全球范圍內引發(fā)部署熱潮。但這并不安全，今年2月以來，工信部、國家互聯網應急中心多次發(fā)布相關風險預警。

3月13日，國家網絡與信息安全信息通報中心再次發(fā)布預警，明確指出OpenClaw存在架構設計缺陷多、默認配置風險高、高危漏洞數量多等五大安全風險。據通報數據，我國境內活躍的OpenClaw互聯網資產約2.3萬個，呈爆發(fā)式增長態(tài)勢。

“醫(yī)學界”梳理發(fā)現，在國家層面密集預警的背景下，北京協(xié)和醫(yī)學院等多家醫(yī)學院校已緊急發(fā)布相關通知，提醒師生員工審慎使用“龍蝦”等智能代理軟件。

這背后的原因或許是，對于醫(yī)學院及其附屬的醫(yī)療機構而言，“龍蝦”的風險遠比其他行業(yè)更加復雜、也更加嚴峻。

協(xié)和帶頭，多家醫(yī)學院校緊急提醒

據“醫(yī)學界”不完全統(tǒng)計，目前已有北京協(xié)和醫(yī)學院、廣東醫(yī)科大學、內蒙古醫(yī)科大學、新疆醫(yī)科大學、重慶醫(yī)科大學、溫州醫(yī)科大學、南京中醫(yī)藥大學、杭州醫(yī)學院等十余家醫(yī)學院校發(fā)布了OpenClaw的風險提示。

各院校的應對力度不盡相同，但態(tài)度一致明確。

北京協(xié)和醫(yī)學院信息辦通知明確要求各部門、各學院及各所院廣泛傳達并督促師生員工審慎使用“龍蝦”等智能代理軟件，堅持“非必要不使用”的原則。如確需使用，應嚴格遵循六大安全要求。

內蒙古醫(yī)科大學則嚴禁在網絡信息中心統(tǒng)一分配、管理的服務器及校園公共計算資源上安裝、部署、運行OpenClaw相關程序。

圖源：智慧內醫(yī)大

廣東醫(yī)科大學著重提醒師生，部署OpenClaw要注意防護，避免電腦里的畢業(yè)論文、實驗數據、科研成果，以及個人賬號密碼、校園信息等面臨被竊取、篡改的風險。新疆醫(yī)科大學同樣在3月11日發(fā)文提醒，審慎使用“龍蝦”。

圖源：新疆醫(yī)科大學

在國家層面的密集預警之下，全國已有數十所高校均已發(fā)布類似通知，甚至嚴禁辦公電腦安裝“龍蝦”。

其中，醫(yī)學院校的應對值得關注，因為它們不僅是教學科研機構，更直接連接著臨床醫(yī)療體系，承載著遠比普通高校更為敏感的數據資產。

通常而言，一所醫(yī)學院校的網絡環(huán)境中，往往同時運行著教務系統(tǒng)、科研數據庫和附屬醫(yī)院的臨床信息系統(tǒng)，任何一個環(huán)節(jié)的安全漏洞，都可能產生鏈式反應。

某大學附屬醫(yī)院員工告訴“醫(yī)學界”，目前他所在的醫(yī)院雖未就“龍蝦”單獨下達通知，但作為大學附屬機構，學校的要求，醫(yī)院會跟著執(zhí)行。

科技型醫(yī)療服務企業(yè)“鄰家好醫(yī)”創(chuàng)始人兼CEO羅林對“醫(yī)學界”表示，OpenClaw在醫(yī)療圈的熱度在不斷提升，不過在臨床一線，其應用仍處于早期探索階段，業(yè)內心態(tài)整體保持“關注且謹慎”。

醫(yī)療機構為何要格外警惕？

“龍蝦”的安全風險是普遍性的，但對醫(yī)學院或醫(yī)療機構來說，這些風險一旦落地，后果可能遠比其他行業(yè)嚴重。

這首先與醫(yī)療數據的特殊性有關。

醫(yī)院信息系統(tǒng)中存儲著海量的患者隱私數據——姓名、身份證號、病史、診斷結果、檢查影像、基因檢測信息等，這些數據一旦泄露，不僅侵犯患者個人權益，還可能觸發(fā)嚴重的法律后果。

與一般商業(yè)數據不同，醫(yī)療數據具有高度的不可逆性，即一個人的病史和基因信息等一旦外泄，無法像更換密碼那樣補救。

對醫(yī)學院校而言，風險還疊加了一層科研維度。

大量尚未發(fā)表的臨床試驗數據、藥物研發(fā)資料、科研成果儲存在校園網絡中，如果被OpenClaw在自主執(zhí)行過程中讀取甚至外傳，不僅涉及知識產權損失，還可能影響正在進行的臨床研究的合規(guī)性。

正如廣東醫(yī)科大學在通知中特別提到的，畢業(yè)論文、實驗數據、科研成果都是需要重點防護的對象。

羅林對“醫(yī)學界”表示，如果未經嚴格管控就將OpenClaw引入醫(yī)院內網環(huán)境，等于在核心醫(yī)療系統(tǒng)中打開一扇“未知之門”?；颊叩拿舾行畔⒅苯颖┞对陲L險之下，隱私保護防線可能全面失守。

更深層的隱憂在于醫(yī)療數據的完整性。

羅林指出，病歷數據一旦被惡意或錯誤修改，將直接埋下醫(yī)療事故的隱患。在臨床實踐中，醫(yī)生的每一個診療決策都建立在對病歷信息的信任之上。

如果一個AI智能體在“自主執(zhí)行”過程中篡改或丟失了關鍵的檢查結果、用藥記錄或手術記錄，后果不堪設想。更棘手的是，這種篡改往往是隱蔽的，醫(yī)生未必能在第一時間察覺。

權限失控則是另一重風險。一旦OpenClaw獲得了對醫(yī)院信息系統(tǒng)的深層訪問權限，系統(tǒng)遭到破壞、數據記錄丟失等情況就可能發(fā)生。

此外，還有網絡安全專家指出，AI智能體本身固有的“幻覺”問題在醫(yī)療領域尤其危險。普通用戶使用AI時，一個錯誤的回答或許只是帶來不便；但在診療環(huán)節(jié)，如果AI給出了錯誤的輔助建議，而臨床人員未能及時識別和糾正，后果可能直接關乎患者的生命安全。

AI醫(yī)療，安全是底線

值得注意的是，從制度層面來看，醫(yī)療行業(yè)受到的監(jiān)管力度本就遠高于一般行業(yè)。

《個人信息保護法》將醫(yī)療健康信息列為“敏感個人信息”，處理此類信息需要取得個人的單獨同意，并采取嚴格的保護措施。

《數據安全法》和《網絡安全法》也對關鍵信息基礎設施的運營者提出了更高的安全要求，而大型醫(yī)療機構的信息系統(tǒng)往往屬于這一范疇。

一旦因部署“龍蝦”導致數據安全事件，醫(yī)療機構面臨的不僅是技術層面的損失，更可能是法律層面的嚴厲追責。

羅林對“醫(yī)學界”表示，以OpenClaw為代表的AI智能體在醫(yī)療領域確實有廣闊的應用前景——從智能導診、病歷整理、報告解讀，到患者隨訪管理和科研數據分析，落地場景清晰可見。

但他強調，AI醫(yī)療，安全是底線。風險規(guī)避的關鍵在于如何定義“自主”邊界。

“讓AI擁有'執(zhí)行權'，但醫(yī)生必須牢牢守住‘決策權’與‘確認權’。”羅林說，“落實到具體操作，一定要提前給AI設定好什么能做、什么不能做。所有開出的藥、給出的診斷建議，必須經過醫(yī)生親自確認、電子簽名，才能生效?！?/p>

對于醫(yī)療機構，羅林建議應做好網絡隔離，為智能體設立專屬“數字隔離帶”，確保核心臨床系統(tǒng)不受沖擊；必須制定風險預案，明確人機權責邊界，確保一旦失控，人工能隨時接管；同時要培養(yǎng)既懂醫(yī)療又懂AI的復合型人才，為技術落地配好“領航員”。

歸根結底，醫(yī)學院校及其附屬醫(yī)院對“龍蝦”的禁用與慎用，并非對AI技術的排斥，而是對醫(yī)療行業(yè)特殊性的理性認識，在一個直接關乎人命的領域，任何技術的引入都必須以安全為前提。

醫(yī)學界心血管領域交流群正式開放！

加入我們吧！

本文來源：醫(yī)學界

責任編輯：銀子

*“醫(yī)學界”力求所發(fā)表內容專業(yè)、可靠，但不對內容的準確性做出承諾；請相關各方在采用或以此作為決策依據時另行核查。