上海
核心風險：Anthropic于2026年6月5日發文指出，AI發展正趨向于具備自我迭代能力，這可能帶來人類失控的風險。該公司認為，AI系統未來或將能夠開發自身的繼任者，盡管這可能在科學和醫療領域帶來巨大益處，但也會大幅增加人類失去對AI控制的風險。因此，Anthropic提議全球應暫時放緩或暫停AI開發，以便讓社會結構和AI對齊研究能夠跟上技術前進的步伐。
外界質疑：針對Anthropic的放緩呼吁，有批評聲音認為這實為一種營銷策略。作為目前AI領域的頭部企業之一，Anthropic據報即將實現首次盈利季度，并已向美國證券交易委員會（SEC）提交文件準備在年底前上市。批評人士指出，Anthropic對自家技術的警告可能是為了樹立負責任的企業形象，或暗示其產品技術領先。此前，該公司以潛在破壞風險為由，僅向特定合作伙伴限量發布網絡安全AI模型Mythos，就被外界質疑是在制造噱頭或掩蓋其只想向大企業出售的意圖。
驗證機制：要實現真正的全球放緩，必須建立有效的多國核查機制。Anthropic強調，若有AI公司同意放緩，必須確保各方確實停止或減慢了研發，否則部分企業可能會在暗中推進技術從而實現彎道超車。一個有意義的暫停需要多個國家中處于前沿的多個實驗室在相同條件下同意停止，并且各方必須能夠相互驗證對方確實已經停止開發。
未來計劃：Anthropic計劃在未來數月內就全球放緩AI開發一事展開多方對話。該公司承認，讓全球所有AI公司共同承諾暫停開發并非易事，其難度可參考耗時數十年才達成的核武器條約，但AI的飛速發展已不容人類耗費如此漫長的時間。為此，Anthropic將在接下來的幾個月里與政策制定者、研究人員及其他AI公司舉行會談，并將于隨后公布這些對話的結果。
參考鏈接:
https://www.engadget.com/2188066/anthropic-proposes-global-ai-development-slowdown/
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
