安徽
據 CNN 報道，人工智能（AI）模型迭代提速迅猛，發展速度之快，不久或可脫離人類自主研發。
正因如此，美國知名 AI 公司 Anthropic 向整個人工智能行業發出警示：行業必須打造一套“制動機制”，否則企業或將徹底失去對自研AI產品的管控。
Anthropic研究院負責人瑪麗娜·法瓦羅與該公司聯合創始人杰克·克拉克在一篇博客文章中表示：具備自主進化能力的AI系統被稱作完全遞歸自我迭代系統，這類技術雖有望在科研、醫療領域創造巨大價值，但同時也會給人類帶來嚴峻隱患。
他們撰文寫道：“完全遞歸自我升級還會加劇人類失去AI管控權的風險。倘若人工智能能夠獨立自主迭代出下一代模型，針對AI的安全防護、運行監測與行為約束舉措就變得至關重要。”
二人警示：AI行業實現可自我迭代人工智能的進度，遠超此前預期。因此科技企業應當考慮放緩或暫停前沿人工智能研發，留出充裕時間，便于科研人員深入研判自主進化型AI可能引發的各類社會危害。
他們還提出，研發人員需搭建人工干預通道，以便在事態失控時人類能夠及時介入（Researchers should also build a way for humans to intervene if things get out of hand）。
克拉克于周四晚間做客美國有線電視新聞網（CNN）節目時，呼吁全行業建立一套AI管控“制動機制”。
他在受訪時對安德森·庫珀表示：“眼下我們就像開著一輛只有油門、沒有剎車的汽車，未來某個階段，我們必然需要配備剎車這一備選裝置。”
庫珀以科幻影片里人工智能崛起并屠戮人類的橋段舉例，詢問克拉克是否正擔憂此類現實風險（Cooper raised the example of science fiction movies in which AI rose to kill human beings, and asked if that’s what Clark is worried about）。
克拉克答道：“沒錯，我們同樣研讀、觀看各類科幻作品，其中的警示我們心知肚明。如何管控規模、迭代速度都遠超以往的大批AI研發科研團隊，是一大難題。”
他補充稱，人類無法核驗、查證并信賴AI的運行表現，這是AI研發過程中的重大隱患。
此番警示發布之際，Anthropic已遞交上市招股申請，若IPO落地，企業可從投資方募資數百億美元，用以加速建設AI所需的數據中心與算力硬件。
除火箭、衛星主業外正在布局AI業務的太空探索技術公司（SpaceX），將于下周啟動史上規模最大的首次公開募股，募資750億美元。
Anthropic、SpaceX 公司、開放人工智能研究中心等頭部AI企業攜手搭建AI“剎車管控機制”，放在動輒千億、甚至數萬億美元體量的激烈行業競爭環境下看似相悖。但克拉克堅稱，這類合作具備落地可行性。
他在CNN采訪中表示：“人類此前已有先例。冷戰高峰期，敵對國關系高度緊繃，各方仍設法管控、穩定核軍備競賽的相關環節。這類跨對手協作在其他領域早已實現，人工智能領域如今或許也需要效仿這套做法。”
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
