新智元報道

【新智元導讀】剛剛，Anthropic CEO發布重磅檄文《指數級AI政策》：AI的「指數級爆炸」已無法阻擋，必須強制第三方測試+政府叫停！為此，Anthropic砸出3.5億真金白銀。

就在剛剛，Anthropic 的創始人兼 CEO Dario Amode發表了了一篇萬字檄文——《指數級AI政策》！

這是一篇足以載入AI發展史冊的重磅文章。

在文中，Amodei做出了罕見的舉動：作為全球頂尖AI實驗室的掌門人，他主動要求政府對自己和同行實施嚴厲監管。

他主張，計算量超過102? FLOPs或者AI相關營收超過5億美元/AI研發投入超過10億美元的頭部AI企業，必須接受政府強制監管。

一旦發現模型存在生物、網絡安全或自主失控等災難性風險，政府可以直接「封殺」！

同步發布的，還有Anthropic的兩份正式政策提案：一份針對前沿AI模型的強制監管框架，一份針對AI引發的就業沖擊的經濟補償方案。

為了表示來真的，Anthropic承諾為這兩份提案提供了真金白銀——2億美元用于研究，1.5億美元用于獎學金。

今天，Anthropic的這一舉動，徹底打破了硅谷巨頭長期以來抗拒監管的默契。

它向全球釋放了這樣一個信號：溫和的自律時代已經宣告終結，AI指數級爆炸的速度，逼迫我們必須在災難發生前，給大模型套上真正的「緊箍咒」！

樹人覺醒了！

托爾金在《指環王》里寫過，樹人是森林的守護者，古老、睿智、強大。但他有一個致命的弱點：太慢了。跟另一棵樹打個招呼，要花整整一天。

當半獸人的軍隊已經在砍伐他的家園，他還在慢悠悠地思考要不要行動。

現在，AI正在以閃電速度瘋狂進化，而各國政府，正是那棵慢吞吞的樹人。

Amodei為什么突然這么急？直接原因，就是Mythos。

Claude Mythos Preview能自主發現了所有主流操作系統和瀏覽器中的數千個高危漏洞。

用Amodei的話說：

Mythos Preview 徹底改變了全球網絡安全的版圖。它不容置疑地證明了，前沿AI模型如今已成為具有全球和國家戰略后果的強力工具。而且，這絕不會是我們面臨的最后一次危機。

Scaling Laws已經有超過十年的實證支持。如果它再持續兩年，我們就會得到Amodei所說的「數據中心里的一個天才國度」——相當于一億個頂尖科學家同時在線工作。

然而，國會通過一部重要法律，平均需要數年。

樹人般的速度，根本無法阻擋化身為「天才國家」的指數級AI！

過去幾年，Anthropic一直在推動所謂的「透明度立法」，這就是當時能做到的全部。

因為在2023到2024年，AI的風險還不夠具體。你無法精確描述一個尚未出現的風險，也就無法針對它立法。

但現在，Mythos讓一切都不同了！

網絡安全風險不再是假設，它已經是現實，生物武器風險和AI失控風險也在快速逼近。

FAA模式：AI系統上天之前，先做適航認證

Amodei給出的監管模板，是美國聯邦航空管理局（FAA）。

飛機要上天，必須通過嚴格的第三方測試，拿到適航證書。無論是波音還是空客，只要審查通不過，就要停飛。

Amodei認為，前沿AI模型應該接受同等對待。

他提出的具體門檻是：

-計算量超過102? FLOPs（這大約是當前最頂尖模型的訓練規模）

-或者：AI相關營收超過5億美元，或AI研發投入超過10億美元

達到這個量級的公司和模型，必須接受強制性的第三方測試，覆蓋四個核心風險領域：

一、網絡安全風險。 AI是否能被用于發現漏洞、攻擊基礎設施、癱瘓金融系統？

二、生物武器風險。 AI是否會幫助降低開發危險病原體的門檻？

三、失控風險。 AI系統是否可能在開發者無法控制的情況下自主行動？

四、自動化研發加速風險。 AI是否在加速自身能力的提升，從而放大上述三類風險？

測試必須由合格的獨立第三方完成，可以是類似FAA的政府機構，也可以是經政府授權和監管的私人評估機構。

如果你的模型測出來有不可接受的風險，政府擁有一票否決權，讓模型不準上線！

如果第三方評估結果表明該模型存在不可接受的災難性安全隱患，政府必須擁有合法的、強有力的阻擋、延遲或撤銷該模型部署的權力。

這是Amodei提案中，最具突破性、也最引發爭議的一點。

同時，Amodei還提出，前沿AI模型的「模型權重」是極具戰略價值的資產，極易成為黑客的竊取目標。

一旦權重泄露，所有的安全對齊限制都可能在幾小時內被完全剝離。

因此，開發商必須建立極高安全標準，保護其開發環境和模型權重，定期接受紅隊測試，并建立向政府通報模型蒸餾攻擊的通道。

一旦發生安全事故，開發商必須向監管機構主動報告，不得瞞報。

防AI就業沖擊：Anthropic要給失業者發錢

這篇長文的第二個重點，就是就業政策。

Amodei討論了一個全球痛點：宏觀經濟與持久性失業。

他的判斷是：AI驅動的失業，可能比歷史上任何一次技術革命都更深遠、更持久。

工業革命、互聯網革命，都造成了階段性失業，但最終創造了更多新工作。這背后有兩個緩沖機制：杰文斯悖論和比較優勢原理。

但Amodei認為，AI可能會同時擊穿這兩個緩沖機制！因為AI不只是替代某個具體的任務，它在替代人類的通用認知能力。

一旦AI能在幾乎所有認知領域超越人類，比較優勢就會消失。因此，必須未雨綢繆，設計專門應對AI失業的政策工具。

Anthropic制定了三個層次的經濟框架。

第一層：數據測量與追蹤。政府應該大幅擴展對AI就業影響的數據收集和追蹤。Anthropic已經有一個經濟指數。

第二層：促進就業激勵。包括工資保險、雇主留工稅收激勵、職業培訓補貼。

第三層：長期宏觀經濟支持。如果仍不夠，可能需要某種形式的全民基本收入，通過對AI公司征稅或提高資本利得稅來籌資。

為了支持這個框架，Anthropic宣布：2億美元用于政策研究，1.5億美元用于技能培訓獎學金。

科學與權利：被AI重構的行業版圖

此外，Amodei還呼吁：別讓舊體制成為「科學加速」的絆腳石。

Amodei指出，在AI本身的監管上，我們應該極其審慎、甚至從嚴管控；但對于AI所加速的下游應用科學（如生物醫藥、能源、材料學），我們的監管思路應該松綁。

以生物醫藥為例，傳統的藥物研發流程面臨著 FDA或 EMA極其漫長的審查。從靶點發現到最終獲批上市，通常需要經歷7到8年的漫長周期。

然而，AI的介入將顛覆這一常態。

AI不僅能以幾何倍數增加候選藥物數量，還能大幅提高新藥的效果和安全性。

如果不進行制度改革，龐大的AI產出將徹底癱瘓現有的藥監審批系統。

為此，阿莫代呼吁監管機構順應潮流，開發全新的AI輔助評估標準，包括：

-接受AI生成的藥效學與藥代動力學模擬模型。

-推廣AI預測毒理學，減少繁瑣、緩慢的多物種動物毒性試驗。 推廣人工智能

-在臨床試驗中引入合成控制組，大幅減少人類受試者的招募時間。

-允許針對癌癥、阿爾茨海默病等病癥開發創新的快速通道。

這樣，人類會最快地享受到AI帶來的健康福祉。

在「樹人」醒來之后

在文章結尾，Amodei樂觀地說：「樹人們和他們的森林，正在慢慢睜開眼睛。」

現在全球公眾和政策制定者面前，有一個珍貴卻又稍縱即逝的窗口期。

在硅谷圈子里，很多人覺得，公眾害怕AI只是個「公關問題」，AI行業需要的是「更好的營銷」。

Amodei直接懟了回去：

人們擔心AI，不是因為我們這些CEO不夠樂觀、不會畫大餅，而是因為他們真真切切地看到了AI的風險。

作為AI行業的負責人，我的責任就是把風險攤在桌面上說清楚。公眾的擔心和抗議，恰恰說明民主監督在正常工作。

這一次，Anthropic砸了幾個億的真金白銀，表明了態度。

我們究竟是要繼續在黑暗中蒙眼狂奔，撞向懸崖；還是應該停下傲慢的腳步，與人類的社會治理機制，達成一次史詩級的和解？

樹人已經醒了。

而霍比特人的生死競速，才剛剛開始。

參考資料：

https://x.com/DarioAmodei/status/2064781775247950326

編輯：Aeneas