由于不可抗力的限流導(dǎo)致無法接收推送文章的問題，我們迫切需要以下操作：

點擊標題下方藍字 “一半杯 ” → 點擊右上角“...” → 點選“設(shè)為星標 ★ ”，這樣就更容易找到我們和收到推送文章！

保持愛讀文章，保持領(lǐng)先！

在Mythos之后，放任自流的做法在政治上已難以維系，在戰(zhàn)略上也不再明智。

是否應(yīng)當把世界上最強大的新技術(shù)托付給少數(shù)幾個人？五位科技極客名氣之大，僅憑名字就足以讓人認出他們：達里奧·阿莫代伊(Dario Amodei)、德米斯·哈薩比斯(Demis Hassabis)、埃隆·馬斯克(Elon Musk)、馬克·扎克伯格(Mark Zuckerberg)和薩姆·奧爾特曼(Sam Altman)。他們對將塑造未來的人工智能模型擁有近乎神祇般的掌控力。特朗普政府一直袖手旁觀，即便這些模型已經(jīng)獲得令人瞠目的能力也依然如此。政府相信，私人企業(yè)之間不受束縛的競爭，是確保美國在同中國的AI競賽中取勝的最佳方式。

直到現(xiàn)在。突然之間，美國對AI采取的這種放任式處理方式似乎即將走到盡頭。原因在于，這些模型令人眩目的進步同樣對美國自身國家安全構(gòu)成威脅，令特朗普政府中一些原本更擔心監(jiān)管過度的成員感到不安。與此同時，美國選民日益增長的反感情緒正在使AI變成一個政治爭議焦點。放任自流的做法在政治上已難以維系，在戰(zhàn)略上也不再明智。

分水嶺是Anthropic于4月7日宣布推出Claude Mythos。這家模型開發(fā)商的最新成果在發(fā)現(xiàn)軟件漏洞方面表現(xiàn)驚人，一旦落入不當之手，它將威脅從銀行到醫(yī)院等關(guān)鍵基礎(chǔ)設(shè)施。AI模型也日益帶來其他風(fēng)險，從生物安全隱患到產(chǎn)業(yè)化大規(guī)模詐騙，不一而足。

Anthropic負責(zé)人達里奧·阿莫代伊明智地認為，Mythos過于危險，不適合面向普通用戶發(fā)布。相反，他將其保留給計算、軟件和金融領(lǐng)域約50家大型企業(yè)使用，以便這些企業(yè)增強自身防御能力。美國財政部長斯科特·貝森特對此深感不安，以至于召集各大銀行舉行緊急會談。

這并不是政府第一次采取行動。就在幾周前，阿莫代伊拒絕允許Anthropic的模型用于完全自主武器或大規(guī)模國內(nèi)監(jiān)控，隨后五角大樓介入。當時，特朗普政府同樣感到警覺，原因也是一家單一企業(yè)對一項事關(guān)國家安全的技術(shù)擁有如此強大的支配力。

選民中的反彈將進一步加大政府干預(yù)的壓力。民意調(diào)查正促使越來越多政界人士認為，AI將成為2028年選舉中的重大議題之一。美國人對AI的懷疑程度遠高于其他國家民眾。十分之七的美國人認為AI將損害就業(yè)機會，這一比例較一年前大幅上升，而且他們還遠未掌握充分證據(jù)。基層對數(shù)據(jù)中心的反對聲浪正在高漲，盡管AI與電價上漲幾乎沒有關(guān)系，甚至毫無關(guān)系。作為一個時代風(fēng)向標，OpenAI負責(zé)人薩姆·奧爾特曼的住宅近日已兩次遭到襲擊。

歷史表明，對于AI這樣足以改變世界的技術(shù)而言，一個Mythos時刻不可避免。從約翰·D·洛克菲勒到亨利·福特，美國偉大的工業(yè)創(chuàng)新曾由少數(shù)男性主導(dǎo)，而這些人隨后獲得了極大權(quán)勢。最終，20世紀各國政府出手馴服權(quán)力過大的行業(yè)，從拆分標準石油公司的反托拉斯行動，到美聯(lián)儲的創(chuàng)設(shè)，再到AT&T的拆分，不一而足。那些年代的政治極化和社會躁動程度至少不亞于今天。而我們的測算表明，如今這些AI諸神的支配地位尚未超過他們那些歷史前輩。

但歷史同樣表明，控制AI將困難重重。部分原因在于，一旦事情出錯，代價極高。另一個原因在于，AI正以極高速度演進。

其中的取舍極為尖銳。經(jīng)濟增長將受益于AI紅利的快速擴散，但潛在反彈很容易導(dǎo)致監(jiān)管過度。什么都不做，可能讓美國容易受到惡意使用AI引發(fā)的混亂沖擊；但監(jiān)管過度則會確保????贏得AI競賽。這使當下成為一個危險時刻。

時間已經(jīng)不多。兩年前，在拜登政府時期，關(guān)于監(jiān)管的討論主要圍繞AI的潛在風(fēng)險。如今，其能力已經(jīng)強大到令人警覺，而且每一次發(fā)布都會變得更強。創(chuàng)新速度意味著，過去需要幾年甚至幾十年展開的政府適當角色之爭，如今必須在數(shù)月內(nèi)解決。

而且，采取更強干預(yù)路徑所面臨的技術(shù)障礙也令人望而生畏。國有化等政府控制工具并不有效，因為優(yōu)秀工程師可以在企業(yè)之間自由流動，算力也已成為一種商品化資源。更糟的是，領(lǐng)先模型開發(fā)商只比開源競爭者領(lǐng)先數(shù)月，其中也包括????的開源競爭者。它們模型的能力遲早會向所有人開放。

即便如此，Mythos時刻仍可能成為控制AI的可行方案開始成形的節(jié)點。可信用戶將獲得最強大新模型的早期使用權(quán)：OpenAI正效仿Anthropic，把其最新工具推出給一組有限的、經(jīng)過審核的網(wǎng)絡(luò)安全專業(yè)人士。在允許這些模型廣泛商業(yè)化之前，政府可以要求由行業(yè)主導(dǎo)的機構(gòu)對其不同用途進行測試，并出具認證。

極客獻禮，不可不防

這一設(shè)想對大型模型開發(fā)商和政府都有好處。它避開了設(shè)立新監(jiān)管機構(gòu)的漫長過程。通過只允許少數(shù)高端用戶使用，它使模型開發(fā)商能夠收取更高價格，并限制稀缺算力的使用。與此同時，政府可以限制最強大模型的使用者范圍，從而降低????復(fù)制這些模型并更快追趕的風(fēng)險。

但它也存在嚴重問題。有限發(fā)布將削弱競爭，并增強既有AI公司的影響力。它將減緩AI紅利的擴散，并在美國經(jīng)濟內(nèi)部制造一種雙層體系，使大量企業(yè)處于不利地位，因為它們會反復(fù)被排除在強大新模型的特權(quán)性早期訪問之外。如果打造AI防御能力需要很長時間，甚至根本不可能做到，又該怎么辦？開源模型又怎么辦？怎樣才能要求它們也遵守這些規(guī)則？

建立在這些基礎(chǔ)上的監(jiān)管體系可能會被證明是不公正的。圈內(nèi)人可以保護自己免受前沿威脅；圈外人則只能寄希望于好運。游說和獲取超額利潤的空間將極為巨大。這將考驗美國現(xiàn)代政治時代最明目張膽腐敗的一屆政府的誠實與能力。而一種把權(quán)力和財富進一步集中到少數(shù)AI諸神手中的解決方案，可能會加劇正在讓華盛頓感到擔憂的那種政治反彈。

此外，Mythos路徑至多只能是半套解決方案。AI安全無法僅靠一國之力實現(xiàn)。最終，它將需要國際合作，首先是與????合作。如今對網(wǎng)絡(luò)安全的新關(guān)注，也需要同對AI經(jīng)濟和社會影響的緊迫思考相匹配。如何應(yīng)對就業(yè)沖擊，以及如何設(shè)計一套適應(yīng)AI時代且有利于勞動者的稅制，都是巨大難題，而目前還沒有人給出好的答案。這種狀況必須改變。Mythos時刻是AI安全的一記警鐘。它也要求人們在其他領(lǐng)域進行嚴肅思考。■