5 年估值近萬億美元，“在收入上，我們已經(jīng)超越了 OpenAI。”

編譯 | 王啟隆

出品丨AI 科技大本營（ID：rgznai100）

Anthropic 的創(chuàng)始人 Dario Amodei 最近過得挺缺覺。他在訪談中無奈地承認(rèn)，面對那些前所未有的重壓，他還在努力適應(yīng)高壓下的睡眠。這個，他創(chuàng)立剛滿五年的 Anthropic 估值已經(jīng)逼近一萬億美元，甚至在收入上悄悄超過了宿敵 OpenAI。

大伙都覺得他成了 AI 宇宙的中心，但 Dario 覺得這更像一艘正在瘋狂加速的飛船，你閉眼睡兩天，睜開眼地球上已經(jīng)過去了三年，每天一醒來，積壓要處理的破事多得像山一樣。

外界總覺得 Dario 像個活在象牙塔里的道德衛(wèi)士，但他的商業(yè)路線其實一直很功利。早期別人都在做花哨的消費者應(yīng)用，他卻把算力都押在企業(yè)級和寫代碼上，因為他覺得只有幫藥企、能源公司解決問題才能活下去。這個決策直接在華爾街引發(fā)了“SaaS 滅絕（SaaSpocalypse）”的股票暴跌。

對于那些覺得自己寫了點復(fù)雜代碼就有壁壘的軟件公司，Dario 的警告很簡單：如果你的護(hù)城河只是寫代碼，那在 AI 面前基本等同于沒穿衣服，你防不住的。

在彭博社旗艦訪談《The Circuit》主持人 Emily Chang 的對話里，Dario 聊到了很多外界一直在傳、大廠卻極力掩蓋的細(xì)節(jié)。包括他因為不信任 Sam Altman 而出走、在印度峰會上拒絕握手的八卦等等，以下是他對這些爭議、以及新模型 Mythos 為什么之前被他們捂著不發(fā)給出的直接解釋：

• 我們離開 OpenAI，是因為 Sam Altman 持續(xù)不誠實，我們沒辦法再信任他。商業(yè)和安全上的分歧在任何公司都有，但當(dāng)你發(fā)現(xiàn)對方的價值觀和說的不一樣、不誠實，且持續(xù)出現(xiàn)這種行為時，最好的解決辦法就是拆伙。
  

• 如果你的公司壁壘只是寫出了復(fù)雜代碼，那基本防不住。傳統(tǒng)軟件行業(yè)正面臨成批的淘汰，因為 AI 寫代碼的速度和成本優(yōu)勢太明顯了。

• 那些以為靠老辦法能一直管用的廠商日子會很難過，未來的護(hù)城河會變成客戶關(guān)系、行業(yè)門道和獨有的業(yè)務(wù)邏輯。

• 新模型 Mythos 能在 Firefox 里找出 271 個從未公開的底層漏洞，并自動把它們變成攻擊武器。早期測試完這個模型的大廠警告我們，這東西像個超級武器，用它得先考個持槍證。
  

• 我把奧本海默看作一個失敗案例，看作“不該發(fā)生的那種情形”。

領(lǐng)取地址：https://s.csdn.cn/4nPsOp

Inside Anthropic（在公司內(nèi)部）

采訪者：你現(xiàn)在每天能睡多久？

Dario：我一直都不是那種睡很多的人。這么說吧，我正在學(xué)習(xí)一種藝術(shù)：在不同尋常的壓力之下，找到讓自己放松和睡著的辦法。

采訪者：一切都在以極快的速度推進(jìn)。身處其中，感覺是什么樣的？

Dario：那是一種“指數(shù)式增長”的感覺。假設(shè)你坐上一艘宇宙飛船，以接近相對論速度的方式遠(yuǎn)離地球。按照狹義相對論的運作方式，你睡一覺醒來，地球上已經(jīng)過去了兩天。所以你得在一天里應(yīng)對兩天發(fā)生的事。然后你再去睡覺，由于你還在繼續(xù)加速，地球上就過去了三天。再下一天，過去了四天。那種感覺，和現(xiàn)在非常像。

采訪者：你會不會每天晚上都帶著強(qiáng)烈的不安入睡，擔(dān)心醒來之后又會看到什么？

Dario：現(xiàn)在有足夠多迫在眉睫、必須應(yīng)對的問題，所以我一直都在處理這些事，同時思考我們該如何提前準(zhǔn)備。但我不認(rèn)為偏執(zhí)，或者整天擔(dān)心醒來后會發(fā)生什么，是一種有建設(shè)性的狀態(tài)。

我研究過歷史上那些面對高壓局勢的人，你必須學(xué)會理性回應(yīng)，而不是把各種危險彼此之間的輕重關(guān)系搞錯。在“我一點都不擔(dān)心”和“天啊我們今天必須恐慌起來”之間來回?fù)u擺，這是不成熟決策的典型表現(xiàn)。

真正成熟的決策方式是：我們不能忽視這件事。我們不能自滿。事實上，它正在變成越來越大的風(fēng)險。但我們必須像外科醫(yī)生做手術(shù)那樣去應(yīng)對，或者像軍官執(zhí)行軍事行動那樣去應(yīng)對。一個做決定會影響到許多人的人，必須理性地做決定。他們必須理解風(fēng)險，但也必須保持一種基本的冷靜。

采訪者：我兒子昨天還在說：“我能用一下你的 Claude Cowork 賬號嗎？”我當(dāng)時就說：“絕對不行。我還得省著我的 tokens。”

我們看到越來越多這類產(chǎn)品，甚至在消費級市場也是這樣。我們原本更想成為一家企業(yè)服務(wù)公司。但即便在消費市場上，就算我們沒花那么多力氣，它也開始快速增長了。

你現(xiàn)在就在 AI 宇宙的中心位置。這種感覺是什么樣的？

Dario：有意思的是，我整個職業(yè)生涯里——當(dāng)然也包括在 Anthropic 的整個階段——我的體驗一直都是存在這樣一種平滑的指數(shù)曲線。所謂平滑的指數(shù)曲線，體驗就是：什么都沒發(fā)生，什么都沒發(fā)生，什么都沒發(fā)生。會有一些小事發(fā)生，然后“嗖”的一下——一切突然瘋狂起來。這就是世界的體驗。這也是公司規(guī)模相對于其他公司、相對于整個世界時的那種體驗。

所以我之前一直在看這張圖，然后我會說：“哦，是的，我們大概會在這個時間點附近成為營收最高、估值最高的 AI 公司。”

而事實也確實如此。

所以從某種意義上說，我并不驚訝，因為圖上就是一條平滑的線。但當(dāng)然，從另一種意義上說，當(dāng)事情真正發(fā)生時，你會看到其中更多的細(xì)節(jié)和色彩，而那確實又讓人感到驚訝。

我們只是始終記著那些我們平常一直在想的問題，也就是：我們?nèi)绾斡?xùn)練出好的模型？如何把它們做成好的產(chǎn)品？如何確保一切是安全的？如何幫助人們，同時也管理這項技術(shù)帶來的社會風(fēng)險？問題還是那些問題，只不過它們現(xiàn)在像是被放到了一個更大的顯微鏡之下。

Dario 的背景

采訪者：你小時候在舊金山長大，那時是什么樣的？我知道你父親是做皮具工藝的，你母親在圖書館工作。這些經(jīng)歷是怎么塑造你的？

Dario：整個第一波互聯(lián)網(wǎng)革命就在我身邊發(fā)生，但我對此完全沒有興趣。我只對做數(shù)學(xué)、亂寫亂畫感興趣。我對理解宇宙感興趣。我對科幻小說感興趣。大體上就是那樣的成長環(huán)境。

我想，我只是對這個世界有著非常強(qiáng)烈的好奇心。

采訪者：你成長在這座科技中心城市里，而現(xiàn)在這里又成了 AI 的中心。這個地方、這座城市，有什么東西影響了你的世界觀嗎？

Dario：有。我覺得那種不從眾、個人主義，以及“你瘋狂一點也沒關(guān)系”的整體精神，確實在某種程度上影響了我。

你會聽到一些故事，說在歐洲的一些國家，或者甚至這個國家的其他地區(qū)，如果你用某種不同的方式思考問題，或者懷抱一套瘋狂的想法，就會被勸退，或者被視為很怪異。其實我對硅谷有很多地方都非常批評。但我認(rèn)為它有一個優(yōu)點，就是它鼓勵這樣一種觀念：即便所有專家都反對你，也沒關(guān)系。即便你擁有一套連貫的愿景和連貫的世界觀，你也應(yīng)該去追求它。

也許它最終完全不會成功。但如果它成功了，這里面就有一種長尾特性：有些地方就像礦脈一樣，只要你去尋找，就可能發(fā)現(xiàn)一座巨大的金礦。我認(rèn)為這種精神非常重要。

采訪者：你、Daniela——你的妹妹——以及她的丈夫 Holden Karnofsky，2016 年曾經(jīng)一起住在一個合租屋里。那時候你們都在討論些什么？

Dario：我想，那大概正是 Open Philanthropy Project 剛剛啟動的時候，Holden 是那個項目的負(fù)責(zé)人。而我在當(dāng)時是一名生物科學(xué)研究者。所以我會幫他們處理一些和發(fā)展中國家健康問題，或者生物研究相關(guān)的事情。

所以我會在這些問題上提供一些建議：哪些方向更有前景？哪些方向沒有那么有前景？

離開 OpenAI

采訪者：你離開 OpenAI 的決定，已經(jīng)成了硅谷傳說的一部分。到底發(fā)生了什么？除了流傳的敘事之外，真正的問題是什么？你們分歧在哪里？

Dario：你看，我就把話說得很簡單。構(gòu)建強(qiáng)大技術(shù)時，會遇到很多困難問題，Anthropic 每天也都會面對這些問題。很多時候我們并不知道自己做的是對的決定還是錯的決定。所以在安全問題上，確實存在許多合理的分歧。我們和他們之間當(dāng)然也有過一些這樣的分歧。但僅憑這一點，還不足以讓人離開。

這里的人也和我有過分歧。這里的人彼此之間也有分歧。但如果你覺得你沒法信任某個人，如果你覺得他們的價值觀并不是他們嘴上說的那樣，如果你覺得他們不誠實，如果你覺得他們做這件事并不是出于他們所宣稱的理由，當(dāng)你看到一些令人不安的行為模式——不誠實——那就會讓你非常難以繼續(xù)和這家公司共事，難以繼續(xù)信任這家公司。

而且歸根到底，如果你和某個人既沒有相同的愿景，也不信任他，那又何必繼續(xù)爭論呢？解決方式就是：你去做你的事，他們?nèi)プ鏊麄兊氖隆ξ覀儼醋约旱姆绞阶鍪隆⑺麄儼此麄兊姆绞阶鍪逻@件事，我完全心平氣和。我們會看看誰能在市場上勝出，也會看看誰能在公眾輿論中勝出。

我覺得這些東西，比任何關(guān)于“為什么、誰離開了、發(fā)生了什么”的戲劇化敘事都更有說服力。我們正在提供一個例子，展示我們認(rèn)為應(yīng)當(dāng)如何以負(fù)責(zé)任的方式部署這項技術(shù)。如果他們不同意，他們應(yīng)該把這個論點說出來。我覺得事情其實也就到此為止了。

采訪者：在印度 AI 峰會上有一個瞬間，你和 Sam Altman 似乎拒絕在臺上牽手。當(dāng)時到底發(fā)生了什么？

Dario：實際情況是，那場峰會組織得極其混亂。我們所有人都是最后一刻才上臺，他們還臨時改變了我們站位的順序。然后他們給我們拍照，接著又命令我們所有人手拉手。

如果你參加過這類峰會——我不是在特別針對印度說什么壞話——但凡這類有領(lǐng)導(dǎo)人出席的國際型峰會，組織通常都超級混亂。

采訪者：好吧，但其他人都牽手了。你這不是理由。

Dario：你看，我也不知道該怎么跟你解釋。就是 Narendra Modi 突然站在那里告訴所有人要手拉手。

采訪者：好吧好吧。那這樣，Sam 和 Elon 正在互相起訴。你看起來并不喜歡 Sam。如果建設(shè)世界上最重要技術(shù)的這些人，在臺上都不能手拉手，我們怎么相信你們能在“生存風(fēng)險”問題上合作？

Dario：那我想告訴你的是，這項技術(shù)的建設(shè)者之間，在能力和可信度上存在非常大的差異。我覺得那種“所有人都互相不信任”的梗，并不準(zhǔn)確。

我認(rèn)識Demis Hassabis已經(jīng) 15 年了，他在做 Gemini 模型——那是 Claude 模型的競爭對手。我們在許多問題上都合作過。我們從 Google 買算力。我們也一直在互相交流安全方面的想法。

所以我的看法是，第一，確實有些參與者比另外一些更值得信賴。我也確實信任 Anthropic 之外的一些參與者，并認(rèn)為他們是可信的。我認(rèn)為真正需要發(fā)生的是，那些值得信賴的參與者需要聯(lián)合起來，把那些不值得信賴的參與者放到一種他們不得不接受同樣標(biāo)準(zhǔn)的位置上。

憑借大量經(jīng)驗，我已經(jīng)明白了，有些人自己不會主動做正確的事，但如果行業(yè)中的大多數(shù)人都在做正確的事，那么我認(rèn)為其余人就會處在一種幾乎別無選擇、只能跟上的境地。

這里面有積極的一面，也就是你去激勵別人。比如 Demis 和我就是在互相激勵。他做了AlphaFold。我們也在嘗試做一些生物方向的事情。我們做可解釋性研究；他們也開始做可解釋性研究。這甚至不只是競爭。更像是每家公司做出一些很酷的東西，另一家公司就會說：“這很酷。我們也想做，并且看看我們能不能在這個方向上做出一些新的東西。”

所以這就是“向上競賽”中的胡蘿卜那一面。然后還有大棒那一面，或者說隱性的那一面：也就是，你會說，好吧，這些人在做正確的事。那些人如果不做正確的事，就會顯得很難看。而我們經(jīng)常也會看到一些行為模式：他們會有些不情愿地去做正確的事，同時還試圖假裝他們其實在做別的事情，并暗示我們這里有什么不對勁，或者我們有什么陰暗的企圖。這是意料之中的。

但我認(rèn)為，這就是我們把整個行業(yè)拉到一起的方式，也是我們讓整個行業(yè)實現(xiàn)合作的方式。

押注企業(yè)市場

采訪者：早期，其他公司都更關(guān)注好玩、吸睛的消費級應(yīng)用。你卻押注在編程和企業(yè)市場上，而 Claude Code 很火，Claude Cowork 也很火。你為什么做這個押注？這是價值觀驅(qū)動，還是商業(yè)決定？

Dario：當(dāng)我們創(chuàng)辦 Anthropic 時，最根本、也是始終最重要的一點，就是我們想把這件事做對。但接著你就得問自己：為了給這些極其昂貴的模型研發(fā)提供資金支持，這必須是一家公司，必須有商業(yè)模式。那么問題就變成：這個商業(yè)模式會不會和價值觀相沖突？這個問題一直都存在。

但我認(rèn)為，我從其他公司身上學(xué)到的一件事是：如果你選擇了一種從根本上和你的價值觀沖突的商業(yè)模式，你會過得很艱難。要么你背叛自己的價值觀，要么你變得無足輕重。你最終會落入一種兩難境地。

當(dāng)然，也不是完全沒有出路，也不是不能繞開，但那始終是一種艱難處境。更好的方式，是一開始就選擇一種和自己價值觀相兼容的商業(yè)模式。

所以當(dāng)時我們思考之后得出的結(jié)論是：我們看過社交媒體那個世界，也看過整個消費市場。它似乎真的會鼓勵“參與度”，甚至鼓勵成癮。我們看到 AI 視頻模型制造出來的那些“垃圾內(nèi)容（slop）”，就會想：到底發(fā)生了什么？它追求的是最大化你付出注意力的分鐘數(shù)，因為廣告驅(qū)動的商業(yè)模式就是那樣的激勵結(jié)構(gòu)。

而如果我們看企業(yè)市場：我們想做的是讓這些模型真正對人有用。如果我去想所有 AI 可能帶來的積極影響——我經(jīng)常也會警告它的負(fù)面影響，但歸根到底我們認(rèn)為積極的一面會大于消極的一面——其中很多其實都可以被歸入“企業(yè)”這個大框架之下。

我們想用 AI 去治療那些以前治不了的疾病。那就要和生物科技公司、制藥企業(yè)、學(xué)術(shù)研究機(jī)構(gòu)合作。所有這些都是enterprise（企業(yè)組織）。我們想用 AI 讓能源更便宜、更高效。那也是 enterprise。我們想用 AI 幫助教育。大多數(shù)這類事情也是 enterprise。我們想用 AI 去改善發(fā)展中國家的健康狀況。那里也許會有一些非營利組織，但它們本質(zhì)上也可以視作 enterprise。我們想提升經(jīng)濟(jì)增長。這基本上同樣屬于 enterprise。

然后我覺得還有另一個因素，就是企業(yè)非常看重信任和長期關(guān)系。消費市場往往會有一種“噱頭感”，而在企業(yè)市場中，真正重要的是你建立起一段多年合作的關(guān)系：你兌現(xiàn)自己說過的話，他們也兌現(xiàn)他們說過的話，然后他們基本上會信任你。

所以這和我們以積極、安全的方式部署這些模型的目標(biāo)是高度協(xié)同的。我認(rèn)為，擁有這樣一種大體上和我們價值觀一致的商業(yè)模式，對我們非常有利。并不是說其中從來沒有沖突。也不是說我們不必做艱難選擇。但我覺得，這樣的選擇數(shù)量會比其他情況下少得多。

采訪者：一個開發(fā)者一下午就可以從 Claude 切換到 ChatGPT 或 Gemini。在這個行業(yè)里，真的有可能建立長期領(lǐng)先優(yōu)勢嗎？一個認(rèn)真的競爭對手，要花多久才能復(fù)制出你們已經(jīng)做出來的東西？

Dario：模型質(zhì)量是最重要的事情。我們現(xiàn)在在模型質(zhì)量上遙遙領(lǐng)先。確實存在某種慣性，但我從來不依賴那種東西。Anthropic 也從來不依賴“哦，這東西有粘性，人們不會切換”。我覺得你必須擁有更好的模型。你必須擁有更好的產(chǎn)品。

我們看到，增長率根本沒有拐頭下降。真要說的話，它們甚至還在上升——至少在這次采訪錄制的時候是這樣。所以我傾向于認(rèn)為，那才是最重要的事。

采訪者：Claude Cowork 發(fā)布后不久，市場一夜之間蒸發(fā)了 2850 億美元市值。交易員把那叫作 “SaaSpocalypse”。如果 AI 按照這樣的速度繼續(xù)進(jìn)步，傳統(tǒng)軟件會被替代掉多少？又會有多快？

Dario：這是那種非常難以提前準(zhǔn)確預(yù)測的問題。如果你能提前完美預(yù)測，那人們早就在市場上賺到巨額財富了，而且永遠(yuǎn)不會出錯。所以沒有人確切知道會發(fā)生什么。

但我會指出幾點。所有這些傳統(tǒng)軟件公司，都擁有一些護(hù)城河。我覺得將要發(fā)生的事情是：其中有些護(hù)城河會消失，但另一些會繼續(xù)存在。

“快速寫出軟件”的能力——我確實認(rèn)為這項護(hù)城河正在消失。如果你的護(hù)城河是“我們寫出了這套復(fù)雜軟件，別人寫不出來”，那祝你好運。你守不住這個。可是，很多公司仍然有客戶關(guān)系。很多公司仍然掌握著某個行業(yè)如何運作的 know-how。很多公司仍然擁有獨特的領(lǐng)域知識。

所以我給這些公司的建議是：顯然，不要自滿。不要忽視它。把你所有的護(hù)城河都列一個清單，并且清楚意識到，其中有一些會消失，而另一些會變得相對更加重要。因為這里存在限制因素，也可能會出現(xiàn)新的護(hù)城河。

我認(rèn)為，那些能靈活回應(yīng)局勢、既抓住仍然存在的護(hù)城河，也抓住新護(hù)城河的人，會做得很好。而那些自滿的人，那些自我欺騙、以為過去有效的方法將來還會繼續(xù)有效的人，他們的日子不會好過。

這就是我會給出的建議。而且歸根到底——當(dāng)然，這也取決于你怎么定義 SaaS，什么算 SaaS，什么不算——但我猜測，軟件行業(yè)總體上會變得更大，而不是更小，盡管其中會出現(xiàn)一些巨大的輸家。

采訪者：解釋一下。

Dario：我只是覺得整個蛋糕在變大。有了 AI，蛋糕在變大。現(xiàn)有的 incumbents（現(xiàn)有巨頭）在相對意義上可能會變小。其中一些公司的估值可能會下降。有些如果不能正確適應(yīng)，甚至可能會倒閉。

但這種事在高速增長期很常見。如果 AI 帶來的可能性增長了 10 倍，那么一個現(xiàn)有行業(yè)只增長 1.5 倍，也是完全可能的——只是它增長得沒有整個大蛋糕那么快。

所以我覺得，這種情況是有可能發(fā)生的。這并不是說不會有大輸家。我認(rèn)為，那些不能適應(yīng)、把頭埋進(jìn)沙子里、不去看清未來正在發(fā)生什么、不去識別自己還擁有哪些護(hù)城河的人，會非常艱難。

采訪者：你們最大的支持者，是像 Amazon、Google、Microsoft、Nvidia 這樣的公司。這些公司都有各自的議程。它們既是合作伙伴，也是競爭對手。你們的融資和很多巨大的商業(yè)里程碑是綁定的。那到底是誰在真正拍板？

Dario：我們已經(jīng)有過很多次明確表達(dá)自己立場的情況。我一直都非常直言不諱地支持對中國實施芯片出口管制。我這么說，是因為我認(rèn)為，如果中國在 AI 能力上領(lǐng)先，對美國、對全世界民主制度的狀態(tài)都會是非常糟糕的事。

顯然，一些芯片制造商并不同意這個看法，但這并沒有阻止我把這些話說出來。我現(xiàn)在還在說，哪怕是在我們簽了更多合作協(xié)議之后也是如此。

他們知道的一點是：我們始終和他們合作。我們一直是好的合作伙伴。我們可以一起合作。我相信他們并不希望我們說這些話，但這些話就是我的真實信念。你又能怎么辦呢？歸根到底，他們從這些交易中獲益，并不比我們少。

說到底，我們都是成年人。我們可以在一件事情上合作，同時在另一件事情上持不同意見。

采訪者：Bloomberg 報道說，你們的估值已經(jīng)高于 OpenAI。我們說的可是一家成立五年的創(chuàng)業(yè)公司，卻接近一萬億美元估值。你怎么理解這個數(shù)字？而且如果你們在算力使用上更克制、盈利路徑也更快，為什么還需要那么多錢？

Dario：算力擴(kuò)張得非常快。所以完全可能同時存在這樣兩件事：一方面，業(yè)務(wù)基本面看起來很好；另一方面，一年之后你會擁有三倍那么多的算力——或者三倍、四倍，我不會給出具體數(shù)字——但算力擴(kuò)張的斜率就是這么快。

而且我們完全預(yù)期，營收增長會跟上，甚至超過算力增長。但融資本身，就是為了給這個不確定性的錐形空間提供緩沖。所以這完全是理性的做法。對業(yè)務(wù)的稀釋非常小，從邏輯上講，這和“業(yè)務(wù)基本面出了問題”完全不是一回事——事實上，它甚至和相反的結(jié)論是兼容的。

超越 OpenAI

采訪者：一直有報道稱你們服務(wù)器壓力很大、可靠性有問題，也有人抱怨 token 不夠用。你曾經(jīng)說其他公司在基礎(chǔ)設(shè)施上是 “yolo-ing”（一種不計后果地猛沖）。你們現(xiàn)在真的擁有自己需要的一切嗎？還是說你們正在追趕？

Dario：關(guān)于算力，有一件事是這樣的：存在“營銷算力”這種東西。我的看法是，拉長到一段時間來看——哪怕比幾個月稍微長一些——我們是可以拿到大量算力的。

這里有一點值得說清楚：我并不認(rèn)為，按照任何合理標(biāo)準(zhǔn)，我們當(dāng)初買的算力都算“太少”。我們當(dāng)時是按每年 10 倍的算力增長來規(guī)劃的。每年 10 倍，是我們的預(yù)期。但 2026 年第一季度實際看到的并不是這樣。

我們看到的是季度營收增長超過 3 倍——不是年化的，是單季度就 3 倍——而當(dāng)然，3 的 4 次方是一年大概 80 倍。我們并沒有按年化 80 倍增長去做規(guī)劃。按年化 80 倍去規(guī)劃，本身就不理性，因為如果最后你只得到 10 倍增長，那你就會多出 8 倍的閑置資源。

所以我們現(xiàn)在處在一個局部極端的算力需求爆發(fā)期里，而它不會一直持續(xù)下去。如果它一直持續(xù)，那到年底時營收會增長到一種我認(rèn)為地球上沒有任何一家公司會達(dá)到的數(shù)字——我不認(rèn)為那會發(fā)生，它不可能持續(xù)。

但你確實可能會經(jīng)歷這種短時期：天啊，這比我們原先任何可能的預(yù)期都快得多。不過，你已經(jīng)看到了我們和 Google 的算力合作，也看到了我們和 Amazon 的算力合作。未來還會有更多，我們也會去做。市場是流動的。如果你真的能高效使用算力，而且市場上也有需求，你最終會拿到你的算力。可能只是需要一兩個月的時間而已。

采訪者：超越你的頭號對手，這感覺好嗎？

Dario：你看，我們面前還有很多艱巨挑戰(zhàn)，而且我們一直在推動一種“向上競賽”的理念，想把其他公司也一起往上拉。我認(rèn)為我們已經(jīng)看到了這一點。我們確實把他們拉上來了。有時候他們不愿意承認(rèn)自己是在被我們拉著走。有時候他們一邊攻擊我們，一邊又在復(fù)制我們。但這種拉動非常有價值。

所以我認(rèn)為，成為最頂尖的公司——無論是商業(yè)上還是模型能力上——它的價值不在于“為了打敗對手而打敗對手”。它的價值在于，你由此擁有了把整個生態(tài)系統(tǒng)一起往前拉的能力。我們希望未來能做得更多。

采訪者：但贏了總還是會有一點爽吧。

Dario：我的意思是，我們始終都在努力成功。我們不是來這里失敗的。我不是那種認(rèn)為這項技術(shù)應(yīng)該被關(guān)停、不該被創(chuàng)造出來的人。我們存在于一個自由企業(yè)制度里，這本身沒有問題。我們只是必須緩解這些模型帶來的風(fēng)險。所以一直以來，關(guān)鍵都在于如何平衡這兩者。

采訪者：在 Anthropic 的大部分歷史里，你們都是弱勢挑戰(zhàn)者。我想，當(dāng)你一無所有的時候，站在道德高地上總是更容易一些。到了今天這個規(guī)模，要堅持自己的價值觀有多難？

Dario：我想說的是，我花了很多時間思考：隨著公司規(guī)模擴(kuò)大，這件事會變成什么樣。我在公司每一個規(guī)模階段都保持著一種偏執(zhí)。在公司每一個規(guī)模階段，都會出現(xiàn)一些新的挑戰(zhàn)、新的失敗方式——要么是公司失去商業(yè)上的求勝意志，要么是公司失去核心價值觀。

我對這兩者都很擔(dān)心，因為我認(rèn)為它們是協(xié)同的。事實上，我認(rèn)為我們之所以能做出這么好的模型，恰恰使我們能夠在公司成長、變大時，以一種有效的方式堅持我們的價值觀。

這里面有很多陷阱。有很多走錯路的可能。并不是因為我的價值觀、共同創(chuàng)始人的價值觀，或者公司領(lǐng)導(dǎo)層的價值觀改變了，而是因為公司的人員構(gòu)成變化得非常快。

所以我可能有一半時間都花在和公司談?wù)?Anthropic 的文化，以及這種文化是如何運作的上。因為你增長得這么快，就會招聘大量來自大科技公司的人。如果你不告訴他們 Anthropic 是怎么運作的，他們就會自然地重復(fù)自己唯一熟悉的那套東西，也就是他們之前所在公司的運作方式。所以這是一場持續(xù)不斷的斗爭，也是持續(xù)不斷的挑戰(zhàn)。

這就像我和 Daniela 也許排在第一位的頭等優(yōu)先事項，就是想辦法把這一點保留下來，因為我們清楚地意識到，這才是我們長期來看真正的核心所在。

采訪者：你們的產(chǎn)品速度太夸張了。你們發(fā)布東西又多又快。你們是怎么做到的？

Dario：我會說有兩點。第一，我們是一家高度統(tǒng)一的公司。我們有統(tǒng)一的文化。我認(rèn)為，盡管我們規(guī)模變大了，但依然極其高效，所有人依然在同一個頁面上。文化和組織層面的統(tǒng)一——這是最大的因素。

第二個最大的因素，我會說，就是 Claude 本身：我們現(xiàn)在已經(jīng)在用 Claude 來幫助開發(fā)我們的模型、提高它們的效率，并且快速開發(fā)產(chǎn)品。這里面會衍生出各種新的實踐方式，而我們現(xiàn)在還處在剛剛起步的階段，但它已經(jīng)帶來了大量加速，而且越來越多地帶來了可靠的加速。

所以如果要指出兩個因素，我會說就是這兩個。

采訪者：你愿意告訴我，你見過 AI 做過的最瘋狂的事情是什么嗎？

Dario：我覺得我見過最瘋狂的一些東西，是在生物學(xué)和醫(yī)學(xué)領(lǐng)域。我見過不少案例，包括 Daniela 本人，Claude 診斷出了一些連一群頂級醫(yī)生都沒發(fā)現(xiàn)的醫(yī)療問題。

而在生物學(xué)方面，模型在藥物設(shè)計、計算化學(xué)之類的任務(wù)上，已經(jīng)開始變得出乎意料地強(qiáng)。作為一個曾經(jīng)的生物學(xué)家，我看到這些時會想，哇，這很難。你需要大量訓(xùn)練才能做到。而 Claude 已經(jīng)開始做得不錯了。

這是我認(rèn)為我們會收獲極其巨大好處的一個領(lǐng)域。這就是 AI 的積極面。我們會獲得這些巨大無比的收益。生活會變得更好。人類體驗的質(zhì)量會變得更高。

一個世紀(jì)的科學(xué)進(jìn)步——也是一個世紀(jì)“作為人類活著”這件事上的進(jìn)步。你回到 1900 年，想想 20 世紀(jì)初我們面臨的所有問題，想想那些導(dǎo)致人們過早死亡的原因，想想他們不得不忍受的那些痛苦，想想他們承受的那些物質(zhì)匱乏，而今天我們已經(jīng)不用再承受了。然后再去想另一個這樣的百年。

我真的相信，這一個世紀(jì)的科學(xué)和醫(yī)學(xué)進(jìn)步——只要我們能挺過去，而我認(rèn)為我們會的；而且我現(xiàn)在越來越樂觀——我們將會擁有一個好得多、好得多的世界。

AI 與勞動力市場

采訪者：我知道你非常喜歡寫作。你也因為你的文章而聞名。你會用 Claude 來幫你寫作嗎？

Dario：會。我還沒有到那種可以直接讓 Claude 寫出來的文本原封不動進(jìn)入成稿的程度，因為我自己的風(fēng)格實在太具體了，我對這件事多少有點挑剔。但我基本上會用 Claude 來幫我頭腦風(fēng)暴，幫我思考主題，幫我想，比如說，這里我可以引用哪些參考資料？

所以它更像是在扮演一種輔助性的角色。我不知道距離 Claude 寫得比我更好還有多遠(yuǎn)。我們還沒到那一步。但我覺得，毫無疑問，那一天會到來。

采訪者：我也很喜歡寫作，而且我覺得寫作能幫助人和自己的想法搏斗。這里面涉及很多批判性思考。如果我們讓 Claude 代勞，我們會失去這種東西嗎？

Dario：我對此是有點擔(dān)心的。事實上，這也是我堅持自己寫作的一半原因。寫作當(dāng)然是為了外部受眾——很多人會讀我寫的東西——但同樣也是為了澄清我自己的思路，好讓我知道下一步該做什么，并且在我和其他人之間建立一個共同的參照點。

我覺得我們現(xiàn)在仍然在摸索一個問題：究竟該怎么用 AI，才能保留這些好處。我認(rèn)為我現(xiàn)在的做法就能做到這一點：我用 Claude 做研究，也用 Claude 幫我組織自己的思路。

如果我們只是端到端地用它——比如說，“寫一篇關(guān)于 AI 風(fēng)險的文章”——首先，它寫出來的東西并不會是我真正想的那些內(nèi)容。而且，我也會確實失去那種收益。未來隨著模型變得更強(qiáng)，應(yīng)該會有某種方式，讓我們能更直接地把它們用于寫作，同時又能保留這些好處。但我覺得這會是一件很微妙的事。它不會是一個簡單單一的做法。我們得慢慢摸索出來。

Dario：我覺得我們可能會出現(xiàn)一種非常不尋常的組合：GDP 高速增長，同時失業(yè)率也很高——或者至少是就業(yè)不足，或者大量低工資工作，以及高度不平等。

采訪者：你之前一直非常直接地談?wù)撌I(yè)問題。你曾說 AI 可能會在未來一到五年內(nèi)消滅一半的初級白領(lǐng)崗位。那是一年前說的。AI 發(fā)展得極其快。現(xiàn)在還是 50% 嗎，還是更高了？

Dario：我一直以來都說——如果你回去看那些原始片段，它們總是被斷章取義地剪成三秒鐘——但我真正的原話一直都是：我不知道具體會發(fā)生什么，但這大致是“事情可能會有多瘋狂”的一個數(shù)量級。

而且，我也一直都在談我們對此可以做的各種應(yīng)對。我談過token tax（token 稅），談過和企業(yè)一起幫助人們做調(diào)整。我對再培訓(xùn)項目稍微有點懷疑，但也應(yīng)該把它放進(jìn)工具箱里。宏觀經(jīng)濟(jì)政策——從一開始，我一直就在談解決方案。

但不知為什么，人類心理上總有一種傾向，就是把那三秒鐘“末日要來了”的內(nèi)容剪出來傳播。所以我的信息絕對不是“末日要來了”。我的信息是：這是一件我們應(yīng)該預(yù)見到的事，是我們擔(dān)心的事，也是我們需要積極應(yīng)對的事。

我不知道具體會怎樣，但我依然相當(dāng)擔(dān)憂。我的擔(dān)憂量級和以前差不多。

我們現(xiàn)在確實看到，AI 正在讓人們變得更高效。但這只是那個通常會出現(xiàn)的“駝峰”。如果你回頭看工業(yè)革命——我在《Adolescence of Technology》里寫過這個——當(dāng)你把一項工作中 90% 的內(nèi)容自動化了，很好，人們在剩下的 10% 上就會有 10 倍的生產(chǎn)率，因為他們被放大了 10 倍。但最終它會逼近 100%。接下來問題就變成：那你得為他們找到別的事情做。

我不確定長期會怎樣。我確實是不確定的。但我確實認(rèn)為，還是存在一些適應(yīng)方式。比如我會談到 Anthropic 內(nèi)部的軟件工程師。我們現(xiàn)在就正在經(jīng)歷這個轉(zhuǎn)型階段：目前，AI 讓軟件工程師更高效，即便 AI 已經(jīng)寫了所有代碼，或者說幾乎所有代碼。但即便如此，它仍然讓人更高效。

不過我們已經(jīng)開始看到某種開端：也許有些人，并不會因為它而變得更高效，也許讓 AI 直接把事情做掉更好。這是一面。

但另一面是，我們還需要更多什么樣的需求？有一種崗位我們稱為 forward-deployed engineer（前線部署工程師），或者 applied AI solutions architect（應(yīng)用型 AI 解決方案架構(gòu)師）。他們的工作既包括技術(shù)工作，也包括和客戶交流。對這類崗位的需求很大，因為客戶很多，而我們增長得非常快。

那么，所有原本純做軟件工程的人，都能自然轉(zhuǎn)到這種崗位上嗎？不能。這并不完美。這不是一對一的映射。但這至少能讓你感受到：會有極其巨大的擾動，但事情也會做出調(diào)整。哪一邊會占上風(fēng)？我不知道。但之所以有必要提前發(fā)出警告，是因為只有這樣我們才能作出回應(yīng)。只有這樣我們才能制定政策——無論是在 Anthropic 內(nèi)部，還是在整個世界層面的宏觀經(jīng)濟(jì)政策上。

我們希望提出的是經(jīng)過認(rèn)真思考的觀點。我們不想說出那些別人并不相信我們真會去做的事情。我們不想說出那些半生不熟的話。我們想認(rèn)真思考，到底應(yīng)該怎樣真正應(yīng)對這些問題。

采訪者：你們發(fā)布過一張圖，展示潛在的崗位沖擊——銷售、金融等等。哪些工作會消失？誰會被替代？又會誕生哪些新工作？

Dario：沒有人能確定地知道，因為經(jīng)濟(jì)本身就是不可預(yù)測的。這就像股市一樣。這些都是去中心化的過程，你無法提前知道一項工作里到底哪些部分最終還會由人來做。

但如果要做一個寬泛判斷，我會說，只要是這種初級白領(lǐng)崗位集中的地方——無論是銀行業(yè)，還是金融業(yè)——都會有很大潛力先讓 AI 提升人的生產(chǎn)率。但之后會出現(xiàn)一種整體性的變化：“AI 已經(jīng)可以做這份工作了。” 到那時我們就必須去思考，那人還能做什么？而我認(rèn)為，我們需要提前為這件事做規(guī)劃。

事實上，我們已經(jīng)在做了。我們和企業(yè)客戶交流時，就能看到他們面臨的選擇。他們面臨的選擇是：我應(yīng)該節(jié)省成本嗎？那往往意味著減少招聘人數(shù)，基本上用更少資源做同樣的事；還是說，我應(yīng)該用同樣的資源做更多的事？

而只要有機(jī)會，我們總是盡量推動他們走向后者，也就是用同樣的資源做更多事情。因為那本質(zhì)上意味著：雇同樣多的人，甚至雇更多的人，但去做新的事情。把他們推向一個正和局面。

我們手里最大的有利因素是：整個蛋糕會擴(kuò)張很多。也正因為整個蛋糕會擴(kuò)張很多，所以大概率還是會有一些地方讓人去。但問題在于，我們能不能足夠快地找到那些位置。

真正關(guān)鍵的是，這種擾動的規(guī)模會很大。這就是我在提醒大家的事情。但我們必須解決這個“匹配問題”。

采訪者：你再幫我把這個推演得具體一點。五年后你醒來——這個國家會變成什么樣？那些人都在做什么？因為如果失業(yè)真的那么嚴(yán)重，那不正是革命發(fā)生的方式嗎？

Dario：是的，這正是我們想要避免的結(jié)果。絕對是我們想要避免的結(jié)果。

我覺得有幾個方向。沒有一個是有保證的。我們并不確定。但首先是物理世界，對吧？那些發(fā)生在物理世界里的事情。是的，機(jī)器人革命也在發(fā)生，但它比 AI 現(xiàn)在發(fā)生的速度慢得多。人們總說要建設(shè)數(shù)據(jù)中心，但當(dāng)任何類型的信息處理都變得容易得多之后，也許真正的限制因素會轉(zhuǎn)向物理世界里的東西。所以我們會需要更多的人去制造、建設(shè)、生產(chǎn)那些物理世界里的東西。

任何以人為中心的事情，我認(rèn)為都會變得非常重要。我會聽到很多故事，說 AI 發(fā)現(xiàn)了我醫(yī)生沒發(fā)現(xiàn)的問題，但人們真的很想和其他人類交流，尤其是在那些重要的事情上。也許 AI 可以做更好的客服，但即便如此，人們——至少有些人——還是想和真人說話。

所以這些由人際關(guān)系驅(qū)動的工作，我覺得會很重要。我也認(rèn)為，人類還會承擔(dān)某種“指揮 AI”的角色。在某種層面上，這一切最終必須和某個人的價值觀、某個人的意圖保持一致，所以我認(rèn)為這里會存在某種角色，只不過它到底會是很薄的一層，還是很厚的一層，我不知道。這非常難說。

采訪者：對此一直有很多反駁。我知道你說自己是在提醒大家，但 Jensen Huang 說你混淆了“任務(wù)”和“工作”。還有一些人說，這某種程度上是一種對 Anthropic 有利的“末日營銷”。

Dario：我想把這件事說得非常清楚，并且強(qiáng)烈反駁這種說法。完整的圖景一直都是：存在崗位流失的風(fēng)險，而這里有一些想法。我們還沒有把這些想法全部完全打磨成熟，因為我想把它們做對，但 Anthropic 已經(jīng)提出過很多思路。我們有經(jīng)濟(jì)研究資助項目。我們有經(jīng)濟(jì)指數(shù)。我也談過應(yīng)對這些風(fēng)險的可能方法，從稅收、宏觀經(jīng)濟(jì)政策，到《Adolescence of Technology》里提到的新工作類型。

我還專門展開過“任務(wù)和工作之間的區(qū)別”，為什么這一次和以前不一樣，以及我們可以采取的六種不同應(yīng)對方式，從私人慈善到政府行動。我談的是問題，也談的是解決方案。

但社交媒體——我討厭它，作為一個類別我就討厭它——人們只會抓著一年前那段三秒鐘的視頻。他們根本不會去讀文章。我其實已經(jīng)更謹(jǐn)慎、更完整地寫過這些問題，討論過其中的風(fēng)險。

說這是“廉價營銷”的那種說法，本身才是廉價營銷。這是懶惰。這是拒絕認(rèn)真對待嚴(yán)肅的智識工作。我認(rèn)為這本身就是問題的一部分。再次強(qiáng)調(diào)，我覺得這是硅谷的一種病癥的一部分：大家被社交媒體式的三秒鐘片段綁架了。于是人們只對這種片段作出回應(yīng)，或者他們以為自己只需要對這種片段作出回應(yīng)。

再次強(qiáng)調(diào)，我認(rèn)為這非常危險，而我們一直沒能進(jìn)行一場成熟的對話。相反，人們只是懶惰地看了那段三秒鐘的視頻，然后就說：“哦，這就是 Dario 的意思。” 這太蠢了。太不嚴(yán)肅了。每當(dāng)有人這么說，我就會更不把他們當(dāng)回事。

Mythos

采訪者：Anthropic 幾乎每周都在上頭條。

Dario：是的。

采訪者：現(xiàn)在最引人關(guān)注的，當(dāng)然就是 Mythos。這是 Anthropic 最新、最強(qiáng)的模型，它能夠貫穿整個網(wǎng)絡(luò)攻擊殺傷鏈中的所有環(huán)節(jié)，并且能自主地完成這些事。你說 Mythos 太強(qiáng)大了，不能向公眾發(fā)布。最讓你意外的是什么？

Dario：我覺得最讓我意外的一點是，模型在發(fā)現(xiàn)漏洞的能力上一直在爬升，而且更重要的是，它還能把這些漏洞真正轉(zhuǎn)化成 exploit（可利用的攻擊手段）。人們往往只談發(fā)現(xiàn)漏洞本身，但很少談把漏洞變成真正可利用的攻擊，而它在這方面也相當(dāng)擅長。

所以讓我意外的是，我們看到了一個巨大的躍升。那是一次特別大的躍升，而且?guī)缀醪恍枰覀冏鋈魏我龑?dǎo)，一些我們最早把模型給到的公司就直接說出了類似這樣的話：“這簡直是超級武器。使用它應(yīng)該像持槍一樣需要許可證。請不要公開發(fā)布它。”

要求“不要發(fā)布”的聲音，來自我們給它試用的那些公司本身。因為它發(fā)現(xiàn)了太多關(guān)鍵漏洞，而且還證明了這些關(guān)鍵漏洞是可以被利用的，所以他們反過來請求我們不要發(fā)布它。

當(dāng)然，需要澄清的是——因為社交媒體世界里所有東西最后都會變形——我們的目標(biāo)并不是要永遠(yuǎn)把它鎖起來。我們是在逐步嘗試把它開放給越來越廣泛的人群，最終我們相信，應(yīng)該把 Mythos 發(fā)布給普通用戶，但前提是必須有強(qiáng)有力的網(wǎng)絡(luò)安全防護(hù)措施。

而現(xiàn)在的問題是：今天的那些網(wǎng)絡(luò)防護(hù)措施——我們確實已經(jīng)在 Opus 4.7 上發(fā)布過，它是一個不錯的網(wǎng)絡(luò)模型，但明顯比 Mythos 弱得多——這些防護(hù)是可能被越獄繞過的。我們對另外一些公司感到有點擔(dān)心，因為他們覺得這已經(jīng)算足夠防御了，但現(xiàn)實是，沒錯，它有時候能起作用，可我們都知道這些分類器是可以被越獄、被繞開的。

我們自己的測試，再加上我們對其他公司所部署防御方案的評估，都表明：這些防御現(xiàn)在還不夠強(qiáng)。而這正是我們在等待的東西：我們要等到這些防御強(qiáng)到一個我們真正有信心的程度。

采訪者：外界對這件事也有很多反彈。有研究人員說，他們用更便宜的開源模型也復(fù)現(xiàn)出了類似能力。也有人說 OpenAI 已經(jīng)有這些能力了。對于那些說這只是一次大型公關(guān)操作的人，你怎么回應(yīng)？

Dario：那種說“開源模型也能復(fù)現(xiàn)”的說法，簡直是徹頭徹尾的錯誤。事情是這樣的：Mythos 能瀏覽整個代碼庫并找出問題。然后有個人跑到 Twitter 上說：“如果你把 Mythos 找到的那一行代碼精確地拿給一個開源模型看，它也能找到同樣的問題。”

但那根本不是提示詞。那根本不是問題本身。那不是同一件事。

這件事的終極檢驗標(biāo)準(zhǔn)是：我們走進(jìn)公司，我們走進(jìn)開源倉庫。我們在 Firefox 中發(fā)現(xiàn)了 271 個新的漏洞。我們還在很多私營公司里發(fā)現(xiàn)了成千上萬個漏洞，只是它們還沒修好，或者還不能披露。之前那個模型可從來沒找到過這 271 個漏洞。

所以，真正有效的工作流、真正能在實踐中工作的東西，和那種“好吧，我先找到 Mythos 找到的那一行代碼，我先在草堆里找到了那根針，然后另一個模型也能把這根針撿起來”的玩法，根本不是一回事。

采訪者：那對于那些說這只是高明營銷的人呢？

Dario：因為沒有發(fā)布這個模型，我們在商業(yè)上已經(jīng)承受了巨大的損失。這個模型在 Anthropic 內(nèi)部極大加速了研究、生產(chǎn)，以及下一代模型的開發(fā)。如果我們把它發(fā)布到外部世界，它同樣會做到這些。這件事在商業(yè)上讓我們付出了巨大的代價。

采訪者：如果它能幫助防守方，它也能幫助攻擊方。那我們還能守住任何東西嗎？

Dario：我想說的是，我們之所以先把 Mythos 給防守方，再給攻擊方，就是為了先把所有漏洞補(bǔ)掉。我不知道——隨著模型越來越強(qiáng)，未來可能會發(fā)現(xiàn)越來越多的漏洞——但漏洞總歸是有限的。它們不是無限的。就像你面前有一個表面，上面只會有那么多洞。你把這些洞都補(bǔ)上，這個表面就會變得非常難以攻擊；與此同時，代碼本身也會越來越多地由強(qiáng)大模型參與編寫，于是它也會變得非常難以被發(fā)現(xiàn)缺陷、難以被攻破。

所以我認(rèn)為，在這一切的另一邊——也許是六個月后，也許是一年后——我們有希望擁有一個比過去安全得多的互聯(lián)網(wǎng)生態(tài)系統(tǒng)。我們現(xiàn)在所做的，就是盡最大努力把 Mythos 逐步開放給更多網(wǎng)絡(luò)防御者。

我們一直在和政府溝通。我們非常尊重他們的建議。他們正在放慢我們擴(kuò)大開放的速度，因為他們擔(dān)心反情報風(fēng)險。我認(rèn)為這很合理。我覺得所有認(rèn)真看待這件事的人都明白，這里面存在真實的權(quán)衡。

我們在 Twitter 上看到了很多冷嘲熱諷，也看到了一些其他 AI 公司在那里陰陽怪氣。你去看他們說的話，再看看他們自己在做什么，兩者之間的不一致太明顯了——他們不是嚴(yán)肅的人。他們沒有在認(rèn)真面對我們真正面臨的那些嚴(yán)肅權(quán)衡。

你看，我每天都有客戶給我打電話，說：“我想獲得 Mythos 的訪問權(quán)限。” 也有國家來聯(lián)系我，說：“我想獲得 Mythos。” 同時美國政府和我的安全團(tuán)隊又會說：“不，等一下，這里面有風(fēng)險。”

我不是說哪一邊絕對對，哪一邊絕對錯。我認(rèn)為答案在中間。兩邊都各有道理。但這確實是一個真實的難題，我們必須作為一個社會共同面對它——而不是把事情說成廉價營銷，也不是用廉價營銷式的方式來反向定位自己，而這正是一些其他公司正在做的。這一切都顯示出一種驚人的輕浮和不成熟。我們必須共同嚴(yán)肅地面對這個時刻。

采訪者：你們是不是已經(jīng)做出過一些讓自己并不完全舒服的權(quán)衡？

Dario：在 Anthropic 的整個歷史中，都一直存在權(quán)衡。在某種理想世界里，在你發(fā)布第一個聊天機(jī)器人之前，你會更愿意花上數(shù)年時間去研究它可能出錯的每一種方式。我們確實也推遲過 Claude 最初的發(fā)布，但我們推遲的只是幾個月。

所以我想說的是：一切都是權(quán)衡。光譜兩端的極端立場都是完全瘋狂的。所以所有事情都得權(quán)衡。

我想說的是，現(xiàn)在既然我們處在我會稱之為“商業(yè)領(lǐng)先位置”的狀態(tài)里，Daniela 和我其實正在盡一切努力，把那個刻度盤再往“謹(jǐn)慎”方向多擰一點。這就是 Mythos 發(fā)布策略的意義所在。如果你不是領(lǐng)先者，做這種事會非常難。所以我認(rèn)為，未來你還會看到更多類似的事情。

采訪者：有一種論點是：為什么政府不干脆把你們接管了？為什么要讓一家私營公司掌控如此強(qiáng)大的技術(shù)？

Dario：我其實認(rèn)為這是一個非常嚴(yán)肅的問題，而且我也認(rèn)同其中的擔(dān)憂。我不認(rèn)為政府應(yīng)該直接把我們接管，但我會這樣說。

先退一步，描述一下現(xiàn)在的局面：歷史上我們見過的每一種強(qiáng)大技術(shù)，過去要么是由政府建成的，要么是起源于政府。核武器最初顯然就是政府打造出來的，之后也基本上一直由政府主導(dǎo)。甚至連互聯(lián)網(wǎng)、GPS、手機(jī)——所有這些研發(fā)最初都是在實驗室里、聯(lián)邦實驗室里、大學(xué)里完成的。

AI 是第一種主要在私營部門里被建造出來的技術(shù)，政府幾乎沒有認(rèn)真參與，而是在很晚的時候才進(jìn)入局面。我認(rèn)為這其實是一種危險且不穩(wěn)定的狀態(tài)。這并不是我會主動選擇的狀態(tài)。但現(xiàn)實是，沒有真正的替代方案。這項技術(shù)是可以被建造出來的。我們的對手也在建造它。它有經(jīng)濟(jì)價值。它一定會被建造出來。問題不在于私營部門在做，而在于政府沒有做。

我認(rèn)為，我們需要思考如何對權(quán)力建立制衡。所以我認(rèn)為，對 AI 公司擁有的權(quán)力也必須有制衡。我們有一個機(jī)制，叫作 long-term benefit trust（長期利益信托）。它本質(zhì)上是一個機(jī)構(gòu)，擁有任命多數(shù)董事會成員、也有權(quán)罷免多數(shù)董事會成員的能力。如果你沿著這個邏輯鏈一路看下去，它其實本質(zhì)上擁有炒掉我的權(quán)力。

我們現(xiàn)在在考慮的是，引入一些成分——遠(yuǎn)遠(yuǎn)談不上全部，但至少引入一點——某種公共治理元素。也就是說，你要對某個并不只是持有公司股票的人負(fù)責(zé)。這一點非常重要，而且無論公司將來發(fā)生什么，這種結(jié)構(gòu)都會繼續(xù)存在。我們也鼓勵其他公司建立類似結(jié)構(gòu)。

而在政府這一邊，我認(rèn)為我們也需要制衡。國會現(xiàn)在已經(jīng)公開有一些努力，試圖把那些紅線寫進(jìn)法律。所以我確實認(rèn)為，立法部門和司法部門都必須更積極地發(fā)揮作用。因為這項技術(shù)——我害怕公司擁有它，但我也害怕政府擁有它。于是公司需要對政府形成制衡，政府也需要對公司形成制衡。

我們需要對這項技術(shù)進(jìn)行基本監(jiān)管。我認(rèn)為我們需要開始做強(qiáng)制性的預(yù)發(fā)布測試，以及模型審計。

對我來說非常有趣的一點是，硅谷科技圈里有一群特定的人，最開始的立場一直是：哪怕只是要求對這項技術(shù)有一點透明度，哪怕只是做出口管制——都會像世界末日一樣毀掉我們創(chuàng)造這項技術(shù)的能力，會扼殺創(chuàng)新。結(jié)果一旦他們看到第一個真正的危險——而我其實早就預(yù)期到了——他們又立刻開始大談什么“國有化”，說政府應(yīng)該直接接管一切。

拜托吧，各位。你們這是在兩個極端之間來回?fù)u擺：一會兒是最極端的反監(jiān)管，“你只要多看我們一眼，就是在毀掉整個行業(yè)”；一會兒又變成徹底的共產(chǎn)主義式思路，“政府應(yīng)該把一切都拿走”。

我們需要一種更有分寸、更溫和的辦法。而這恰恰是我們一直以來主張的，因為我們一直理解這項技術(shù)的力量。我們沒有陷入恐慌。我們也沒有否認(rèn)它。我們看到了那條平滑的指數(shù)曲線，并且正在以恰當(dāng)?shù)姆绞交貞?yīng)它。

我們合作得非常順暢，對方也理解這些問題；也總會有另一些部分更難相處。我認(rèn)為這很正常。無論在哪一屆政府里都會是這樣，我們只能盡力去應(yīng)對。

采訪者：你職業(yè)生涯早期曾在百度工作，那是中國的大型科技公司。你當(dāng)時在它位于硅谷的辦公室工作。你對中國的立場也一直很明確。現(xiàn)在中國正在推出強(qiáng)大的開源模型，而且美國公司也在免費使用這些模型構(gòu)建產(chǎn)品。這是一種威脅嗎？

Dario：我們在這項技術(shù)上看到的一件事是，模型到底有多聰明，始終存在一種非常強(qiáng)的溢價。我們極少看到有人會更愿意去使用智能水平更低的模型。

當(dāng)然，要說清楚的是，圍繞那些離前沿較遠(yuǎn)的模型，也確實存在一個繁榮生態(tài)。有很多問題和任務(wù)，比我們需要前沿模型去解決的問題要簡單得多。但再次強(qiáng)調(diào)，這仍然是一條指數(shù)曲線。那些遠(yuǎn)離前沿的模型，可能確實擁有類似于我們在 2023 年、2024 年看到的那種經(jīng)濟(jì)價值。但我們現(xiàn)在面對的是每年 10 倍增長，所以我們發(fā)現(xiàn)，前沿部分的價值總是比離前沿較遠(yuǎn)的部分大得多得多。

我覺得這是那些習(xí)慣于上一代產(chǎn)品時代的人不太理解的事情。對我來說，我不是一個以前就經(jīng)營過公司的人，也從來不是那個上一代產(chǎn)品時代——尤其是社交媒體時代——的一員。所以我在那套世界里其實像個外來者，我也覺得很多人的直覺是錯的。他們帶著很多過去產(chǎn)品時代的經(jīng)驗法則，可我覺得這種“每年 10 倍”的模型指數(shù)增長會把那些經(jīng)驗法則全部打破。智能本身就是一個如此巨大的因素，以至于它壓倒了其他一切。

所以我們反復(fù)看到，價值集中在前沿。

不過，我對某些落后模型真正擔(dān)心的是它們的風(fēng)險。我們今天擁有 Mythos 級別的網(wǎng)絡(luò)能力。12 個月之后，我們會擁有更強(qiáng)得多的網(wǎng)絡(luò)能力，但到那時，Mythos 級別的網(wǎng)絡(luò)能力可能已經(jīng)變成任何人都可以下載的東西。希望到那時我們已經(jīng)把所有問題都修補(bǔ)好了。我不認(rèn)為我們能阻止這件事，但我覺得這是一個很嚴(yán)肅的擔(dān)憂。

采訪者：你在百度看到的東西，塑造了你對中國的看法嗎？

Dario：其實沒有。我在那里只待了一年。我覺得我可能更多學(xué)到的是語音識別之類的東西。也許唯一一件讓我有點在意的事是，我們獲取大量語音識別數(shù)據(jù)的方式之一是——他們會用一種陰森森的語氣說：“哦，在中國我們不在乎隱私，所以我們有這么多語音識別數(shù)據(jù)。”

但除此之外，我真正擔(dān)心的是地緣政治層面的東西。我認(rèn)為我們也有機(jī)會讓 AI 成為一種支持民主的技術(shù)，讓人們變得更自由，真正兌現(xiàn)“人人平等正義”的承諾。它也可能走向另一邊。最終會走哪一邊，取決于 AI 公司的行動，取決于政府的行動，也取決于我們所有人的行動。所以我認(rèn)為我們肩負(fù)著一種責(zé)任。

遞歸式自我改進(jìn)

采訪者：你們這個領(lǐng)域里經(jīng)常有人談?wù)撘粋€時刻：AI 足夠強(qiáng)大到可以改進(jìn)自己，然后改進(jìn)后的版本再改進(jìn)自己，如此反復(fù)。你的有些研究員認(rèn)為這個時刻已經(jīng)很近了。那它到底還有多遠(yuǎn)？

Dario：我不認(rèn)為那是一個單獨的“時刻”。我認(rèn)為那是一個持續(xù)的過程。我們其實已經(jīng)在某些方面看到了，比如 AI 已經(jīng)能夠為下一代 AI 提出架構(gòu)建議。

我會說，一年前，我們看到 AI 帶來的 total factor productivity（全要素生產(chǎn)率）提升大概是 10% 到 15%。現(xiàn)在可能已經(jīng)上升到 20% 到 30% 了。它也許還會翻倍。和所有事情一樣，我們都身處這條指數(shù)曲線上。并不存在某一個時刻，AI 突然就實現(xiàn)了自我改進(jìn)，或者突然就失控、變得不安全。

實際發(fā)生的是一條不斷加速的指數(shù)曲線，而在這條曲線上的每一個點，我們都必須評估：現(xiàn)在是不是應(yīng)該放慢一點？是不是應(yīng)該對這項技術(shù)增加更多控制？我認(rèn)為，這樣的需求會越來越多。

但我認(rèn)為，理解這一切的“羅塞塔石碑”還是那條平滑的指數(shù)曲線。再次強(qiáng)調(diào)，我覺得那些先前反對一切 AI 監(jiān)管、然后一看到一個問題就想把一切都國有化的人，本身就是一個教訓(xùn)。那些一開始貶低 AI 力量，后來又說“天啊，它正在自我改進(jìn)，它要失控了，我們必須全部關(guān)停”的人，也同樣是一個教訓(xùn)。

在這些極端反應(yīng)之間來回?fù)u擺，對應(yīng)對這項技術(shù)完全沒有幫助。正確的回應(yīng)、明智的回應(yīng)應(yīng)該是：我們不會恐慌。我們的應(yīng)對措施會隨著技術(shù)力量的提升而平滑、逐步地加碼。

如果你看到有人在出現(xiàn)這種瘋狂的搖擺反應(yīng)，那就說明他們是被打了個措手不及，也說明他們并不嚴(yán)肅。

采訪者：我聽說你最喜歡的書之一是 The Making of the Atomic Bomb（《原子彈的誕生》）。

Dario：是的，沒錯。

采訪者：你會在自己身上看到奧本海默（Oppenheimer ）的影子嗎？

Dario：我最認(rèn)同的人物其實是 Leo Szilard（利奧·西拉德），也就是最早基本上提出“鏈?zhǔn)椒磻?yīng)”這一想法的人。

你看，我的觀點是：我們沒法靠那種帶有傳奇色彩的個人英雄人物、或者試圖把一切都置于自己中心的人物來渡過這一切。這里必須存在一種權(quán)力平衡。這里有很多擁有利益訴求的強(qiáng)大參與者，而這一切最終能對所有人有個好結(jié)果的唯一方式，就是讓各種地方都存在制衡。

所以從某種意義上說，我反而把奧本海默看作一個失敗案例，看作“不該發(fā)生的那種情形”。

采訪者：你說過，文明崩潰的概率大約有 10% 到 25%。這絕對不是個小數(shù)字。有沒有一種情景是，導(dǎo)致這種結(jié)果的恰恰就是 Anthropic 造出來的東西？

Dario：我當(dāng)然希望不是。我的看法是，我們所采取的行動是在降低這個概率，而不是提高它。那個概率來自這項技術(shù)本身非常直接的一套“配方”：世界上存在很多國家，經(jīng)濟(jì)體系中存在很多公司，而且還會不斷有新公司出現(xiàn)。如果這個空缺不被某一方填上，那就是我們現(xiàn)在身處的困境。

我們正在努力降低那個概率。我認(rèn)為我們降低它的幅度，遠(yuǎn)遠(yuǎn)大于我們提升它的幅度。但這項技術(shù)的內(nèi)在屬性之一，就是它不可預(yù)測。所以我們會盡量在發(fā)布之前把某個東西建出來、反復(fù)測試。今天已經(jīng)發(fā)布的這些模型并不危險——或者至少我認(rèn)為，除了網(wǎng)絡(luò)安全之外，它們還沒有真正危險到那個程度。然后我們會在這個基礎(chǔ)上繼續(xù)迭代和學(xué)習(xí)。

所以這里面大概有上萬種防御機(jī)制。公司內(nèi)部有一半的工作，都是在盡可能降低風(fēng)險。但它永遠(yuǎn)不會是零。

我想我會這樣說：假設(shè)外面有一堆航空公司，而你說，好吧，我要做一家更安全的航空公司。這兩件事可以同時成立：你的航空公司確實比其他航空公司安全 10 倍。但如果有人跑來問你：“你能保證你的飛機(jī)永遠(yuǎn)不會墜毀嗎？”——那你怎么可能做得到呢？

采訪者：但如果一架飛機(jī)有 25% 的概率墜毀，那你就根本不會坐上去。

Dario：沒錯。25% 這個概率太高了。我們正在努力把這個概率降到低得多、低得多。這才是目標(biāo)。

采訪者：你正在打造一種極其強(qiáng)大的東西，而且會因此獲得巨大的利益。我們?yōu)槭裁磻?yīng)該信任你？

Dario：我對這件事的看法其實是：當(dāng)任何一家公司剛剛起步的時候——尤其是在過去幾年里，我們已經(jīng)看到了硅谷這個整體的行為方式——如果你對我、對 Anthropic 一無所知，那么從“不信任”出發(fā)，其實是很理性的。

我認(rèn)為硅谷已經(jīng)失去了全世界很多信任，而它必須重新把信任贏回來。我們試圖傳遞的信息是：我們確實不一樣，但這種“不一樣”必須通過我們真正做過的事情來贏得。

你可以同意，也可以不同意，但我們確實為我們的價值觀站出來過。Mythos 那件事——不把這個強(qiáng)大的模型放出去，確實在商業(yè)上嚴(yán)重拖累了我們。在此之前還有一系列更小的事情，比如我們切斷了某些模型的訪問權(quán)限——我們沒有被迫這么做。沒有人要求我們這么做。那在當(dāng)時讓我們損失了數(shù)億美元，而在那個階段，數(shù)億美元占我們收入的比重是相當(dāng)大的。還有幾年前 Claude 2 的延期——我們在這方面有很長的歷史。

我們并不完美。我們會犯錯。但我希望人們做的是，把這些歷史整體放在一起看，然后問：如果你把這段整體歷史加總起來，什么樣的假設(shè)最能解釋它？

人們當(dāng)然必須自己作出判斷，但我認(rèn)為，最符合這段歷史的假設(shè)是：我們是真誠地在努力做正確的事。我們并不完美。組織總會有功能失調(diào)的時候。我們也一直在努力修復(fù)、讓它運作得更好。會有很多小失誤，會有很多地方出問題。但從根子上講，我們對如何做正確的事有一套誠實而認(rèn)真的理解，而且我們正在努力把這套理解執(zhí)行出來。

采訪者：那我們就到指數(shù)曲線的另一邊再見了。

Dario：希望如此。

CSDN 6 月寵粉福利

一步獲取以下全套技術(shù)資源：

1?? 200 小時 GPU 算力： 注冊即領(lǐng)，支持 Jupyter Notebook 一鍵啟動

2?? Agent 實戰(zhàn)訓(xùn)練營： 奇點智能技術(shù)大會專家架構(gòu)復(fù)盤視頻

3?? 《Claude Code實戰(zhàn)》開發(fā)者專屬試讀版本

4?? 《AI原生軟件研發(fā)白皮書》：2026最新版效能度量標(biāo)準(zhǔn)