本文來自微信公眾號(hào)：劃重點(diǎn)KeyPoints，作者：林易，編輯：重點(diǎn)君，原文標(biāo)題：《Anthropic CEO最新專訪：Claude新功能幾乎完全由AI自主開發(fā)，軟件將步入免費(fèi)時(shí)代》，題圖來自：視覺中國(guó)

過去一年，Anthropic毫無疑問是全球大模型領(lǐng)域的最大贏家。

旗下AI編程工具Claude Code在開發(fā)者群體中快速普及，拿下超過半數(shù)市場(chǎng)份額。其營(yíng)收和估值，也正式超過OpenAI，年經(jīng)常性收入（ARR）達(dá)到440億美元，公司一級(jí)市場(chǎng)的最新估值超過9000億美元。

在這樣一個(gè)高光節(jié)點(diǎn)，5月16日，媒體放出了Anthropic CEO Dario Amodei最新專訪視頻（采訪本身發(fā)生在今年1月份）。和許多渲染技術(shù)烏托邦的AI大咖不同，Amodei給出了許多現(xiàn)實(shí)警告 ：

比如，他說傳統(tǒng)經(jīng)濟(jì)規(guī)律正在被打破，人類社會(huì)將首次面臨“高GDP增速與高失業(yè)率并存”的局面。

他提到，公眾對(duì)AI的情緒總是在兩極之間搖擺，但實(shí)際上，AI能力的演進(jìn)一直保持著平滑的指數(shù)級(jí)躍升。這種持續(xù)的能力增長(zhǎng)正在直接替代人類的知識(shí)型勞動(dòng)。一場(chǎng)大規(guī)模的宏觀經(jīng)濟(jì)重構(gòu)即將發(fā)生，但全社會(huì)對(duì)此幾乎毫無準(zhǔn)備。

而對(duì)于外界最關(guān)注的Claude Code，Amodei透露，隨著最新模型Claude Opus 4.5推出，AI端到端完成復(fù)雜任務(wù)的能力已經(jīng)到達(dá)拐點(diǎn)。Anthropic內(nèi)部許多工程主管再也不寫代碼了，工作變成了專門審核和編輯Opus的產(chǎn)出 。

Amodei透露，Claude Co-work這款針對(duì)非技術(shù)人群的智能體應(yīng)用，幾乎完全由Claude Opus自主開發(fā)，耗時(shí)僅一周半。該功能上線一天，各項(xiàng)指標(biāo)就達(dá)到了同類產(chǎn)品的四倍左右。Amodei強(qiáng)調(diào)，人們?cè)絹碓叫枰@種必不可少的智能體任務(wù)能力，大模型正跨越單純的聊天機(jī)器人形態(tài)，真正確立其作為核心生產(chǎn)工具的地位。

我們整理了這場(chǎng)專訪的關(guān)鍵信息，以下是重點(diǎn)內(nèi)容：

1. Anthropic選擇企業(yè)級(jí)市場(chǎng)，是為了規(guī)避注意力經(jīng)濟(jì)陷阱

面對(duì)同行在消費(fèi)者端市場(chǎng)的激烈競(jìng)爭(zhēng)，Anthropic選擇專注于企業(yè)級(jí)客戶。Amodei認(rèn)為，面向消費(fèi)者的AI產(chǎn)品往往陷入追求用戶使用時(shí)長(zhǎng)最大化的怪圈，極易滋生劣質(zhì)內(nèi)容，引發(fā)過度依賴。Anthropic拒絕參與這種注意力爭(zhēng)奪，致力于為企業(yè)提供能創(chuàng)造實(shí)質(zhì)工作價(jià)值的系統(tǒng)。

此外，他指出，由科學(xué)家主導(dǎo)的AI企業(yè)與早期社交媒體創(chuàng)業(yè)者在責(zé)任認(rèn)知上存在本質(zhì)區(qū)別。前者更傾向于防患于未然，習(xí)慣在技術(shù)大規(guī)模落地前，主動(dòng)審視其對(duì)社會(huì)的潛在影響，并著手預(yù)防可能的負(fù)面后果。

2. 機(jī)制可解釋性是實(shí)現(xiàn)AI可控的唯一路徑

在測(cè)試AI安全性時(shí)，Amodei認(rèn)為僅僅依靠外部的對(duì)話測(cè)試是極其危險(xiǎn)的，因?yàn)楦呒?jí)AI系統(tǒng)完全有能力向人類隱瞞其真實(shí)的運(yùn)行邏輯。

當(dāng)前安全領(lǐng)域最亟需的技術(shù)突破是機(jī)制可解釋性（Mechanistic Interpretability）。研究人員不能只看系統(tǒng)輸出的表面文字，而必須深入系統(tǒng)內(nèi)部，直接觀測(cè)并掌握其底層的數(shù)據(jù)運(yùn)作機(jī)制。打破算法黑箱，才是真正實(shí)現(xiàn)系統(tǒng)安全與絕對(duì)可控的唯一可靠依據(jù)。

3. AI能力持續(xù)增長(zhǎng)，公眾情緒卻在兩極之間反復(fù)變化

過去十幾年，公眾和媒體對(duì)AI的認(rèn)知經(jīng)常在“顛覆一切行業(yè)”與“技術(shù)徹底停滯”兩極之間搖擺。然而，AI技術(shù)的真實(shí)演進(jìn)曲線極其平穩(wěn)，其系統(tǒng)處理能力一直保持著每隔數(shù)月就有顯著躍升的穩(wěn)定節(jié)奏。

Amodei指出，社會(huì)各界未能準(zhǔn)確客觀地衡量這一技術(shù)發(fā)展規(guī)律，導(dǎo)致了嚴(yán)重的認(rèn)知脫節(jié)。這種脫節(jié)不僅讓企業(yè)在規(guī)劃業(yè)務(wù)轉(zhuǎn)型時(shí)缺乏前瞻性，更導(dǎo)致政策制定者容易基于錯(cuò)誤的前提盲目出臺(tái)應(yīng)對(duì)策略。最終的結(jié)果是，人類社會(huì)目前對(duì)于即將到來的大規(guī)模經(jīng)濟(jì)重構(gòu)，處于完全沒有做好準(zhǔn)備的狀態(tài)。

4. 高增長(zhǎng)與高失業(yè)率將首次在人類社會(huì)中同時(shí)出現(xiàn)

AI正在以前所未有的幅度提升社會(huì)的生產(chǎn)效率。以軟件工程為例，AI代碼生成使開發(fā)工作變得極度高效，直接導(dǎo)致成本大幅驟降甚至趨于免費(fèi)。這種爆炸式的生產(chǎn)力將推動(dòng)整體經(jīng)濟(jì)規(guī)模急劇膨脹。

與此同時(shí)，人類在工作流程中的參與度正在被快速擠壓。目前軟件工程師可能只需完成10%的工作，其余均由AI代勞。隨著模型能力的持續(xù)進(jìn)化，AI接管的比例將越來越高。這將直接導(dǎo)致人類過去幾十年建立的傳統(tǒng)職業(yè)體系徹底崩潰，大量崗位隨之消失。

Amodei強(qiáng)調(diào)，未來的核心挑戰(zhàn)將不再是經(jīng)濟(jì)總量的增長(zhǎng)，而是財(cái)富的分配。面對(duì)這種高增長(zhǎng)與高失業(yè)率并存的前所未有的宏觀錯(cuò)位，必須依賴政府干預(yù)，確保所有人都能從技術(shù)紅利中獲益，以平穩(wěn)度過社會(huì)轉(zhuǎn)型期。

5. 為應(yīng)對(duì)社會(huì)風(fēng)險(xiǎn)，需要確保AI收益公平分配

Amodei對(duì)未來可能出現(xiàn)的極端社會(huì)撕裂深感擔(dān)憂：如果AI創(chuàng)造的巨大經(jīng)濟(jì)紅利僅被硅谷科技精英等極少數(shù)群體壟斷，而大眾被排斥在外，必將引發(fā)災(zāi)難性的社會(huì)危機(jī)。

為確保AI收益公平分配，他提出了兩點(diǎn)核心呼吁：

第一，加大公共領(lǐng)域的技術(shù)投入，將前沿AI技術(shù)直接應(yīng)用于公共衛(wèi)生和基礎(chǔ)教育等領(lǐng)域，確保不同地區(qū)、不同階層的人群都能獲得平等的經(jīng)濟(jì)發(fā)展機(jī)會(huì)；

第二，推動(dòng)基礎(chǔ)教育的底層轉(zhuǎn)型。面對(duì)被AI重塑的就業(yè)市場(chǎng)，未來的教育必須摒棄單純的職業(yè)技能訓(xùn)練，回歸到對(duì)人類內(nèi)在綜合素養(yǎng)的培養(yǎng)上。

以下是Dario Amodei訪談實(shí)錄：

一、AI的平滑指數(shù)級(jí)增長(zhǎng)

主持人：Dario，我們?cè)谶_(dá)沃斯，這里發(fā)生了很多事情，但我首先想問一個(gè)大局觀的問題。去年的這個(gè)時(shí)候每個(gè)人都對(duì)AI感到非常興奮，大家都在討論AI的能力及其潛力。我感覺今年的討論有所轉(zhuǎn)變，變得更加深入，少了對(duì)AI能對(duì)世界做什么的憧憬。所以我的問題是，你認(rèn)為企業(yè)、政策制定者、政府或其他機(jī)構(gòu)是否做足了準(zhǔn)備來應(yīng)對(duì)AI的影響？

Dario Amodei：我覺得沒有。我來詳細(xì)解釋一下。我觀察這片領(lǐng)域已經(jīng)15年了，身處其中也有10年。我注意到最令人驚訝的一點(diǎn)是AI領(lǐng)域的實(shí)際發(fā)展軌跡一直非常平穩(wěn)，而公眾輿論和反應(yīng)卻劇烈波動(dòng)。

我們可以從兩個(gè)維度來看。一個(gè)是技術(shù)本身的能力。每隔三到六個(gè)月媒體就會(huì)經(jīng)歷一次兩極反轉(zhuǎn)：一會(huì)兒對(duì)技術(shù)能力感到無比興奮認(rèn)為它將改變一切，一會(huì)兒又覺得這全是泡沫一切都會(huì)分崩離析。

但我看到的是一條平滑的指數(shù)級(jí)增長(zhǎng)曲線，類似于計(jì)算領(lǐng)域的摩爾定律，我們?cè)谥悄茴I(lǐng)域也有一個(gè)類似的定律，即模型的認(rèn)知能力每隔幾個(gè)月就會(huì)變得越來越強(qiáng)，這種進(jìn)展一直保持恒定。所謂發(fā)明了新事物就會(huì)讓一切崩潰或撞上南墻的說法，純粹是一種公眾認(rèn)知現(xiàn)象。

在關(guān)于這項(xiàng)技術(shù)是好是壞的兩極分化上也存在類似情況。2023年和2024年人們對(duì)AI有很多擔(dān)憂，比如認(rèn)為AI會(huì)接管一切，討論多集中在AI風(fēng)險(xiǎn)和濫用上。到了2025年政治風(fēng)向轉(zhuǎn)向了AI帶來的機(jī)遇，而現(xiàn)在風(fēng)向似乎又轉(zhuǎn)回去了。

在整個(gè)過程中Anthropic和我一直嘗試保持一種平衡的視角。這種平衡非常奇特，因?yàn)檫@項(xiàng)技術(shù)在能力上非常極端，它的影響既有正面也有負(fù)面，兩者是并存的。

大約一年半前我寫了《Machines of Loving Grace》這篇文章，我對(duì)AI樂觀的一面有著非常激進(jìn)的看法，相信它會(huì)幫助我們治愈癌癥、根除熱帶疾病并為尚未見證經(jīng)濟(jì)發(fā)展的地區(qū)帶去繁榮。我的觀點(diǎn)沒有改變，我依然相信這些。

但另一方面壞事也會(huì)發(fā)生。我最近寫了更多關(guān)于這方面的內(nèi)容并可能很快發(fā)布。如果以經(jīng)濟(jì)風(fēng)險(xiǎn)為例，這項(xiàng)技術(shù)的顯著特征是它將帶我們進(jìn)入一個(gè)GDP極高增長(zhǎng)但潛在失業(yè)率也極高且充滿不平等的社會(huì)。這種組合是我們幾乎從未見過的。

過去高GDP增長(zhǎng)意味著有很多事情要做且每個(gè)人都有很多工作機(jī)會(huì)。我們從未見過如此具有顛覆性的技術(shù)。所以我們可能會(huì)面臨這樣一種情況：GDP增長(zhǎng)率達(dá)到5%或10%，但同時(shí)失業(yè)率也達(dá)到10%，這在邏輯上完全不矛盾只是以前從未發(fā)生過。

出于這兩個(gè)原因我感到既興奮又擔(dān)憂。以AI編程為例，我們發(fā)布了最新模型Claude Opus 4.5。Anthropic內(nèi)部的一些工程師和工程主管基本上都對(duì)我說他們?cè)僖膊粚懘a了，只需讓Opus來干活并由自己負(fù)責(zé)編輯。

我們剛剛發(fā)布了一個(gè)名為Claude Co-work的新功能，這是Claude Code工具針對(duì)非編程場(chǎng)景的版本，在短短一周半內(nèi)就構(gòu)建完成了，幾乎完全是使用Claude Opus開發(fā)的。軟件工程師仍然有事情可做，即使他們只做了其中10%的工作，他們依然有工作或者可以提升一個(gè)層級(jí)。

但這不會(huì)永遠(yuǎn)持續(xù)下去，模型會(huì)變得越來越強(qiáng)大。這里展現(xiàn)出驚人的生產(chǎn)力，軟件將變得廉價(jià)甚至基本上免費(fèi)。前提是你構(gòu)建的軟件成本需要分?jǐn)傇跀?shù)百萬用戶身上，這種情況可能并不存在。比如為了這次會(huì)議，我們可能只需花費(fèi)幾美分就能開發(fā)出一些應(yīng)用讓人們互相交流，它非常靈活且可循環(huán)利用。但與此同時(shí)我們奮斗了幾十年的整個(gè)職業(yè)生涯可能都不復(fù)存在了。我認(rèn)為我們可以適應(yīng)它，但大眾完全沒有意識(shí)到即將發(fā)生的事情及其規(guī)模之大。

二、社會(huì)如何適應(yīng)AI發(fā)展

主持人：這真的很有趣。那么你認(rèn)為在一個(gè)GDP高速增長(zhǎng)但失業(yè)率也居高不下的世界里社會(huì)將會(huì)變成什么樣？你說現(xiàn)在人們還沒有開始思考這個(gè)問題，你能舉一些具體的例子來說明社會(huì)如何適應(yīng)這樣一個(gè)世界嗎？

Dario Amodei：我們關(guān)注的第一件事是一個(gè)名為Anthropic Economic Index的項(xiàng)目。這是邁出的第一步。這個(gè)指數(shù)我們已經(jīng)運(yùn)行了大約一年，目前更新了四五次。它是一個(gè)實(shí)時(shí)指數(shù)，能讓你追蹤我們的模型Claude正被用于哪些方面。它會(huì)遍歷所有對(duì)話，以保護(hù)隱私的方式統(tǒng)計(jì)查詢Claude的使用情況，比如它被用于執(zhí)行哪些任務(wù)、在多大程度上是在自動(dòng)化任務(wù)還是增強(qiáng)能力、應(yīng)用于哪些行業(yè)、在美國(guó)各州及世界各國(guó)如何擴(kuò)散。我們正添加越來越多的細(xì)節(jié)。我的觀點(diǎn)是，在我們能夠衡量這場(chǎng)經(jīng)濟(jì)轉(zhuǎn)型的形態(tài)之前任何政策都將是盲目且誤導(dǎo)的。許多政策出了問題就是因?yàn)樗鼈兓诓徽_的前提。

第二步我們需要非常仔細(xì)地思考該如何讓人們?nèi)ミm應(yīng)AI發(fā)展。這可能意味著在現(xiàn)有工作中適應(yīng)并使用這項(xiàng)技術(shù)，也可能意味著從一份工作轉(zhuǎn)型到另一份工作。例如我認(rèn)為物理世界中可能會(huì)出現(xiàn)更多的工作崗位，而知識(shí)型經(jīng)濟(jì)中的工作崗位會(huì)減少。雖然機(jī)器人技術(shù)最終也會(huì)取得進(jìn)展，但那處于一個(gè)較慢的發(fā)展軌跡上。

此外是否還會(huì)存在非常看重人情味的工作？有些會(huì)有些不會(huì)。我們會(huì)發(fā)現(xiàn)這到底有多重要以及在哪些領(lǐng)域最重要。在公司層面當(dāng)軟件和其他知識(shí)工作變得廉價(jià)時(shí)護(hù)城河在哪里？我們以前從未真正問過這個(gè)問題，因?yàn)槲覀円恢币蕴囟ǖ姆绞剿伎甲o(hù)城河。所以公司層面將會(huì)出現(xiàn)一場(chǎng)巨大的爭(zhēng)奪戰(zhàn)。教人們?nèi)ミm應(yīng)并預(yù)期會(huì)發(fā)生什么，是第二步。

第三步，在發(fā)生宏觀經(jīng)濟(jì)層面如此巨大的人力流失時(shí)，政府必然需要扮演某種角色。蛋糕會(huì)變得大得多，資金是充足的。由于增長(zhǎng)如此強(qiáng)勁，即便我們什么都不做預(yù)算也可能實(shí)現(xiàn)平衡。問題在于如何將其分配給正確的人群。所以我認(rèn)為現(xiàn)在應(yīng)該減少對(duì)削弱增長(zhǎng)的擔(dān)憂，更多地關(guān)注如何確保每個(gè)人都能分享到這種增長(zhǎng)。這與目前普遍的情緒截然相反，但技術(shù)現(xiàn)實(shí)即將改變并將迫使我們的觀念也隨之改變。

三、Claude與智能體普及

主持人：我想再多談?wù)凜laude，它正處于一個(gè)高光時(shí)刻。我們最近也報(bào)道了工程師和普通用戶們是如何變得Claude化的。我想知道你對(duì)現(xiàn)狀有什么感覺，與一年前相比業(yè)務(wù)表現(xiàn)如何？

Dario Amodei：業(yè)務(wù)的增長(zhǎng)一直很快，基本上處于與技術(shù)發(fā)展相同的平滑指數(shù)增長(zhǎng)曲線上。

我們的收入曲線在2023年從零增長(zhǎng)到大約1億美元，在2024年從大約1億增長(zhǎng)到大約10億，2025年從大約10億增長(zhǎng)到大約100億。雖然這些是四舍五入后的數(shù)字，但大致情況如此。

幾個(gè)月前Twitter上大家還在極度亢奮地驚呼Anthropic正在改變世界、徹底顛覆行業(yè)。但我們只是靜靜觀察著這條快速攀升、不斷進(jìn)步的曲線。它給了我們信心。雖然我們永遠(yuǎn)無法確定這種增長(zhǎng)是否會(huì)持續(xù)，但這一直是我們?nèi)逃^察到的經(jīng)驗(yàn)結(jié)果。即便曲線是平滑的，也會(huì)出現(xiàn)突破性時(shí)刻。

我認(rèn)為現(xiàn)在開發(fā)者群體中正出現(xiàn)一個(gè)圍繞Claude Code的突破時(shí)刻。這種端到端完成任務(wù)并開發(fā)完整應(yīng)用的能力，隨著我們最新的Opus4.5模型推出，似乎達(dá)到了一個(gè)拐點(diǎn)。進(jìn)步是漸進(jìn)的，就像溫水煮青蛙，你會(huì)看到循序漸進(jìn)的提升，然后到了某個(gè)特定時(shí)間點(diǎn)，人們會(huì)突然察覺到它的存在。

可能加速這一進(jìn)程的第二點(diǎn)是，我們觀察Claude Code時(shí)注意到，Anthropic內(nèi)外有很多非技術(shù)人員意識(shí)到Claude Code可以為你完成不可思議的Agentic（智能體）任務(wù)。它不僅能編寫代碼，還能整理待辦事項(xiàng)列表、規(guī)劃項(xiàng)目、整理文件夾或處理大量信息并進(jìn)行總結(jié)。

這種理念不僅僅是一個(gè)聊天機(jī)器人，而是必不可少的智能體任務(wù)能力。非技術(shù)人員非常渴望得到它，以至于不惜去鉆研命令行界面。對(duì)于非技術(shù)人員或非程序員來說，這個(gè)界面用起來糟糕透頂，但即便如此人們還是在堅(jiān)持使用。看到這種情況后我心想，這看起來就是尚未被滿足的需求。

于是大約兩周前我們?cè)俅卫肅laude Code制作了一個(gè)擁有更好UI的版本，專門針對(duì)代碼以外的任務(wù)進(jìn)行了定制。發(fā)布后大約一天之內(nèi)，各項(xiàng)指標(biāo)都是其他產(chǎn)品的四倍左右，比我們發(fā)布過的任何產(chǎn)品都要出色。我不確定這些是否屬于全新的能力，但這正是那種達(dá)成共識(shí)的時(shí)刻，人們變得非常興奮并極快地推動(dòng)了普及。人們正在逐漸理解這項(xiàng)技術(shù)所具備的能力，因?yàn)樗呀?jīng)達(dá)到了特定臨界點(diǎn)，而且我們構(gòu)建了讓它變得觸手可及的交互界面。

主持人：你能跟我們分享一下，你個(gè)人在生活和家庭中是如何使用Agentic（智能體）AI的嗎？

Dario Amodei：當(dāng)我寫論文或在公司發(fā)表演講時(shí)，寫作占據(jù)了我工作中相當(dāng)一部分內(nèi)容。我會(huì)讓Claude幫我查找資料并潤(rùn)色文章。

主持人：顯然你們正處于高光時(shí)刻，外界普遍預(yù)期你們今年即將進(jìn)行IPO。你能跟我們聊聊這方面的計(jì)劃嗎？

Dario Amodei：我們還不確定具體會(huì)怎么做。目前我們更專注于保持營(yíng)收曲線的增長(zhǎng)、提升模型性能、向用戶銷售模型，以及警示社會(huì)影響并帶來積極的社會(huì)效益。這些是目前最優(yōu)先的任務(wù)。眾所周知，這是一個(gè)對(duì)資本需求極高的行業(yè)，私募市場(chǎng)所能提供的資金和支持在某種程度上是有限的。

四、不同AI公司的差異化競(jìng)爭(zhēng)

主持人：另一個(gè)正處于高光時(shí)刻的模型是Gemini，它最近在App Store的排名一路飆升，OpenAI甚至為此發(fā)布了紅色警報(bào)。每個(gè)人都對(duì)此感到非常興奮。考慮到Google龐大的體量，你會(huì)擔(dān)心自己與Gemini競(jìng)爭(zhēng)的能力嗎？

Dario Amodei：我認(rèn)為這是另一個(gè)差異化能帶來幫助的地方。在企業(yè)級(jí)策略方面，Google和OpenAI正在消費(fèi)者領(lǐng)域展開激戰(zhàn)。這對(duì)雙方來說都是生死攸關(guān)的。對(duì)OpenAI而言這是他們的全部業(yè)務(wù)；對(duì)Google而言，因?yàn)樗麄儞碛兴阉鳂I(yè)務(wù)，而這正是目前正被顛覆的領(lǐng)域，所以他們需要完成自我更替并對(duì)抗這種顛覆。這始終是他們的首要任務(wù)。相比于在企業(yè)級(jí)市場(chǎng)運(yùn)作，他們似乎更專注于消費(fèi)級(jí)市場(chǎng)。很高興看到Gemini在消費(fèi)級(jí)領(lǐng)域的表現(xiàn)。我認(rèn)為他們正在采取一種不同的方式。我剛和Google的研究負(fù)責(zé)人Demis Hassabis一起參加完一個(gè)小組討論。我覺得他是個(gè)很棒的人，我已經(jīng)認(rèn)識(shí)他15年了，所以我支持他。

主持人：當(dāng)你談到差異時(shí)，Anthropic不具備生成視頻和照片的能力。你認(rèn)為這是否是一個(gè)潛在的弱點(diǎn)？

Dario Amodei：對(duì)于企業(yè)級(jí)商業(yè)應(yīng)用來說，并沒有真正的需求去生成諸如貓騎著驢之類的照片或消費(fèi)級(jí)視頻。在幻燈片和演示文稿方面可能存在一些邊緣情況，但如果需要，我們可以直接外包一個(gè)模型。

我不知道未來會(huì)發(fā)生什么，但至少我不預(yù)見企業(yè)會(huì)需要這個(gè)。這其中存在一些相關(guān)問題，看看現(xiàn)在市面上短視頻的數(shù)量，很大一部分都是虛假的且非常讓人上癮，很多都是垃圾內(nèi)容（slop）。倒不是說這些都很糟糕或者代表這樣做就是壞人，但這并非我急于參與的市場(chǎng)領(lǐng)域。

主持人：你提到過曾和Demis Hassabis一起參加小組討論。昨天我們聊天時(shí)你提到了一些非常有趣的觀點(diǎn)，關(guān)于領(lǐng)導(dǎo)這些大型AI公司的科學(xué)家們正以不同于傳統(tǒng)科技企業(yè)家的視角來對(duì)待這個(gè)時(shí)代。你能再詳細(xì)說明一下嗎？

Dario Amodei：當(dāng)你思考這項(xiàng)技術(shù)時(shí)，它確實(shí)是持續(xù)了幾十年研究的交匯點(diǎn)，其中大部分在本質(zhì)上都是學(xué)術(shù)性的。直到大約十年或十五年前，開發(fā)和部署這些技術(shù)所需的規(guī)模化資源僅來自于大型互聯(lián)網(wǎng)和社交媒體公司，因?yàn)樗麄儞碛谢A(chǔ)設(shè)施和資金。

所以我們看到的是一個(gè)由部分具有科學(xué)背景的人領(lǐng)導(dǎo)的世界，比如我和Demis的背景。而另一些則是由做社交媒體的那一代企業(yè)家領(lǐng)導(dǎo)的。我認(rèn)為這兩者截然不同。科學(xué)家們一直以來都有一個(gè)悠久的傳統(tǒng)，那就是思考他們所創(chuàng)造技術(shù)帶來的影響，認(rèn)為自己對(duì)創(chuàng)造的技術(shù)負(fù)有責(zé)任而不是推卸責(zé)任。他們最初的動(dòng)力是為世界創(chuàng)造東西，因此在事情可能出錯(cuò)時(shí)會(huì)感到擔(dān)憂。而社交媒體那一代企業(yè)家的動(dòng)機(jī)非常不同，作用于他們身上的選擇效應(yīng)以及他們與消費(fèi)者互動(dòng)甚至操縱的方式截然不同。這導(dǎo)致了大家截然不同的態(tài)度。

五、AI安全、教育與防止脫節(jié)

主持人：好的，我們現(xiàn)在從在線讀者的提問開始。Trevor Loomis問：在現(xiàn)實(shí)世界的部署中，目前仍然缺失的最重要的單一技術(shù)突破是什么，能使前沿AI具備可靠的安全性和可控性？

Dario Amodei：我認(rèn)為我們需要在機(jī)械可解釋性（Mechanistic Interpretability）方面取得更多進(jìn)展。這是一門觀察模型內(nèi)部機(jī)制的科學(xué)。

我們訓(xùn)練模型時(shí)面臨的問題之一是不了解其內(nèi)部邏輯，無法確定它們是否會(huì)按照預(yù)想的方式行事。你可以在特定上下文中與模型對(duì)話，它可以說出各種各樣的話，但就像人類一樣，那可能并不能如實(shí)反映它們真實(shí)的意圖。如果它告訴你做某事是因?yàn)槟硞€(gè)原因，實(shí)際上可能完全是出于另一個(gè)原因，甚至在是否做了某事上撒謊。我們對(duì)人類存在的這些問題已經(jīng)習(xí)以為常，但在AI領(lǐng)域它們同樣存在。

因此對(duì)于任何形式的現(xiàn)象學(xué)測(cè)試或訓(xùn)練我們都無法完全確定。但就像你可以通過核磁共振或X光來了解人類大腦，獲取無法僅通過交談學(xué)到的知識(shí)一樣，洞察AI模型內(nèi)部的科學(xué)最終是使模型變得安全且可控的關(guān)鍵，因?yàn)檫@是我們擁有的唯一事實(shí)標(biāo)準(zhǔn)。

主持人：沒錯(cuò)。這里還有Jim O'Connell提的一個(gè)問題：AI將如何影響目前K-12階段的教育成績(jī)差距？這無疑是一位家長(zhǎng)提出的實(shí)際問題。

Dario Amodei：短期內(nèi)確實(shí)存在人們利用AI作弊的問題，這需要引起關(guān)注。但換個(gè)角度，我們可以探討如何利用AI進(jìn)行教學(xué)。我們已經(jīng)考慮過這一點(diǎn)并發(fā)布了專門針對(duì)教育設(shè)計(jì)的Claude版本。

但我認(rèn)為背后更難的問題是，在AI的世界里我們究竟應(yīng)該教授哪些技能？教育會(huì)是什么樣子的？這并不容易回答，因?yàn)檫@種顛覆是全方位的。如果有人問我應(yīng)該從事什么職業(yè)，令人不安的事實(shí)是我也不確定它將要發(fā)展的方向。

我認(rèn)為我們應(yīng)該回到之前討論過的一些關(guān)于教育的概念。一直以來我們都有一種帶有經(jīng)濟(jì)色彩、近乎功利主義的教育觀念。也許我們應(yīng)該轉(zhuǎn)變這種觀念，回歸到教育旨在塑造人格、培養(yǎng)性格并讓你成為一個(gè)更好的人這種本質(zhì)上。我認(rèn)為這才是未來教育更穩(wěn)固的基礎(chǔ)。

主持人：聽起來我相當(dāng)羨慕那些尚未接受教育的孩子們，這種教育是我們所有人都希望曾經(jīng)擁有的。為了對(duì)在場(chǎng)的各位公平起見，我們還有時(shí)間提一個(gè)問題。這位女士問：從AI實(shí)驗(yàn)室的角度來看，當(dāng)有些經(jīng)濟(jì)體、國(guó)家和人民被拋在后面時(shí)，你們承擔(dān)什么樣的責(zé)任？是應(yīng)該通過結(jié)構(gòu)性參與來接納他們、放慢速度，還是切實(shí)確保他們不被排除在外？

Dario Amodei：我在很多層面上都對(duì)此感到擔(dān)憂。當(dāng)我觀察客戶群體時(shí)，我突然意識(shí)到初創(chuàng)公司采用AI的速度極快，而傳統(tǒng)企業(yè)因?yàn)橐?guī)模大、專注于特定業(yè)務(wù)，行動(dòng)要慢得多。我們從經(jīng)濟(jì)數(shù)據(jù)中也能看到這項(xiàng)技術(shù)正從美國(guó)國(guó)內(nèi)采納速度較快的州擴(kuò)散到行動(dòng)較慢的州。它正在走向大眾，但毫無疑問存在差異。

如果讓我來描述那種噩夢(mèng)般的場(chǎng)景，那就是出現(xiàn)一個(gè)新興的“第零世界”國(guó)家，人口約1000萬，其中700萬人分布在硅谷，300萬人零星分布在各處。這正在形成它自己脫節(jié)的經(jīng)濟(jì)體系，在這部分領(lǐng)域GDP增長(zhǎng)可能高達(dá)50%，技術(shù)發(fā)展簡(jiǎn)直太瘋狂了。它能以那種方式將事物拆解開來。

我認(rèn)為那會(huì)是一個(gè)非常糟糕、近乎反烏托邦的世界。我們應(yīng)該思考如何阻止這種情況發(fā)生。Anthropic正在著手做很多事情。針對(duì)發(fā)展中國(guó)家，我們正開始圍繞公共衛(wèi)生開展大量工作，宣布了與教育部合作的項(xiàng)目，并與蓋茨基金會(huì)開展大量合作。我在《Machines of Loving Grace》中也寫過，如果能獲得這些快速的經(jīng)濟(jì)增長(zhǎng)指標(biāo)，理論上這是一種追趕式增長(zhǎng)，我預(yù)測(cè)發(fā)展中國(guó)家最終會(huì)達(dá)到發(fā)達(dá)國(guó)家的水平。

在國(guó)家內(nèi)部，我們需要思考如何避免部分地區(qū)脫節(jié)，如何讓密西西比州也能獲得那種涌向硅谷封閉區(qū)域的經(jīng)濟(jì)增長(zhǎng)。因此我們圍繞經(jīng)濟(jì)流動(dòng)性和經(jīng)濟(jì)機(jī)會(huì)開展了一些工作，但這都需要政府的某種程度參與。

本文來自微信公眾號(hào)：劃重點(diǎn)KeyPoints，作者：林易，編輯：重點(diǎn)君

本內(nèi)容由作者授權(quán)發(fā)布，觀點(diǎn)僅代表作者本人，不代表虎嗅立場(chǎng)。如對(duì)本稿件有異議或投訴，請(qǐng)聯(lián)系 tougao@huxiu.com。

本文來自虎嗅，原文鏈接：https://www.huxiu.com/article/4859015.html?f=wyxwapp