“很多人都在討論算力短缺，但我認為真正重要的是如何把智能變得廉價且充裕。”

OpenAI CEO奧特曼在斯坦福最新訪談中直言，未來十年最大的變化并非模型能力的躍升，而是創業門檻的急劇崩塌。過去需要上百名頂級工程師才能推動的工作，如今借助AI和足夠低廉的Token成本，小團隊甚至個人就能獨立完成——產品的迭代節奏、創業的野心邊界，都已被徹底改寫。

對于外界普遍擔憂的就業沖擊，奧特曼的態度反而有所緩和。他表示，自己短期內對就業的悲觀程度已經降低，“我一直樂觀地認為我們會找到新的事情做，在短期內，這可能不像我原先想的那樣會被顛覆。”

更長遠地看，奧特曼將AI視作未來像電力、互聯網一樣的公共基礎設施。在他看來，用戶終將不再關心底層用的是哪款芯片或哪個數據中心，只在意能否隨時獲得足夠便宜、足夠強大的智能服務。屆時，人們購買的將不是算力本身，而是源源不斷的“智能供給”。

然而，恰恰是這個愿景，讓他對算力短缺尤為焦慮。當前全球計算資源已嚴重供不應求，且短期內難以緩解。隨著模型越來越強、越來越便宜，需求幾乎看不到天花板——未來每個人可能同時運行數十甚至上百個AI Agent，而需求的增速很可能持續跑贏硬件的擴張速度。奧特曼坦言，只要AI還在進步，算力短缺在某種意義上就會長期存在。

但硬幣的另一面是巨大的機會。更廉價的智能將催生前所未有的應用場景，從個性化助手到科研自動化，從教育平權到產業重塑，許多過去因成本過高而無法嘗試的想法，都將變得觸手可及。對創業者而言，關鍵已不再是如何獲取算力，而是如何利用充裕的智能去重新定義產品與體驗。

奧特曼訪談核心觀點如下：

廉價Token正在成為新的生產力要素。AI降低的不只是軟件開發成本，而是在重構創業公司的生產函數。隨著推理成本持續下降，一個人或小團隊能夠完成過去數十甚至上百名工程師才能完成的工作，創業門檻和組織規模被重新定義。
智能正在從產品演變為公用事業。正如用戶不會關心電力來自哪座發電廠、互聯網經過哪些服務器，未來企業和個人也不會關心底層芯片和數據中心，而是按需獲取智能服務。AI最終售賣的不是模型，而是無處不在的智能供給。
規模化仍是AI發展的核心驅動力。從模型訓練到企業組織，許多關鍵能力都來自規模擴張后的“涌現效應”。當系統達到足夠大的規模時，往往會產生此前無法預測的新能力，而市場往往低估這種規模紅利能夠持續的時間和深度。
未來AI最大的瓶頸可能不是模型，而是智能供給。隨著模型能力持續提升、成本不斷下降，智能需求幾乎沒有上限。個人Agent、企業Agent和自動化系統將消耗海量推理資源，算力短缺可能長期存在。未來產業競爭的重點，將從創造智能逐漸轉向如何以更低成本、更大規模地分配智能。

創業邏輯重塑：一個人可以完成“百人團隊”的工作

在奧特曼看來，AI帶來的最大變化，并非模型能力本身，而是創業門檻的急劇下降。

他表示，如今創業者只需要承擔可負擔的Token成本，就能夠完成過去一支由100名頂尖工程師組成的團隊才能完成的工作。而在幾年前，這甚至不屬于創業公司的可選項。

這種變化意味著，傳統互聯網時代關于團隊規模、融資節奏和組織管理的許多經驗正在快速失效。創業公司的競爭優勢，不再主要來自工程師數量，而越來越取決于能否最大化調用AI能力。

因此，奧特曼認為，創業者不應執著于那些已經被廣泛討論的熱門賽道，而應該尋找自動化編程時代之前根本無法實現的新機會。他相信，今天一定存在某些“完全不起眼、但未來可能成長為數萬億美元市場”的領域，而這些機會往往只掌握在極少數人手中。

從這個意義上說，未來最有價值的公司，未必擁有最多員工，而可能是最善于利用AI的人。

智能將成為下一代公用事業

如果說廉價Token正在改變創業，那么更長期的變化則是智能本身正在變成一種基礎設施。

奧特曼將AI的發展與電力普及進行了類比。他提到，早期電力公司并不會向用戶推銷“電力”本身，因為大多數人并不知道電力是什么，也不知道自己為什么需要它。真正推動電力普及的，是“夜間照明”這樣的具體應用場景。

在他看來，AI行業目前仍處于類似階段。

盡管越來越多人相信智能將像電力和互聯網一樣成為社會基礎設施，但行業尚未找到那個能夠讓普通用戶直觀理解其價值的“夜間照明時刻”。人們仍然習慣把AI視為一個工具，而非一種隨時可調用的公共資源。

奧特曼設想，未來用戶或許會擁有一種類似“OpenAI訂閱”的服務。它連接所有設備，在后臺持續運行各種Agent，幫助用戶處理工作、決策和日常事務。屆時，人們關心的將不再是底層使用哪種芯片、部署在哪個數據中心，而是能否以足夠低的成本獲得足夠多的智能。

算力短缺難言終結，推理層成下一賽點

談到當前市場對GPU的爭奪時，奧特曼直言，全球正面臨“巨大的計算資源短缺”。盡管大量新硬件正在建設之中，但需求增長的速度可能更快。他甚至表示，人們或許應該對此感到一定程度的擔憂。

在奧特曼看來，問題的關鍵在于智能需求幾乎不存在天然上限。

他將其與電力消費進行比較：如果價格下降十倍，人們會消耗更多能源；AI同樣如此。如果模型變得更強、成本變得更低，用戶只會消耗更多智能資源，而不會減少使用。

未來，當個人Agent成為現實后，每個人都可能同時運行十個、甚至上百個AI助手持續工作。屆時新增算力很可能迅速被新增需求吞噬，供給與需求之間的緊張關系將長期存在。

正因如此，奧特曼認為AI產業的重點正在從訓練模型轉向推理基礎設施建設。被問及如果自己是一名學生會研究什么方向時，他給出的答案并非新模型，而是推理層優化——如何讓智能變得更便宜、更充裕、更容易獲取。

以下是訪談內容：（由AI輔助翻譯整理，部分內容有刪減）

主持人：
請大家和我一起歡迎奧特曼。
這門課的靈感來源于我在這里做學生時的一系列不同經歷。其中之一是特里·溫諾格拉德的入門研討課CS47N——“計算機與開放社會”。但另一個對我以及2014年校園里許多朋友和同齡人來說非常有影響的經歷，是奧特曼的那門CS183——“如何創辦一家初創公司”。所以真的很高興你能回來。感覺怎么樣？回到這里有什么感受？
奧特曼：
我剛才走進來的時候在想，如果時間再多一點，我真想把這門課更新一遍，因為我覺得現在創辦初創公司的一切都已經發生了巨大的變化，而且我還沒看到有人做過一個關于“現在應該如何創辦初創公司”的好版本。所以我走進這里的時候就有那種感覺——“啊，再做一次應該會很有趣。”
主持人：
時間線上看，你是在2014年教的那門課。我想OpenAI是在2015年成立的，對嗎？
奧特曼：
基本上是2016年。
主持人：
好的。所以從我的觀察來看，你當時好像是先形成了自己關于“怎么做才正確”的工作理論，然后就去嘗試實施了。這個判斷大致準確嗎？
奧特曼：
OpenAI其實是過去幾十年里硅谷最奇怪的初創公司之一，因為它最初是一個研究實驗室。它根本不是一家公司。初創公司的正常路徑是，你先做一個產品公司，然后發展一段時間，增長放緩之后，你才開始建立研究實驗室，把它嫁接上去，試圖尋找下一個方向。而我們正好相反——我們先是研究實驗室，后來才不得不嫁接了一個初創公司上去。我其實不太推薦這種方式。這是一種非常不尋常的做法。
不過我說的不是這個意思。我的意思是，我們當時仍然遵循的是AI時代的“前規則”，因為我們在試圖創造AI，我們當時還沒有做到。但現在，看著最優秀的初創公司在做的事情，和幾年前相比已經完全不同了。我覺得我大概不會去做這件事，但應該有人重新開這門課。
主持人：
根據你的數據，你會做的最大的更新是什么？
奧特曼：
現在，你只要花一筆可負擔的token費用，就能做到以前需要100人規模的超強工程團隊才能做到的事情。這在以前是完全不可能的，根本不在初創公司的選項集合里，但現在可以了。所以我認為，你能承擔的項目規模、你的行動速度、你能同時做多少事情，都已經完全不同了。
主持人：
那這會改變你在課程結束時布置給學生們去攻克的問題類型嗎？
奧特曼：
我不認為“布置問題讓人去攻克”這種方式有效。因為如果我能想到一個問題，如果我能想到一個很棒的創業點子，而且對我來說足夠明顯的話，那對很多人來說可能也很明顯。我們創辦OpenAI的時候，我們大概是——慷慨地說——全球四個AGI項目之一。你要找到的是那樣的東西。我相信現在一定存在一些東西，在自動化編碼時代之前是完全不可能的，現在卻完全不顯然，而且很快就會成為一個數萬億美元的市場，目前可能只有四家公司在做。但我不知道那是什么。你們知道那個東西的可能性比我大多了。我的腦子完全被OpenAI占據了。但你能被布置去做的那些想法，很可能不是你真正想要的。
主持人：
好的。不過我覺得，因為這本質上是一門系統課，可能值得推理一個特定問題，讓大家能夠把從系統角度拆解問題的方法應用到自己的問題上。
奧特曼：
對。
主持人：
你在2014年的課上就開始提到的一個概念，后來顯然也在公開場合多次談到，那就是“規?！?。規模本身就是一個難題，“數量本身就是一種質量”。在過去的10年里，你似乎以各種方式對這個概念進行了實證研究。你能先幫我們拆解一下，10年后的今天你所說的“規?！笔鞘裁匆馑紗?？你會如何把它作為一個系統設計屬性來解構和應用——無論是作為工具還是其他什么？
奧特曼：
好的。我不知道為什么以下觀察是真的——我提不出一個讓我滿意的理論來解釋它，這讓我有點緊張，但我還是要說，因為從經驗上看它似乎確實是真的——那就是在我職業生涯中觀察到的所有最有趣的事情，都或多或少與“涌現特性”或“規模持續提供遠超共識預期的回報”有關。
這顯然發生在AI模型的規模擴展中，但也發生在把更多聰明人聚集在一起思考同一個問題的場景中——在研究環境中。它也發生在公司以及規模經濟中。你能以各種不同的方式獲得這些效應。
我真正學到這一點是在Y Combinator。當時所有人都說：“YC變得太大了，應該縮小規模，每批應該只招更少的公司——以前每批十家公司的時候才是最好的YC。”很多非常聰明的人都在這么說，這聽起來很有誘惑力，因為那樣工作量會少很多。他們的理論是：最好的公司總是顯而易見的，然后你資助剩下的那些，幫助不大。但實際上，YC成功的很大一部分魔力來自于每批學員之間的網絡效應，而這是在規模上涌現出來的特性，以前從未被發現過。沒有人嘗試過以同樣的方式大規模資助初創公司，因此也從未有人發現這個觀察——當你這樣做的時候，會發生一些在十分之一甚至百分之一的規模下根本不存在的、非常重要的東西。
還有很多類似的例子。我為了節省時間就不一一列舉了。但我想再說一次，我無法解釋為什么會這樣，但從經驗上看，當你找到一個可以推動的方向，把一個已經在較小規模上以某種有趣方式運作的東西推向人們從未嘗試過的規模，這通常是個好主意。而且這似乎是大多數人做得不夠的一件事。
我也不提供解釋，但當我們說“我們要真正規?；疉I模型”的時候，領域里所有的天才，大多數人都說：“這不太管用吧，這幾乎算不上什么科學成果，它在更大規模上變好也沒什么有趣的，你已經證明過了，為什么還要繼續擴大？”我提到過YC的例子。我看到很多創業公司的創始人說：“嗯，如果我把這個東西規?；?，可能會發生一些有趣的事情，但我因為一些不具體的原因有點擔心?！倍仡櫞罅恳愿鞣N方式擴展公司的數據集，幾乎總能發現有趣的東西。所以我認為方向性地看，這是一個值得推進的方向，而且嚴重被低估了。
主持人：
從系統設計的角度看，我認為人們不太愿意這樣做的原因之一是——東西會以加速的、不可預測的方式出問題。如果你真的要規?；硞€東西，它總會有那么一點“破破爛爛”的?？傆泻芏喾浅Ｂ斆鞯娜烁嬖V你為什么不應該這樣做——“別太野心勃勃，別搞太大，讓我們試試更小的規模?！?br/>那么，從系統問題的角度來拆解這個問題——當我們擴大AI模型的時候，有技術上的問題：我們到底能不能做到？這看起來很瘋狂，沒人想過嘗試在10,000或100,000個GPU上跑一次訓練，那需要堆疊工程人才。還有資本需求：要做什么才能做到？怎么才能形成一門生意？你怎么能考慮承擔這種風險？還有文化方面的東西：研究人員會說，如果我們有這么多算力，為什么不把它分配到所有項目上？這種模式在我研究過的幾乎所有領域中都會出現。
把問題分解成每個難點或每個“不做的理由”，然后逐一解決，這是非常重要的。
主持人：
我要在這個問題上再推進一步——很少有人能像OpenAI團隊那樣多年持續地規?；庐a品和系統。但似乎問題之一是，存在所有這些先驗條件——人類的心理模型和期望。你說東西會出問題，而最難重構的似乎往往是系統的“人的一面”——無論是有人的實施者，還是有人的參與者。關于在規模上組織人類，讓他們參與到一個可能和過去的系統完全不同的新系統中，你學到了什么？
奧特曼：
我覺得，清晰的目標、清晰的實現路徑，以及關于如何到達那里和如何在整個過程中做決策的清晰答案，這非常重要?；氐轿覀儧Q定擴大模型的例子，當時很多人說：“啊，這不一定行得通，會有這些問題，而且我們需要一個更多元化的組合。”但一旦我們說：“不，我們要押注規?；纳疃葘W習，這就是我們要做的事。如果我們錯了，我們就失敗，但我們要這么做。以下是為什么我們要這么做，以下是我們對如果成功了世界會變成什么樣的信念。”這非常有力量。
不管出于什么原因，我們并沒有進化出擅長思考指數增長的能力。人們很難想象規模定律會繼續以指數方式延伸，收入會指數增長，組織可以承載指數增長的復雜性。根據我的經驗，要真正從第一性原理和人們一起推理“為什么這能發生”，需要花很多時間。
主持人：
我們可以拿兩個例子來拆解一下嗎？第一個是ChatGPT，第二個是Codex。這兩者都帶來了變革性的影響。我先做一個框架性的描述，你可以挑戰我的假設，然后我們一起推理實際發生了什么。在ChatGPT的例子中，在模型規?；^程中，一個很大的思維障礙似乎是：“這些東西到底有什么用？這只是一個研究方案在找問題，研究優先，不是產品?！比缓驝hatGPT出現了，向世界證明了聊天體驗是通用模型在面向消費者端的殺手級應用。幾年后，顯然編碼成為了企業端的殺手級應用。那么，你如何比較和對比你們用來發現這些用例、發布它們、規模化它們、變現它們的系統？從這兩個系統中有什么突出的經驗？
奧特曼：
好的。我們當時做了GPT-3，我們需要賺錢，因為我們要擴大到數十億甚至數百億美元的算力集群。我們有GPT-3，它挺有意思的，是個很酷的演示，但我們想不出圍繞它能做什么產品。我們試了幾樣東西，都沒成。我們知道模型會越來越好，但我們想早點啟動收入引擎。所以我們說：“既然我們想不出做什么產品，那就把它做成API，希望別人能想出來?！庇谑俏覀冊?020年夏天發布了GPT-3 API。一開始完全沒動靜。大約一個月后，莫名其妙地，在同一天，幾個不同的開發者讓模型做了些很酷的事情，發到了推特上，其他人也開始嘗試，然后很多人開始用這個API。
但如果回頭去用GPT-3或3.5，你會震驚于當時的模型有多差，相對于它們當時引起的興奮程度。人們嘗試了各種東西，唯一能用GPT-3做出實質性業務的，是文案寫作。那也不是很好，也不是很令人興奮。我們覺得，只能等更好的模型了。不過，雖然那是唯一能跑通的業務，但開發者們已經發現了怎么輸入提示詞然后跟它聊天。我們看到很多人——他們沒法用API做業務——但他們在用自己的API密鑰來聊天。我們說：“我們可以做一個好的聊天機器人，人們顯然想要這個?！蔽覀冇幸粋€新模型——實際上我們已經有GPT-4了，但我們在中間有一個準備好的新模型叫3.5。我們發現了一種新的后訓練方法，能讓模型很好地遵循指令，讓聊天變得更輕松。
然后我們說：“API運營得不太好，可能也就是一兩千萬美元年營收規模的業務，但有一個人們真正喜歡的東西?！卑凑誝C的原則——“看到用戶喜歡什么，就做那個”——我們說，那我們就圍繞它做個聊天機器人。發布的時候我們仍然不覺得它會做得那么好。它本意是一個研究演示，用來說服其他人應該構建聊天類產品，然后為我們的API付費。但它真的病毒式爆紅了。
我在YC學到的另一件事是：當一個東西真正開始增長，而且它還不太好用的時候，你手上就有一個穩贏的產品。我們有大約五天時間，流量激增，然后回落，每個人都覺得“好吧，這只是一輪炒作周期”。但第二天它又達到一個更高的峰值，當天晚些時候又回落，人們又說這是炒作周期。到第四五天的時候，我意識到：“我知道這是怎么回事了。我知道接下來會發生什么。我們手上有潛力做一個殺手級產品?！蔽覀冎揽梢园阉龅酶谩覀冇蠫PT-4，我們可以繼續擴展。到第五天，我們把所有人召集起來說：“這是緊急情況——是好的那種緊急，但我們必須同時建立公司和產品。”然后我們經歷了大約兩個月的瘋狂擴展。然后我們說：“商業模式以后再說，現在先收費，免得算力賬單爆掉?！憋@然這不是長期解決方案，但結果也奏效了。這就是ChatGPT的故事。人們之前只是沒有跨過那個激活能去發現其中的巨大效用。
然后是Codex。實際上在ChatGPT之前，我們的計劃是全力投入代碼。我們知道這些模型能寫代碼，知道這會很有價值。但我們當時內部的想法是：編碼是這些模型控制計算機世界的方式，機器人是它們控制物理世界的方式。如果你做了一個足夠聰明的模型，既能寫代碼又能驅動機器人，你就能讓這個智能在世界上為你做事。然后我們花了些時間才走到那一步。Codex在今年年初變得非常好，但到了5.5的時候，我們看到了真正的拐點——人們開始用它做出令人難以置信的事情。
主持人：
在課堂上我們早前討論過，能力管道的形態在不同研究組之間開始變得更清晰、更標準化——有預訓練、中訓練、后訓練，還有強化學習和監督反饋循環。你覺得這大致就是讓Codex完成能力躍遷的管道形態嗎？它會保持穩定一致，還是我們即將經歷一次重大的管道重寫？
奧特曼：
我認為這絕對是當前的管道。我預計我們會經歷一次重大的重寫。我不知道什么時候會發生，也不知道具體會怎么發生。但對我來說有點奇怪的是，它如此恰好地形成了一條管道，感覺并不像最優解。
主持人：
在你心中，什么才是最優解？
奧特曼：
我覺得這應該是一個讓AI去研究的問題。我們現在已經到了這樣一個節點——我們設定的目標是，到今年9月，我們將使用相當于50萬個A100的GPU算力作為AI研究實習生；到2028年3月，我們將擁有一個從頭到尾的、非常有才華的研究者水平的AI，能夠發現全新的架構。所以我認為，用當前的管道和架構，我們能夠跨過“AI能做令人難以置信的工作”這個門檻。
主持人：
你剛才描述的一個事情是——我們在課堂上一直在討論系統框架和類比，把某個領域的概念翻譯給其他沒有上下文的人。但有時候因為翻譯問題，類比推理會有用，有時候誤差會累積。你剛才說“我們的目標是把它當作AI實習生來用”，這在硅谷和懂管道運作的課堂里顯然是個有用的比喻。但當你把它擴展到全球范圍，沒有這些上下文的人可能會用不應該的方式去類比這些模型。我們應該如何思考這些類比的局限性？在硅谷內部你覺得最有用的產品和研究類比是什么？在規?；@些類比時你發現了什么局限性？你如何在兩個問題之間導航？
奧特曼：
我一直很有興趣研究這個問題。我認為我們正在創造一種新的公用事業。這種事不常發生。電力是公用事業，互聯網是公用事業，水也是——其實沒那么多。所以沒有太多例子可以研究好的隱喻或經驗。但我最近在觀察電力成為公用事業時發生了什么。這個類比在很多方面都很好，當然也不完美。但我能找到的電力公司資料顯示，它們一開始不討論“賣電”，因為沒人知道那是什么，聽起來很嚇人——這東西要進你家，還能用一種可怕的方式把你電死，感覺和以前的世界完全不同。也許它們一開始試過賣電或營銷電，我不知道。但無論如何，那不管用。然后它們開始向人們營銷的是“夜間的光”——“你從我們這里得到的是夜間的光。順便說一下，讓你得到光的東西還可以做其他很多事情?！比藗儠f：“我為什么要那個？”它們說：“嗯，將來它會幫你洗衣服?！比藗冋f：“不不不，這對我來說跨度太大了。”
所以我不知道我們在這件事上的類比應該是什么。但我懷疑，即使我們完全正確——智能將成為一種新的公用事業，每家公司、每個客戶、每個政府都需要獲取它，并以各種不可思議的方式使用它——你會有一種OpenAI token訂閱，插到所有東西里，用來訪問所有東西，它一直為你運行，做著令人驚奇的事情——我現在仍然不太確定我們現在的正確方式是把它類比成“我們在銷售智能”，因為人們不知為何就是沒有共鳴。我不知道我們的“我們在銷售夜間的光”的等價物會是什么。但如果我們想成為一種新的公用事業，我們需要找到一種方法向世界解釋，擁有這種智能管道、你可以用它做任何你想做的事，到底意味著什么。
主持人：
這個班上出現的一個涌現特性是——不同演講者多次提到了“公用事業”類比，但指向的是不同的東西。黃仁勛把計算類比為公用事業，以及為什么應該有人人可用的訪問權限，還談到斯坦福應該調配預算，為全校采購計算作為公用事業。而你剛才把智能部分類比為公用事業。這兩者都是真的嗎？其中一個更可能是真的嗎？人們應該如何推理計算作為公用事業與token作為公用事業？這里我說的計算是指芯片，token是指模型輸出。
奧特曼：
我認為作為消費者，作為一個企業或個人，你會以更接近token的方式思考，甚至可能比token高一層的抽象。你不會太關心硬件在哪里、用什么芯片、什么在驅動它。這些東西會被抽象掉。你關心的是當你與系統交互時——你能不能大量使用？便宜嗎？做得好不好？現在它是token。隨著我們進入一個大家都有一個持續運行的智能體、一直為我們服務、一直有用的世界，你可能會在更高一層去思考它。但我的猜測是，就像你付手機賬單時，你說的是“我在買通話時長和多少GB的流量”，它做所有這些事，你用各種應用——你其實不太關心基站里的硬件是什么、它怎么連到互聯網。
主持人：
我知道我可以深入聊公用事業基礎設施很久，但我想確保我們切換一下，讓內容對同學們更相關。通常我們有提問環節，但今天沒有聽到——除非你愿意即興回答。
奧特曼：
哦，好的。那太好了。即興發揮吧。
主持人：
最后一個問題，來激發一下大家的創造力——這門課（或CS183）的期末項目是“單人前沿實驗室”。每個人都在做一個項目，模擬自己作為一個獨立的實驗室，擁有所有合適的工具——他們有來自Cloudflare的數十萬美元信用額度，可能還有一些OpenAI的token，還有大量算力可用。如果你在這門課上，你會做什么作為你的“單人前沿實驗室”項目？
奧特曼：
首先，我覺得這是個很棒的項目。我認為，因為我們剛剛在談論公用事業的框架，這讓我很關注——有很多非常聰明的人在研究很好的訓練想法，我們將會有令人難以置信的模型。無論你們做什么，我們都會很快擁有令人難以置信的模型，我在這里保證。但我認為我們在“大規模交付廉價智能”方面的投入還不夠。所以也許我會去做推理那部分——我們如何讓這種令人難以置信的智能變得便宜而豐富？我認為這是投資不足的領域，而且我認為所有前沿實驗室都必須在一定程度上變成“推理公司”。
主持人：
現在轉項目可能有點晚了，但晚做總比不做好。做任何你想做的事。
好的，我們開始提問吧。我來主持，盡量保持高效、不要搞事。記住，這是一門CS課，但奧特曼沒問題。哦，我們有問題了。太好了。
提問者1：
問題關于你對該觀點的看法：LLM是一條死路。首先，在實現人類水平智能方面，這些模型已經在某些方面遠超人類智能，但在另一些方面又遠不如人類。例如，它們在需要長期規劃、高判斷力的任務上似乎比人類差得多。另一方面，昨天我們有一個模型發現或否證了一個數學猜想——一個艾里什問題，聰明人研究很久了，很多人（我不知道立昆是不是其中之一）最近還說這種事不會發生。然后模型就這么做了。現在很多數學家都在說：“數學是不是完了？這對我們領域意味著什么？”所以顯然LLM有能力發現新知識，顯然它們能做人類做不了的某些智能任務。它們會繼續大規模擴展。它們能在多大比例的任務上比人類做得更好，我們拭目以待。但我懷疑會很多。
關于“不相信指數增長”的問題，我認為這個領域實際上被一代科學家拖累了——他們太確定“擴展不會產生什么結果”，然后有些人只是看著圖表說：“嗯，看起來在持續變好，繼續吧。”我認為世界模型顯然很重要，對于機器人等事情也是需要的。但在此時此刻看衰LLM的擴展，我覺得是相當誤導的。
主持人：
當“我早就告訴過你”先生，會不會覺得煩？
奧特曼：
不煩。我的意思是，有些推特噴子多年來一直在說“不會成功的，這太蠢了，這是欺詐，這公司要完，這研究方向要失敗”。我以前更在意，但現在我甚至沒有“我早就告訴過你”的感覺。差不多是——“你還在這上面糾結呢？”數據已經相當有力地站在我們這邊了。而且事實上你還一直在說我們錯了，這真的不困擾我。我覺得是時候向前看了。
有句話說：“瘋狂就是面對不work的數據還一遍又一遍地做同樣的事?！彼麄円恢痹谥貜汀哪撤N意義上說，這是一種瘋狂。我認為發生的是：如果你把自己的身份認同建立在某件事會或不會成功上，你把自我和那個信念綁定，然后科學或實證結果反駁了你，你因為太執著于身份認同而放不下，就看不清真相。我認為這是在兩個方向上都應該提醒自己的重要一點。
提問者2：
你如何看待教育？它顯然必須超級適應，我擔心的是——我以為到現在它已經適應了。如果我們繼續在“前AGI世界”的方式下教學和評估學生，那將行不通，會導致思維能力的萎縮。我以為這已經明顯到讓我不用太擔心了。ChatGPT剛發布時，我說：“好吧，我們會有一年時間學生作弊、學不到太多，然后教育系統會重新設計自己?！蔽覀儠痰酶谩藗儠瞿切┍仨氂肁I才能完成的項目，但仍然需要拓展思維、思考更多、發現新東西。
說實話，在ChatGPT發布三年半后的今天，我很難指出教育系統有任何一個顯著的制度性變革。這對我來說是個預測失誤。我以為那會發生。我毫不懷疑，我們可以像之前每一次技術飛躍一樣重新設計教育方式，讓你仍然需要學習如何思考。會有一些東西——比如我是一個通過寫作來思考的人，我寫很多東西從來不展示給任何人，但對我自己弄清楚某些事仍然很重要，所以我很慶幸我學會了寫作。人們說同樣的話也適用于編程。所以會有一些東西，我們教人做那些機器做得更好的事，只是因為教他們“思考和學習”的元技能本身是有價值的，這很合理。但還有很多其他東西，我們應該徹底改變教學、學習或評估的方式。如果我們不做，我認為人們的批判性思維能力會出現顯著退化。
提問者3：
你在斯坦福最喜歡的課是什么？你希望自己當時上了什么課？
奧特曼：
斯坦?，F在還開“入門導論”課嗎？我大一每個學期都選了三門導論課，我都很喜歡。它們都非常不同。但回頭看，我能夠接觸如此廣泛的東西，對很多不同領域有一個非常淺的理解，這是一件不可思議的事。如果不是因為這些課，我就只會選CS和物理課，那當然也很好。但我現在回想更多的，是那些我上的完全隨機、和我現在做的事無關、但以某種重要方式給了我不同視角的課。我覺得編程無論如何我都會學會的。我那時候不這么想——我當時覺得“這些都很酷，但主要會是學CS”。我只上了兩年學，所以有很多我想上但沒上到的課。但那是讓我驚訝的地方。
提問者4：
你最“辛辣”的觀點是什么？
奧特曼：
如果有更多時間想，我能想出更辛辣的。但我認為AI會繼續走下去。我覺得這還不是被廣泛相信的。如果這被廣泛相信，社會上會有更多的連鎖反應。也許這不是最辛辣的。實際上，也許這才是最高優先級的位元——如果AI進步在當前的指數軌跡上再繼續三年半（從ChatGPT發布算起已經三年半了），即使我們再走三年半，世界的樣子、社會的潛力將完全不同。
主持人：
讓我試著給你更多“思考token”來激發這個點。如果我們把你當作一個前沿模型來對待，你有內在的能力，我們要試著在接下來的幾分鐘里激發人們不知道的你的能力。其中一個是你已經被持續后訓練了——你在OpenAI以及全球外部反饋循環上不斷進行強化學習，知道什么不work、什么work?，F在如果我們把你當作一個預測引擎，提示是：未來10年你看到的三個最可能的分叉宇宙是什么？你對每個的概率評估是多少？
奧特曼：
一個感覺非常重要的分叉是：這項技術會被廣泛民主化，還是集中在少數幾家公司手里？我認為，有很多原因讓你可以想象默認路徑是集中到少數公司，它們成為地球上財富的重要組成部分——那顯然是糟糕的，我們非常努力地推動反對這種情況。但這需要全世界的意志來真正避免，因為存在一種向心力。我認為我們需要推動這種“公用事業模式”的部分原因是：（a）如果少數公司擁有這一切，會非常不穩定、非常糟糕、非常不公平；（b）我認為存在真正的對齊失敗和非常脆弱的世界。通向一個每個人贏、每個人的價值被代表、每個人都有自主權的世界的最佳方式，就是把這項技術推向世界。但會有一個圍繞安全性和穩定性的非常強烈的反對論點。我認為這將是一個大分叉。這非常重要。我鼓勵你們所有人在你們的職業生涯中努力推動——這是一種技術，它可以帶給我們一個不可思議的科幻未來。生活會變得難以置信地好。我們會承擔一些風險才能到達那里。但讓這一切集中在少數公司手中的風險——即使我們是其中一家公司——是我們不應該容忍的。
所以我認為那將是一個大分叉。概率上，我認為世界應該有足夠的利益讓它以這種方式發生，所以我認為我們有80%的可能走在民主化的道路上。但會有非常強烈的安全信息，會有很多追逐權力的人想把權力集中起來。
主持人：
預測這個問題的一個難點在于——一旦你做出預測，你就有了影響預測的自主權。
奧特曼：
對。我的意思是，我們很清楚我們會用我們的自主權做什么。這是我們相信的。我們會盡一切努力把它推向這個方向。我們只是看到了另一個方向的力量。
也許一個相關的分叉——有很多關于未來經濟模型的討論：我們會不會搞全民基本收入？每個人會不會擁有每家公司的股份？是資本主義不變？有很多討論。有一件事我覺得討論得不夠，那就是我們具體如何分配算力。也許很多經濟可以以一種方式運作下去。實際上，我對短期就業的悲觀程度已經降低了——我一直樂觀地認為我們會找到新的事情做，但在短期內，這可能不像我原先想的那樣會被顛覆。但我們現在正看到算力短缺，我可以想象情況會變得更糟，算力會成為人們需要的最重要的公用事業。如果算力價格從供需角度嚴重失衡，那么關于“公平分配算力意味著什么”將是一個非常有趣的分叉。
主持人：
你在經濟方面做了兩個很有趣的表述。你說我們可能需要全民基本收入，或者每個人都擁有一部分股份。我們這堂課的一位演講者是尼古拉·坦根，他掌管挪威主權財富基金。他很棒。挪威主權財富基金持有全球所有上市公司1.5%的股份。他們實際上也有全民基本收入的變體。你可以說今天世界上已經存在這類做法的雛形，你可以說政府很大一部分職能就是以某種方式從納稅人那里重新分配收入。那么這些解決方案實際上需要是全新的，還是只是在這個時代重新實施？你如何思考這些解決方案的新穎性？硅谷往往有一種傾向，就是從第一性原理重新發明舊東西。我們應該只是看看現有系統然后微調它們嗎？
奧特曼：
我不認為這些需要很新的想法。不過我要說，我對“某種所有權份額”的興奮程度遠高于“固定的月度現金分紅”。我資助過一項大規模的全民基本收入研究，我也觀察了人們投資初創公司時發生了什么，我知道哪種模式在人類心理上效果更好。所以我希望看到的是，隨著世界的力量從勞動力轉向資本——我認為這將繼續發生——我們能找到一種方式，建立類似“公民財富基金”的東西，在國家層面乃至最終在世界層面，讓你基本上擁有資本主義的一部分——這些公司的一部分。
主持人：
第二個分叉，關于算力瓶頸——你說當算力價格失衡的時候。我的理解是，根據我們看到的數據，H100和Blackwell的價格，長期預留和現貨之間的價差曾經是5倍。我不確定現在還有那么高。我覺得好了一些。但確實，你甚至很難找到H100，因為它們今年基本都賣光了。這聽起來對嗎？
奧特曼：
沒有異議。存在巨大的算力短缺。
主持人：
這是一個活生生的系統問題。對某些人來說，感覺就像在算力時代，所有廁紙都沒了。為什么人們沒有對此感到恐慌？
奧特曼：
我認為人們假設我們在現有硬件上會有巨大的推理效率提升。我也認為有一波硬件海嘯要來了，但也許需求海嘯更大。人們應該在一定程度上感到恐慌。
主持人：
根據你目前的數據，你覺得算力短缺會持續多久？
奧特曼：
我覺得這有點像——你不能在完全不談價格的情況下談論全球電力需求。如果電價下降10倍或上漲10倍，人們想用的電量會有極大不同。AI也是這樣的。如果我們能讓模型足夠聰明、成本足夠低，我認為需求基本上是沒有上限的。所以在某種意義上，只要我們繼續在這方面取得進展，短缺將永遠存在——東西會被競價到高于我們覺得合理的價格，即使人們不斷獲得更好更智能的東西，只因為如果你能擁有真正偉大的個人智能體，你可以讓10個、100個一直為你工作，你想要100個——那就是大量的推理。
主持人：
太棒了。最后，我要把今天課堂的紀念品給你。謝謝你來做分享。
奧特曼：
謝謝大家。