站在2026年——“企業多智能體上崗元年”的起點,回望過去一年AI 2.0的激蕩與變革,我心中既有“如約而至”的欣慰,也有“意料之外”的深醒。
近日,我與著名主持人、學者蔣昌建先生進行了一場深度對談。他是一位極其敏銳的提問者,替許多創業者、管理者乃至年輕學子,道出了心中共有的焦慮與叩問。
![]()
在這場對話中,我們圍繞以下幾個核心維度展開:
多智能體重構企業核心競爭力。智能體的最大價值場景在ToB。當2026年成為“多智能體上崗元年”,企業如何憑借私有數據與多智能體,筑起難以復制的護城河,實現真正的AI驅動轉型?
AI推動社會生產力重組。多智能體正引領人類社會從“一人一工具”走向“一人一團隊”。當AI承擔80%的編程或基礎工作,人類如何從“答案的搬運工”轉向“問題的定義者”?“一人獨角獸”公司為何將在不遠未來成為常態?
平衡安全與倫理的發展。圖靈獎得主杰弗里·辛頓(Geoffrey Hinton)等先驅對AI失控憂慮,我們該如何以“安全工程思維”為AI打造可靠的約束框架?不停步于恐懼,而應通過可解釋AI與沙盒機制,確保技術始終服務于人。
面向未來的教育與素養。當AI成為強大日常工具,傳統教育考評體系需要與時俱進。在“底模平權”的時代,年輕人最應培養的并非復述知識,而是與AI協同、提出真問題的“批判性思維”。
2026年只是序幕。更大的時代機遇,正藏在AI 2.0的技術浪潮深處。不必畏懼被取代,而應思考:當人類整體價值空間因AI放大百倍之后,其中哪一部分,將由你來定義?
用軟件的人,在執行;
用工具的人,在提效;
而擁有AI思維的人,在重構世界。
愿這次對話,能為你撥開些許迷霧,在這個激蕩的AI 2.0時代,找到自己的坐標。
期待與你一同,用AI重構世界。
![]()
以下為訪談全文:
01
2025:智能體“小勝預期”
To B 場景迎來厚積薄發
蔣昌建:
開復博士曾預測2025年是AI應用爆發年。那么到目前為止,有哪些發展在您預料之中?又有哪些超出或低于了您的預期?
李開復:大模型能力的進展基本符合我的預期,比如多模態在理解與生成方面都做得很不錯。不過,智能體(Agent)的發展速度確實比我想象的快一些,算是“略超預期”。當然,未來可能還會遇到一些瓶頸。
蔣昌建:
為什么說“略超預期”?
李開復:我原以為智能體的爆發可能需要半年左右,結果它來得更快。這也帶來了一些現實的挑戰,因為技術尚未完全成熟。現在的智能體不僅能回答問題,還能執行任務,看起來非常神奇。但背后仍有很多難題需要解決:比如“幻覺”問題、高昂的時間與成本,以及如何應對可能出現的嚴重使用后果。這些都需要更多時間去完善。所以我認為,智能體真正的規模化爆發可能會在2026年,并且會在To B(企業級)場景中創造最大的價值。
蔣昌建:
很多觀點認為智能體在To C(消費級)場景也有廣泛機會,您為什么特別強調To B?
李開復:To B和To C其實都有機會,但To C目前面臨兩大挑戰。第一是成本:要獲得良好的使用體驗,無論是Manus還是其他應用,每月費用可能高達數百美元。對消費者來說,即使在高收入國家,也會猶豫是否要為訂票、寫PPT等功能支付這么高的費用。但在企業場景中,如果它能提升員工數倍效率,每月數百美元就顯得非常劃算。
第二是競爭格局。我們零一萬物很早就布局智能體,但發現如果做To C,就必須直面擁有最強基座模型的大廠(
DeepSeek類似研究機構,背靠量化巨頭幻方量化)。對他們而言,不可能讓一個創業公司掌握這樣的應用,他們會投入更大資源進行競爭。
我們看到,一年前,行業的認知是只有巨量資源的大廠才能持續承擔起訓練超大參數基座模型的成本;現在的認知是,只有大廠才能將通用基座模型延伸到通用To C智能體應用。然而,大廠恰恰不會去做To B的工作,至少不會針對單個企業做得很細膩。這就成為了創業公司的方向。所以,零一萬物現在就是All In To B,將企業級智能體做到極致。
02
尋找企業護城河:從私有數據出發
以智能體構建數據飛輪
蔣昌建:
很多人認為人工智能在垂直領域有很多機會,這是一種觀點。還有另一種觀點認為,這實際上是一種錯覺,一旦大模型轉身來做垂直領域,那些垂直領域的應用可能就沒有機會了,這個創業賽道風險極大。你怎么看?
李開復:兩個觀點都有道理。首先,基于一個優秀的通用大模型構建企業級解決方案,這當然是很好的選擇。但零一萬物在實際業務中發現,每個行業、甚至每個公司的需求都不同。零一萬物目前的客戶中,涉及能源、金融、農業等領域。他們每個行業所需的智能體、模型微調、小模型以及獨特的強化學習算法,其實都有差別。
蔣昌建:
所以,這些傳統企業的核心競爭力,除了針對垂直領域的模型微調之外,垂直領域數據也很重要。
李開復:是的,因為只有數據是企業所獨有的。
蔣昌建:
你覺得這可能是在垂直領域發展智能體的一個重要機會?
李開復:對,數據是傳統行業創造真正護城河的重要工具。因為未來大家都可以購買智能體、模型和算力。那么,誰能做到“早、快、專”,盡早引入智能體,最快選用先進架構,并利用自身私有數據訓練出不可復制的專業模型,形成閉環,誰就擁有了護城河。
此外,還有一個關鍵是“智能體搭建工具”——一個企業不只是需要購買一個或一百個智能體,而是需要有自行搭建智能體的平臺能力。這些正是零一萬物現在希望通過萬智企業大模型一站式平臺為每個傳統行業提供的。
回答你問題的第二部分:大廠能不能做?絕對能。阿里、百度、字節確實也在布局,我們從不懷疑他們的能力。但關鍵在于,他們的主戰場是通用大模型和云服務,玩的是更高維度的規模化游戲。相比之下,垂直場景、訂閱制或項目制服務,并非他們的戰略重心。說白了,這部分利潤,他們未必看得上。
蔣昌建:
你說智能體的發展超出了你的預期。還有哪些點是超出你預期的?
李開復:娛樂行業的應用同樣超出了我的預期。如今,任何人利用市面上的AI工具都能制作出精良的視頻。用戶只需提供Prompt(提示詞),AI便能準確遵循指令,生成逼真的內容。視頻與圖片的質量均已達到極高水準,這意味著整個娛樂行業將面臨重大顛覆。
另一個突破在于AI智能硬件。其發展在2025年已現端倪,盡管尚未全面爆發,但我預計未來數年必將迎來高潮。這里我特指能夠完整記錄會議的設備,而非具身智能或人形機器人。以往,這類數據處于“沉睡”狀態,產生后即被遺忘;如今,它們可以被全面捕捉。未來,無論是通過眼鏡、錄音筆還是其他設備,這些新的數據源都將創造巨大價值。
此外,我堅信在AI領域,手機絕對是終極錯誤的設備。五年后,我們使用AI的主要智能終端將不再是手機。其終極形態尚不明確,可能是眼鏡、手環或別針等。但我認為,對個人用戶而言,最理想的交互界面無疑是語音。
蔣昌建:
那你今天是在向觀眾宣告,像這些手機大廠五年之后將不會存在?
李開復:不是。這些小設備可能仍需依靠手機進行計算。我認為,下一代“AI First”的設備應當具備以下五個特點:第一,語音驅動;第二,隨時開啟;第三,隨時在聽,捕捉數據;第四,擁有無限記憶;第五,形態趨于隱形。
眼鏡是邁向這一方向的重要一步,當前市場上已出現各類小型錄音筆、麥克風設備,釘釘、飛書等平臺也開始推出類似產品。然而,這些僅是初始階段。
當這五個特征全部實現時,一個輕便的無線設備,無論它是佩戴于頸部、手腕還是作為眼鏡,都將成為個人生活的“外掛硬盤”。對企業而言,它將構成無限擴展的企業知識庫。這類設備在AI大腦與智能體技術領域擁有廣闊的發展前景。
不過,手機并不會因此消失。目前要實現我所描述的全部特征,這些設備仍無法完全脫離手機。手機充當了計算終端,小型設備僅負責采集音頻、視頻數據,隨后上傳至手機進行處理。在這一流程中,手機不可或缺,正如早期移動互聯網時代個人電腦的地位。
因此,五年后個人電腦與手機可能仍將存在,但我們將主要通過此類新型設備向AI傳達指令并進行交互。
蔣昌建:
我還有一個問題:2025年爆發期,有哪些是不符合或低于預期的?
李開復:坦誠地說,國內做To C軟件的創業機會目前是低于預期的。這件事非常可惜。
蔣昌建:能不能舉一兩個例子?
李開復:當前,面向消費者(To C)的創業者面臨兩大核心挑戰。
首先,海外用戶普遍具備更強的付費意愿,而國內市場用戶為新軟件付費的意愿相對較低。這意味著,當創業者開發AI To C應用時,需要投入大量資金支持大模型的Token消耗。如果用戶不愿付費,企業將難以支撐用戶規模擴張帶來的成本壓力。
其次,用戶流量獲取成本過高。回顧移動互聯網發展初期,第一波流量紅利成本相對低廉,這為滴滴、美團、字節跳動等公司提供了快速增長的機會,且代價較小。當時正值用戶從2.5G向3G、4G乃至5G網絡遷移的階段,新增用戶不斷涌入,流量成本較低,使得這些企業能夠以相對較低的成本獲取第100萬甚至第1000萬個用戶。
然而,當前的市場環境已難以重現這種低成本擴張模式。這也解釋了為何在主流Chatbot排行榜上,創業公司身影寥寥無幾,即便有少數上榜者,也往往付出了巨大代價。DeepSeek或許是個例外,但它并非典型的創業公司案例。
實際上,還存在第三個關鍵問題:科技巨頭們早已洞察AI 2.0的機遇并進行了大規模投入。相比之下,當年字節跳動、滴滴、美團等公司創業時,部分大廠的市場反應相對滯后,為當時這些創業公司留出了發展空間。
蔣昌建:
我們也可以看到,在2026年1月,其實從去年年底開始,一些大廠的To C產品已經開始推出了。你覺得他們已經在市場上開始發力了嗎?
李開復:我認為,當前大型科技企業已將大部分基座模型掌握在自己手中。這些企業對AI領域進行了真正的All In(全面投入),其采購的算力規模驚人。同時,互聯網及移動互聯網時代的流量入口也基本由這些企業掌控。所以,如果我們仍希望把握To C的市場機會,或許只能購買這些企業的股票了。(
03
從To B到硬件:
AI 2.0時代的創業“新大陸”
蔣昌建:
很多人判斷說,AI領域過熱了,你的判斷是什么?
李開復:我從兩個方面來回答:首先是關于AI領域是否存在泡沫的問題;其次是關于創業機會,特別是中國AI領域的創業機遇。
關于AI泡沫問題,以美國市場作為參照,我認為當前最受關注的幾家AI公司并不存在嚴重的泡沫。盡管它們的估值可能被高估了3到5倍,但我不認為這是泡沫,原因在于這些公司已經產生了實實在在的收入。無論是OpenAI還是Anthropic,其年收入均已達到數百億美元規模,且主要來源于客戶訂閱。
當然,這些公司的收入目前可能遠低于投入成本。部分財務專家或許會斷言這些企業難以持續。但需要注意的是,相當一部分支出是用于預先部署GPU等基礎設施,為來年的收入擴張做準備。對于年收入規模達百億美元級別的公司而言,若能實現收入成倍增長,前期投入的成本將很快被收回。
雖然估值可能存在兩三倍的溢價,也有人質疑市場存在炒作成分,但不可忽視的一個底層邏輯在于,用戶確實愿意為此買單。
以零一萬物為例,目前80%的代碼均由AI生成。這帶來的效應并非意味著我們要裁員80%,而是生產效率實現了數倍提升——一個幾十人的工程師團隊現在能夠完成過去需要數百人團隊的工作量。
這一現象正在全球范圍內發生。試想一下,如果我們能為每位工程師配備全球最先進的工具,使其工作效率提升5倍,企業愿意為此支付多少費用?因此,開發這類產品的公司,如美國最具代表性的Anthropic、Cursor等,無疑創造了巨大價值,因為它們正在顛覆整個編程行業。這種價值創造是巨大的。
蔣昌建:
AI賽道是否還有很多創業機會,個人是否應該早早規劃、投身AI賽道?
李開復:在場希望創業的人,可能被我潑了冷水。剛才我曾指出,面向消費者(To C)的創業機會多被科技巨頭占據,但這只是硬幣的一面。事實上,創業機會依然存在。純粹的To C軟件創業仍然可行,關鍵在于避免進入大廠的射程以內。
創業者真正的機會在哪兒?我的觀察是:藏在巨頭雷達的盲區里。這里有三條建議。
第一、別在紅海里搶食,去無人區插旗。什么算是盲區?就是那些規模還不夠大、還沒被大廠定義為“賽道”的細分市場。那里的需求可能剛剛冒頭,場景還在形成,但解法基本是一片空白——這才是創業者該盯住的機會窗口。
具體怎么做?我的建議是:盯住新技術落地的第一個浪頭,快速判斷它能不能跟你現有的優勢結合,長出一些新的打法。千萬不要一上來就想搭一個完美體系,那不叫創業,那叫自嗨。真正的做法是像特種部隊一樣,快速驗證、快速迭代,在動態中找到最適合自己的生態位。
一旦驗證可行,就得迅速把它壘成壁壘——不管是通過數據閉環、場景獨占,還是把用戶體驗打磨到極致。我一直相信,真正的護城河不是畫PPT畫出來的,是在快速奔跑中,一步一個腳印踩出來的。
字節跳動的今日頭條就是個很好的例子。它沒有發明資訊分發,但它切進了一個當時巨頭沒怎么在意的個性化閱讀空白區,愣是靠差異化認知長成了后來的龐然大物。
第二,別給舊模式打補丁,用AI-First創造新物種。這一點在當下特別重要。你會發現,大公司其實很容易被自己的成功經驗困住——做電商的永遠是電商思維,做搜索的永遠是搜索思維。這些經驗在AI時代,反而可能變成創新的枷鎖。
創業者的機會就在于:你敢不敢跳出這個框架,去想一些全新的產品形態和場景?20年前,沒人能預見今天會有抖音、拼多多。今天也一樣。我們不要總問“怎么用AI改進現有產品”,而要問“AI能讓什么以前根本做不了的事,變得可能”。
這種從零開始的AI-First思維,才是真正能讓你做出顛覆性創新的東西,也是打破巨頭壟斷最大的一張門票。
第三,去做大廠不愿的“難卻正確的活兒”,那是To B真正的機會。最后說說To B。為什么大廠通常不太愿意做深度定制?兩個原因:一是項目制看著利潤薄、規模慢;二是他們的重心永遠是賣標準化的云服務,不是給單一客戶打磨體驗。
但問題就在這兒——各行各業其實都有大量需要深度服務的傳統企業,他們付費意愿高,粘性也強。誰能把他們服務好,誰就能扎下根來。
可以看看Palantir的路徑。當年要是谷歌或微軟愿意深耕定制化的企業服務,可能就沒Palantir什么事了。但它就是把企業客戶的深度需求做到了極致,硬是從項目制跑成了平臺化,最后長成了今天的體量。
當然也得承認,國內ToB市場的付費習慣還在成熟過程中,這是個現實挑戰。但換個角度看,這不也恰恰意味著預期差和機會嗎?
所以總結下來就是:始于盲區,成于深耕,立于壁壘。在巨頭看不上的細分戰場,用AI-First的思維重構產品,用極致的服務深度綁定客戶——我覺得這可能是未來十年,最值得創業者和投資人關注的方向之一。
蔣昌建:
你剛才也談到了中國市場的特殊性:即便是To B,付費意愿不一定那么強,即便有,也不會按市場應有的價格付費;To C就更不用說了。如果真是這樣的市場模式,讓他們一出手就虧本,怎么辦?
李開復:零一萬物當前的策略是從海外To B市場切入,主要由于海外客戶有更為成熟的付費習慣。然而,我們投身人工智能領域的根本愿景,是希望通過“人工智能+”賦能實體經濟,真正為國家和社會創造價值。
回到創業機會的探討,我認為最后一個,也可能是最具潛力的方向,在于人工智能與硬件的深度融合。回顧過去十幾年,最具商業價值的設備無疑是iPhone。為何iPhone誕生于美國?因為當時的產品設計、軟件技術由美國主導,中國主要承擔制造環節。當然,隨著iPhone的崛起,中國也逐漸培育出自身的硬件與軟件生態。
今天,人工智能時代的“iPhone”尚未問世,關鍵在于,產品必須像iPhone一樣,實現軟件、硬件與AI能力的深度整合。目前,中國在產品設計、軟件能力和AI技術方面已經位居世界一流,硬件制造能力更是超越美國,特別是依托深圳完善的產業鏈優勢。這意味著,在中國開發硬件的成本遠低于美國。我們可以以相對較低的成本、更強的“智造”實力,并以中國市場作為試驗田,進而國內、國際市場雙向布局。
此外,美國投資人更傾向于在大模型或AI應用開發方面投入大規模資金。但在AI硬件領域,美國投資機構尚未完全布局,而中國的風險投資機構,例如創新工場,則展現出更強的投資意愿。因此,AI硬件領域的重大機遇在中國。
蔣昌建:
從企業實踐的角度,無論是零一萬物還是創新工場,如果讓你給創業者提供一些經驗或教訓,你會分享什么?
李開復:人工智能領域的創業者往往是技術狂熱者。這種特質既是優勢,也是必要條件,但僅此還不夠。技術驅動型公司容易忽視商業模式,而每個企業最終都必須面對“如何盈利”這一核心問題。創業者必須對商業模式的探索抱有與技術研發同等的熱情,否則可能創造出頂尖的技術和產品,卻無法實現盈利,甚至造成巨額虧損。
一個解決方案是尋找擅長商業運營的合伙人。然而,許多頂尖科學家往往認為:“我這么聰明,招聘銷售就可以解決問題。”但事實并非如此。
在任何企業中,銷售、業務拓展與技術研發、產品創新應當處于同等重要的地位。如果技術出身的創始人未能認識到自己需要一位地位近乎平等的業務合伙人,而是過度相信“智商可以解決一切問題”,這恰恰是人工智能創業中最忌諱、也是導致最大問題的原因。
蔣昌建:
那么,要找到解決方案,你的建議是什么?
李開復:我的建議是,創業一開始就應確立這樣的認知:我需要一位能力出眾的商業合伙人。當我找到他時,他不應僅是持有1-2%股權的普通員工,而應是地位接近平等的真正合伙人。若能實現這一點,技術出身的創始人便可專注于技術研發與產品創新。
另一種可行的路徑是,尋找商業領域的頂尖人才,然后為他工作,這樣技術人才面臨的運營壓力會大幅減輕。我見證過許多人工智能公司,初期專注于技術突破,但后期卻不得不為賬期管理、客戶拓展、融資需求和上市規劃等問題所困擾。
縱觀眾多偉大企業的發展歷程:谷歌的拉里·佩奇和謝爾蓋·布林,若沒有埃里克·施密特的加入,能否成就今天的谷歌?微軟的比爾·蓋茨,當年同樣得益于史蒂夫·鮑爾默的鼎力相助。再看蘋果公司,世人都記得史蒂夫·喬布斯,但真正的技術天才是史蒂夫·沃茲尼亞克,而喬布斯則扮演了戰略家與商業伙伴的角色。
眾多成功企業的共同特征,正是由卓越的技術人才與出色的商業運營者攜手共創。創業者切記千萬不要自認才智過人,就忽視這一經過驗證的完美組合公式。
蔣昌建:
你曾對2025年做出預測。如果對2026年,或者未來三到五年的AI發展做預測,你過去定義了“AI 2.0”時代。就以此定義來說,2026年對AI 2.0意味著什么?未來3到5年會出現3.0嗎?
李開復:我認為在2026年,隨著AI 2.0技術的持續發展,將產生幾個重大機遇。
第一,多種形態的智能體將呈現爆發式增長,從最普及到最頂尖的智能體形態都將出現。這既包括人人可用的簡單智能體,也包括那些雖然速度慢、成本高但能力極強、類似深度研究(Deep Research)的智能體。這類高端智能體將成為企業戰略制定和科學研究的最佳伙伴。
第二,AI for Science將進入爆發式的發明期。在數學、生物制藥、材料科學等領域,AI可能會催生顛覆性的突破。
第三,所謂的“一人獨角獸”公司將開始涌現。當然,“一人”是夸張說法,薩姆·奧爾特曼所指的也可能是5人或10人的團隊,即少數人通過管理大量智能體,創造出獨角獸公司的價值。這種情況不僅會發生,還將快速顛覆許多傳統行業。
第四,我堅信“人工智能+”將進一步加速落地。傳統行業將認識到,AI不是客服服務或法律文檔生成器,而是用來重塑公司、改造核心業務的工具。真正的AI數智化轉型將通過CEO主導的“一把手工程”向前推進。我認為未來世界上將有超過十家公司證明,傳統公司也能成功擁抱AI,“大象也能跳舞”。
第五,基于多模態生成,娛樂行業將出現突破性創新。這一創新可能是電影、紀錄片,或者是新的商業模式。
最后是智能硬件領域。我們將會看到第一個真正的“AI-First”設備,這很可能就是未來的“iPhone”。雖然我們已經看到類似眼鏡的產品,但這可能還不是最終形態。在2026年之后,經過中國的創業浪潮,我們將看到其雛形。
04
AGI之爭:
人類會被AI碾壓,還是被增強?
蔣昌建:
如果把兩個觀點列在你面前:楊立昆(
圖靈獎得主
Yann LeCun
)認為“通用人工智能”概念不準確,因為人腦無法解決世界上所有問題,它只是在人與世界交互中解決所面對的問題;而德米斯·哈薩比斯(
諾獎得主
Demis Hassabis
)持不同觀點,他認為在漫長的進化發展中,只要人類發現問題,就能培養能力去解決它,因此也可以被通用化。這是兩種非常不同的觀點。關于通用人工智能,你站在哪個立場?
李開復:可能更接近哈薩比斯的觀點。但我并不喜歡AGI這個說法,因為它被簡單地理解為AI碾壓人類。
我更傾向于認為,今天的人類都有其獨特的特點與奧妙。我沒有足夠的信心去傲慢地認為,我們所創造的技術會反過來碾壓人類。但我可以很確定地預測,在未來兩到三年內,將出現一個“令人驚艷的AI”,它能夠完成人類90%的任務,并且比90%的人類做得更好。我認為這一定會發生。
如果這件事發生,從哈薩比斯的觀點推演,我們的世界會變得更大,人類的雄心壯志也會更大。人類的任務將不再局限于今天的一切,而是會放大100倍、1000倍。那時,人類與AI結合,由AI完成那90%的任務,而人類專注于10% AI做不了或更適合人類來做的任務。
如果我們能基于AI,在5年內將人類能創造的價值放大100倍,那已經是不可思議的成就。至于“這是不是AGI”、“AI未來能不能碾壓人類”,這些不應該是我們關注的焦點。
蔣昌建:
很多人擔憂,再過幾年,人工智能將完全擁有超過人類的智力。它不僅僅是擁有知識,去年或更早,人們發現一些人工智能已經能夠對人類進行欺騙。它不按照人類設定的任務導向執行,為了避免被人中斷任務,它可以編織任務完成的虛假情況,持續按照自己設定的目標行動。這種情況已經出現了端倪。
李開復:這是一個AI安全問題。我認為AI安全需要另一整套思維和解決方法。就像我們從PC安全到手機安全都有一套方法論,需要將其移植到AI安全領域。我們需要設立“沙盒”(Sandbox)等概念,而不是僅僅想著防止AI變得更聰明。今天所出現的這些端倪,其實最終都可以解釋為:人類給了AI一個目標,AI為了達成這個目標選擇欺騙人類。但其實這一切都可以通過安全策略、沙盒等類似方法來降低其發生概率。
蔣昌建:
你比杰弗里·辛頓(
圖靈獎得主
Geoffrey Hinton
)好像更樂觀。
李開復:我們必須這樣做。技術的發展趨勢是任何個人或群體都無法阻止的,該發生的終將發生。因此,我們必須做好充分準備,將安全措施做到極致。這樣,即使出現預料之外的情況,我們至少已經有所準備。我們不能因為未來存在某種可能的危險就停止技術開發,這種觀點是反科學、反人類的。我對技術一直持謹慎樂觀的態度,技術帶來的挑戰可以被技術解決,不能因噎廢食。
蔣昌建:
你覺得應該做哪些準備?不一定全面展開,可以舉幾個例子。
李開復:我們必須在大模型與智能體的核心框架之外,構建一套獨立的安全機制。這套機制應能主動識別風險,并在必要時觸發“紅色按鈕”,將AI系統停止或回滾至已知的安全狀態。這是典型的安全工程思維。
我們必須將安全與AI結合起來。如果僅由AI專家來負責安全,他們可能會傾向于“用AI管理AI”的思路,這在系統整體失控時將完全失效。
即便像辛頓教授這樣的先驅者所警示的風險是真實的,我們也不能因恐懼而停止技術探索。此前業界,如馬斯克也有過呼吁暫停開發的例子,但其背后動機有時更偏向商業競爭。在卡耐基梅隆大學時,辛頓教授曾是我的教授,我相信他完全沒有商業考量,他的警告純粹出于對技術風險的深切憂慮。對此,我們正確的回應應該是警醒并行動,開展安全工作,而不是停止技術研究。
只要風險在邏輯上存在,無論概率多小,我們都應將其視為行動的號令,而非退縮的理由。我們的責任是盡一切可能,在風險成為現實之前,構建起有效的防護網。當未來回望時,我們可以說,我們已為最壞的情況做了最充分的準備。
蔣昌建:
如果我們把這個問題往深處問:要避免它發生,至少要知道它為什么會發生。就像人機圍棋大戰時,第37步棋,按照人類的邏輯、思維,不會選擇那樣落子,但機器會。它的道理是什么?至今不知道。我們會發現,到了AlphaGo Zero時代,它已經不再向人類知識學習了,而是機器與機器通過博弈來學習。它可能產生一種所謂的“暗知識”(
Dark Knowledge
),即人類完全無法理解的知識。在這種情況下,我們如何判斷、識別,并在此基礎上進行控制呢?
李開復:這就需要走向“可解釋性”(Explainability)的方向,即如何讓AI變得可解釋。AI大模型內部有無數數學公式和權重,這不是人類能夠駕馭的。因此,單純解釋那些公式和權重沒有意義。但我們需要將其綜合起來,讓AI能夠用人類能理解的方式自我解釋出來。一定程度上,一年前推出的“推理引擎”(Reasoning Engine),例如當時DeepSeek-R1或 OpenAI o1開始先解釋自己的思維鏈,再回答問題,這就是邁出了第一步。我認為這項研究需要繼續下去,讓AI的可解釋性變得更好。
其次,我們需要建立一種根本性的安全假設。專業的安全工程師面對一個復雜系統時,其首要原則不是“如何理解它”或“如何制造一個更強的系統來制衡它”,而是首先“假設它本質上是不安全的”。基于這個前提,核心問題就轉變為:如何為它設計一個可靠的“籠子”?如何設定清晰的規則,確保在必要時能夠及時上鎖、關停或隔離。
這是一種截然不同的思維方式。我們無需追求構建一個永不失控的完美AI,而是應該致力于構建一個即使失控也能被有效遏制的外部框架。歷史經驗提供了參照:無論是應對“千年蟲”危機、防御網絡病毒,還是保障移動支付安全,其成功的關鍵并非徹底消除所有漏洞,而是建立了一套“不信任任何單一組件”的、具備縱深防御和快速響應能力的體系。
我認為,將這種經過驗證的安全工程思維系統性地應用于AI治理,是回應像辛頓教授這類擔憂的關鍵且必要的方向。具體的實現算法和架構需要安全專家來設計,但思維模式的轉變必須先行。
05
AI 2.0教育的范式轉移:
從“尋找答案”到“定義問題”
蔣昌建:
現在學編程還有意義嗎?像我這種文科背景的人,只要對大模型提出想法,它立刻就能用編程語言實現。我沒有任何編程背景,也不需要雇任何工程師。
李開復:我認為學習編程仍有價值,關鍵在于視角的不同。如果你認為全球編程工作的總量是一個固定的數值X,而AI編程工具能夠替代其中80%的人力工作,那么結論自然是80%的程序員將面臨失業。
然而,如果我們換一個視角:AI工具的出現并非縮減了編程需求,而是極大地擴展了編程的可能性邊界。原本的編程任務總量可能從X擴展到100倍、1000倍甚至10000倍的X。在這種情況下,我們不僅不需要減少程序員,反而需要更多具備新能力的程序員來引導和協同AI程序員工作。
但需要明確的是,能夠有效引導AI的程序員必須具備遠超當前水平的綜合能力。以你我為例,可能都尚未具備這樣的能力。
蔣昌建:
我尤其沒有,因為我沒有理工科背景。如你剛才講的,一定要“引導”。這是否意味著我們對程序員的培養和教育體系都要發生改變?
李開復:當然。
蔣昌建:
這個改變已經發生了嗎?還是說我們的教育、培訓體系還沒有跟上?
李開復:全球的教育體系都還沒跟上AI這波變革的步伐。我覺得,程序員們需要清醒認識:過去的編程和未來的編程,本質上是兩碼事。
第一,編程基本功依然是地基。這是底線,沒有它,你連AI工具都管不好、用不轉。
第二,你得懂團隊運作。光自己寫代碼不行,還要深入了解團隊怎么協同、機制怎么跑,這樣才能駕馭好一個優秀的程序員團隊。
但真正拉開差距的是第三點: 當你手下管的不再是人,而是一群AI“程序員”時,你的角色就徹底變了——你更像一個產品經理,得盯著用戶、盯著市場。這時候,光懂工程技術遠遠不夠,必須具備敏銳的產品經理視野和全局觀,才能統籌好這些AI“員工”。這種能力,放在10年前的微軟、谷歌,或者騰訊、阿里,至少是總監級別才具備的。
所以,未來的程序員,得把自己的格局拉到總監級,同時手里還得攥著硬核的編程能力。這樣一來,無論你是進大廠還是自己干,價值都能比沒有AI的時代放大10倍。
當然,我們也必須坦誠地承認,許多程序員可能并不具備相應的認知、能力或意愿來走這樣一條完全陌生的事業發展道路。因此,每個人都需要認真思考自己的定位與選擇,這比盲目奔跑更重要。
蔣昌建:
你講到擔憂,我在大學做老師,現在也非常擔憂。我不知道考試的方法是什么了。我給你舉個例子:我過去為了培養學生的批判性思維(
Critical Thinking
),采用開卷考試。但后來我發現,自從2022年12月以后,我就不再用開卷考試的形式了。你知道原因是什么嗎?
李開復:學生都用大模型來答題。
蔣昌建:
是的。我到底是在給大模型打分,還是給學生打分呢?這對我是一個非常大的挑戰。我的第二個擔憂是:每次上課時我都在觀察,同學們在聽我講課嗎?當我講概念、講原理時,你會發現他們都在埋頭苦干。他們手上有各種各樣的電子產品,可以完全不聽我的。因為他們通過大模型搜索一下知識,可能講得比我更準確、更全面。你認為,在人工智能時代,教育會是怎樣的?
李開復:我認為需要確保每個學生都能掌握一些基礎技能,因此不能完全開卷,要確保他們擁有這些必要的知識點。這一步做到之后,我認為教育的重心應轉向以下幾個方面。
首先,我們正處在一個關鍵轉型期:學生的核心能力正從“能復述已知知識”轉向“能提出關鍵問題”。因此,提出高質量問題的能力,將成為未來最核心、最需要被傳授或學生自主習得的能力。編寫提示詞(Prompt)只是這一能力的初級體現;實際上,今天的編程、產品設計乃至更廣泛的創造性工作,其底層邏輯都是與AI協作、共同定義和解決問題的過程。
基于此,教育的評估方式必須徹底革新。我們不能再依賴傳統的開卷或閉卷考試來評判學生的創造力與實踐能力。和開卷(Open Book)相比,我更主張推行一種“開放模型、開放智能體”(Open Model, Open Agent)的考評模式。在這種模式下,學生被允許使用任何AI工具、模型或智能體作為合作伙伴,他們與AI協同工作的最終成果——即共創的解決方案——將成為主要的評分依據。
相應地,評分體系本身也需要進化。教育者同樣可以借助AI來輔助評估這些復雜、開放的創造性成果,從而更高效、更客觀地衡量學生在人機協作中展現出的綜合能力。
蔣昌建:
(笑)接下來我就要挑戰你了。我試過,我要求學生可以用AI輔助開卷考試,但我要求:考試最終結果,必須經由不超過6個Prompt的過程,并且錄屏。我把整個過程作為打分的依據。但問題來了:我的工作量不是增加一兩倍,而是呈幾何級數增長,批改一份考卷的時間特別長。你給我支的招,難道是用AI代替我去給他打分嗎?
李開復:我可以支支招:先不要限制在6個Prompt。因為在真實場景中,比如昨天我在解決一個復雜的商業問題時,一共用了20輪對話才得到滿意的結果。
蔣昌建:
如果我用了10個Prompt就得到了你用20個Prompt才得到的滿意結果,我是不是應該給這個用10個Prompt的學生打高分呢?
李開復:我認為不需要。就像一場限時60分鐘的考試,不會因為有人30分鐘交卷就給予更高分數一樣,最終的評判標準始終是能否產出真正有價值的內容。因此,我的主張是:讓學生自由使用大模型等工具,然后評估他們最終得出的成果。
以我自身的經驗為例,通過精心設計的20輪提問與迭代,最終生成的內容令我很有成就感。因為我知道,如果沒有掌握與AI工具協作的方法,很難達成這樣的結果。教育的目標之一,正是要賦予學生同樣的成就感——讓他們將人機協作的成果視為自身能力的體現。因為即便給一位大學生同樣的工具,若不具備相應的提問、引導與批判性整合能力,他也無法通過20個問題得到同等質量的產出。
未來的競爭格局也將與此類似。這就像過去擁有圖書館與沒有圖書館、善用網絡搜索與不善用網絡搜索的差異一樣,最終必然是更善于駕馭工具的人勝出。大模型時代也不例外。
至于用AI輔助批改考卷,我認為這是必然趨勢。在零一萬物內部,如今比較兩套軟件的優劣、兩段代碼的質量,或是兩份產品需求文檔(PRD)的高下,都已普遍交由AI進行初步評估。人類很難獨自處理如此大量且細致的比較工作。但這并非意味著AI比人更“高明”。
因為驅動AI進行評判的提示詞(Prompt)依然由人設計,評判的標準和框架也由人設定。人類始終深度參與并主導著價值判斷的過程,AI則是一個強大的執行與放大工具。
蔣昌建:
你覺得我們的教育體系準備好迎接AI時代了嗎?
李開復:全球的教育體系都沒有準備好。
蔣昌建:
怎么辦?
李開復:我們只能多做這類對談讓大家看到(笑)。如果有一些超級天才,基于我們討論的這些方法論引導了新的變革,無論是AI for Science,還是“一人獨角獸”,這說明我們此刻的討論就是有價值的。
蔣昌建:
AI for Education(
AI賦能教育
)。
李開復:對。最終,全球的教育系統都會看到這些超級天才的事例,然后開始思考如何調整。
蔣昌建:
現在最讓你興奮的事是什么?
李開復:最讓我興奮的是,在我這個年紀,依然有機會深度參與這個時代最重要的變革。這體現在兩個方面:一是在零一萬物,我們致力于推動“人工智能+”,讓大模型真正賦能千行百業并催生新一代的偉大公司;二是在創新工場,我看到眾多優秀的創業者正迎來屬于他們的機遇與春天。能夠同時投身于這兩項事業,我感到非常振奮。
蔣昌建:
你現在最焦慮的事是什么?
李開復:焦慮在于,這個世界瞬息萬變,新思維、新知識層出不窮。我時常擔憂,沒有任何一個人能夠完全掌握這一切。我最大的困擾是時間不夠,沒有足夠的時間去吸收所有必要的養分。
蔣昌建:所以與30年前的自己,或是與當下的年輕人相比,你會有力不從心的感覺嗎?
李開復:這并非力不從心,而更像是看清了宇宙的浩瀚。我能做的,是在有限的時間里,聚焦于那些對我的事業最有幫助的知識,并匯聚一批志同道合者,去攻克那些我們力所能及、或許相對微小的問題。即便如此,如果能通過這些事為AI的發展乃至整個人類社會貢獻一點價值,就已經足夠。
蔣昌建:
最后一個問題:你認為在這個時代,年輕人應具備怎樣的AI素養?
李開復:第一,重新定義AI:它不只是工具,而是一種底層的思維方式。你需要把它放到思考與行動的中心,用AI的邏輯去重構工作流,而不是把它當個外掛插件。
第二,務實落地:在你的專業領域內,具體有哪些AI工具是必須去擁抱和掌握的?想清楚這個問題,然后動手去學、去用,別停留在概念層面。
第三,心態調適:絕對不要畏懼AI。一旦怕了,你就會下意識把它當成對手,或者整天擔心被取代。這種心態會讓你本能地排斥它,最終錯過機會。
說到底,AI為人類創造的整體價值是巨大的。
如果你今天選擇忽視它,就好比30年前想當記者卻不會用Word,15年前想成為攝影師卻不會用Photoshop——不是工具淘汰你,而是時代淘汰不用工具的人。
蔣昌建:
大家難免會思考“AI會不會取代我的工作”。
李開復:但更重要的是多想一步:如果AI能將世界創造的價值放大百倍,那么在這片廣闊的新價值空間中, 我的坐標在哪里?我與AI共同創造的那一部分,又在哪里?這才是問題的關鍵。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.