資料圖。本文來(lái)源：北京商報(bào)、中國(guó)國(guó)創(chuàng)會(huì)

本賬號(hào)接受投稿，投稿郵箱：jingjixuejiaquan@126.com

蘇煒杰資料圖。本文來(lái)源：量子位

本賬號(hào)接受投稿，投稿郵箱：jingjixuejiaquan@126.com

蘇煒杰：AI需要一門新的數(shù)學(xué)語(yǔ)言

哪些AI均衡點(diǎn)我們絕對(duì)不想要？

量子位：恭喜獲獎(jiǎng)。這是針對(duì)您過(guò)去一系列貢獻(xiàn)頒發(fā)的獎(jiǎng)，如果讓您自己選一篇最滿意的工作，會(huì)是哪篇？

蘇煒杰：最滿意的不好說(shuō)，但最有趣的有一篇。ICML最近有一個(gè)改動(dòng)，要求作者自己對(duì)投稿論文做一個(gè)質(zhì)量排序。

這個(gè)做法，其實(shí)和我五年前的一篇論文有關(guān)。核心觀點(diǎn)大致是：既然作者往往是自己論文最好的審稿人，何不引入一種由作者本人參與的評(píng)分機(jī)制？

這篇論文的ROI很高。從有想法到寫完，總共不到兩周，時(shí)間主要花在語(yǔ)言潤(rùn)色和補(bǔ)充文獻(xiàn)上，那還是在ChatGPT出現(xiàn)之前。

放在現(xiàn)在，可能兩天就能寫完。

量子位：這篇論文的核心思路涉及博弈論，和經(jīng)濟(jì)學(xué)相關(guān)。您在本科階段也有經(jīng)濟(jì)學(xué)背景，當(dāng)時(shí)怎么會(huì)對(duì)經(jīng)濟(jì)學(xué)感興趣？

蘇煒杰：其實(shí)最開(kāi)始并不是出于興趣。我在北大的時(shí)候主修數(shù)學(xué)，之所以修了經(jīng)濟(jì)學(xué)雙學(xué)位，是因?yàn)楫?dāng)時(shí)的女朋友（即現(xiàn)在的妻子）選了這個(gè)項(xiàng)目。

她偏文科。經(jīng)濟(jì)學(xué)雖然屬于文科，但需要高數(shù)、概率論等基礎(chǔ)，所以她希望我也一起學(xué)，互相支持。

但后來(lái)發(fā)現(xiàn)，經(jīng)濟(jì)學(xué)讓我學(xué)會(huì)一種不同于純數(shù)學(xué)的思維方式。

學(xué)純數(shù)學(xué)，很容易形成一種確定性的世界觀：世界是完備的、有結(jié)構(gòu)的，可以用精確語(yǔ)言描述；如果暫時(shí)無(wú)法刻畫，那是我們的數(shù)學(xué)工具還不夠成熟。

接觸經(jīng)濟(jì)學(xué)之后，會(huì)意識(shí)到真實(shí)世界并不具備那樣的確定性。世界是混沌的，很多問(wèn)題只能做近似描述，終極理性往往不存在，或永遠(yuǎn)無(wú)法逼近。

量子位：如今的AI同樣很難完全用純數(shù)學(xué)解釋清楚。您覺(jué)得經(jīng)濟(jì)學(xué)思維，對(duì)您現(xiàn)在的研究有什么影響？

蘇煒杰：我的核心訓(xùn)練仍然是數(shù)學(xué)、統(tǒng)計(jì)和優(yōu)化，但經(jīng)濟(jì)學(xué)會(huì)讓你更關(guān)注「人」這個(gè)共同體。經(jīng)濟(jì)學(xué)研究的本質(zhì)，是人的行為，以及人在制度和市場(chǎng)中的互動(dòng)。

我們組里有一部分研究，就是從經(jīng)濟(jì)學(xué)視角出發(fā)，討論AI對(duì)齊在人類社會(huì)結(jié)構(gòu)中的意義。

AI未來(lái)會(huì)全方位影響人類社會(huì)。現(xiàn)在大家更多討論的是個(gè)人用戶怎么做agent、怎么讓個(gè)人更滿意，但AI對(duì)社會(huì)的影響是什么、會(huì)怎樣演化，這更接近經(jīng)濟(jì)學(xué)研究的范疇。

AI由人類數(shù)據(jù)訓(xùn)練而來(lái)，會(huì)繼承人類偏好。另一方面，越來(lái)越多年輕人開(kāi)始用AI，這一過(guò)程中，AI的價(jià)值觀也在反過(guò)來(lái)影響人類。

所以問(wèn)題來(lái)了：現(xiàn)有算法，能不能把這些偏好完整、準(zhǔn)確地轉(zhuǎn)移到AI里？

我們希望AI對(duì)齊人類偏好。但這些偏好如何定義？如何聚合？

主流方案還是獎(jiǎng)勵(lì)模型配合強(qiáng)化學(xué)習(xí)，把偏好的信息結(jié)構(gòu)都編碼進(jìn)去。不過(guò)，目前常用的一些相對(duì)簡(jiǎn)單的統(tǒng)計(jì)模型，沒(méi)法完美表達(dá)真實(shí)的人類偏好。

我們有一項(xiàng)工作討論了投票悖論：當(dāng)候選項(xiàng)至少有三個(gè)時(shí)，群體偏好可能出現(xiàn)循環(huán)——A優(yōu)于B、B優(yōu)于C、C又優(yōu)于A。

這種情況下，現(xiàn)有損失函數(shù)或獎(jiǎng)勵(lì)模型是有缺口的。如果這種偏差長(zhǎng)期存在，可能會(huì)把AI的偏好推向某個(gè)不確定方向，最后收斂到一個(gè)我們不希望看到的均衡點(diǎn)。

量子位：那最終應(yīng)該達(dá)到的均衡點(diǎn)在哪里？「人類偏好」至今也沒(méi)有統(tǒng)一定義，不同國(guó)家對(duì)善惡的判斷標(biāo)準(zhǔn)都不一樣。

蘇煒杰：的確，偏好不存在絕對(duì)客觀、唯一最優(yōu)的標(biāo)準(zhǔn)。

但可以確定的是：哪些偏好我們不會(huì)想看到？

我舉個(gè)例子。AI領(lǐng)域論文審稿正在逐步滑向一個(gè)不太好的平衡點(diǎn)。

以前論文少、節(jié)奏慢，一個(gè)人一年審幾篇，大家還是愿意花時(shí)間把審稿做好。

但現(xiàn)在投稿太多了、審稿人又太少。很多人覺(jué)得自己的論文被一些不認(rèn)真、質(zhì)量不高的審稿意見(jiàn)影響了，于是會(huì)想：憑什么我要認(rèn)真審別人的論文？

當(dāng)越來(lái)越多人都有這種想法，他們自己當(dāng)審稿人時(shí)也不會(huì)認(rèn)真投入，結(jié)果就是惡性循環(huán)，審稿質(zhì)量越來(lái)越差。

量子位：用AI審稿會(huì)是一個(gè)好的解決方案嗎？

蘇煒杰：人類審稿有個(gè)常見(jiàn)問(wèn)題：審稿人說(shuō)作者「沒(méi)做某件事」，但其實(shí)論文在別的段落已經(jīng)寫了，只是審稿人沒(méi)看到。

我今年也在ICML委員會(huì)負(fù)責(zé)相關(guān)工作，根據(jù)經(jīng)驗(yàn)和數(shù)據(jù)來(lái)看，AI在「信息抓取」類任務(wù)上往往優(yōu)于人。

不過(guò)，現(xiàn)在很多人習(xí)慣把審稿「托管」給AI，讓它直接生成審稿意見(jiàn)。

這里面還有個(gè)問(wèn)題：市面上主流的AI就那么幾個(gè)。

審稿的一個(gè)重要價(jià)值是多樣性。不同審稿人從不同經(jīng)驗(yàn)和偏好出發(fā)，能看到論文的不同面向。

如果大家都用一樣的AI來(lái)審稿，意見(jiàn)就會(huì)千篇一律，這件事就沒(méi)意義了。

幻覺(jué)的問(wèn)題則更加嚴(yán)峻。

學(xué)術(shù)有個(gè)特點(diǎn)——論文是寫給未來(lái)的。

每一篇論文不是寫完就結(jié)束，它會(huì)存檔，掛在數(shù)據(jù)庫(kù)里，很多年后都還可能被引用。

所以學(xué)術(shù)對(duì)信息準(zhǔn)確性的要求非常高。幻覺(jué)如果出現(xiàn)在某一篇論文里，后續(xù)被重復(fù)引用幾十次，可能會(huì)被當(dāng)作既定事實(shí)。這對(duì)人類知識(shí)傳承是很可怕的。

實(shí)話說(shuō)，今年我們已經(jīng)看到不少論文明顯是AI生成的，關(guān)鍵是其中引用的文獻(xiàn)根本搜不到。

其他部分作者還可能辯解說(shuō)：「我只是寫作風(fēng)格像AI。」但文獻(xiàn)不存在這種事，是沒(méi)辦法辯駁的。

學(xué)術(shù)通常被認(rèn)為是人類智力活動(dòng)密度最高的領(lǐng)域之一。當(dāng)這個(gè)領(lǐng)域都開(kāi)始讓人類退場(chǎng)，這是個(gè)非常危險(xiǎn)的信號(hào)。

像「剝洋蔥」一樣優(yōu)化AI黑盒

量子位：您在之前的訪談中經(jīng)常提到「可解釋性」和「可信部署」。這方面最近有什么研究進(jìn)展嗎？

蘇煒杰：坦白說(shuō)，我在可解釋性方面直接做得不算多。有一些朋友在做機(jī)制可解釋性（Mechanistic Interpretability），我非常敬佩他們的工作。

我對(duì)這個(gè)領(lǐng)域的前景持謹(jǐn)慎態(tài)度，但我希望我的判斷是錯(cuò)的。

想把AI從「黑盒」變成「白盒」，徹底理解它的內(nèi)部機(jī)制，可能需要先重新定義什么是「理解」。

以往我們談理解，比如理解物理現(xiàn)象，可被逼近的。

比夸克更小的基本粒子是什么？暫時(shí)不清楚，更多是因?yàn)橹R(shí)和工具還不夠。隨著技術(shù)發(fā)展，這類問(wèn)題的「理解」難度是會(huì)降低的。

但AI的發(fā)展目標(biāo)從來(lái)就不是為了「可解釋性」。更強(qiáng)能力的背后是Scaling，而模型越大，可解釋性往往越弱。

另一方面，如果AI想做到可解釋，那么人類大腦應(yīng)該也是可解釋的。

我們研究人類大腦已經(jīng)兩千多年了，至今也沒(méi)完全弄明白。憑什么認(rèn)為一個(gè)生物大腦能完全理解另一個(gè)「硅基大腦」？何況這個(gè)硅基大腦還在變得越來(lái)越復(fù)雜。

或許我們可以換個(gè)思路：從「表現(xiàn)」出發(fā)。

對(duì)AI的行為做更準(zhǔn)則化的刻畫，在這些準(zhǔn)則下，對(duì)不確定性做概率或統(tǒng)計(jì)意義上的描述，建立可用的規(guī)范。

這樣，即便沒(méi)法完全理解內(nèi)部機(jī)制，也能在現(xiàn)實(shí)部署中更好地控制風(fēng)險(xiǎn)。在這方面，統(tǒng)計(jì)學(xué)和運(yùn)籌學(xué)會(huì)有很大的發(fā)揮空間。

以我們做的偏好對(duì)齊工作為例。這類任務(wù)不像數(shù)學(xué)證明那樣可以驗(yàn)證為真或假，很多時(shí)候，它是在A和B之間形成一個(gè)概率分布。

因此，我們干脆從一開(kāi)始就把Transformer當(dāng)作黑盒，不關(guān)心其內(nèi)部具體機(jī)制，而是把它視為一個(gè)概率輸出器：給定輸入，它輸出落在A與B之間的概率。

然后我們?cè)O(shè)計(jì)損失函數(shù)，讓這個(gè)概率分布的最優(yōu)解達(dá)到我們希望的目標(biāo)。這個(gè)過(guò)程不需要理解神經(jīng)網(wǎng)絡(luò)的內(nèi)部結(jié)構(gòu)，把它當(dāng)作黑盒來(lái)優(yōu)化就可以。

我現(xiàn)在更傾向于把可解釋性看作「剝洋蔥」。

神經(jīng)網(wǎng)絡(luò)是黑盒，但它不是一整塊不可穿透的黑鐵，它更像由很多層黑紗布疊在一起。疊得越多，整體看起來(lái)越黑。但單獨(dú)看每一層，它可能還能透過(guò)百分之七八十的光。

人腦很難做清晰的層次劃分，但神經(jīng)網(wǎng)絡(luò)是分層結(jié)構(gòu)。我們可以像剝洋蔥一樣，將神經(jīng)網(wǎng)絡(luò)一層層剝開(kāi)。

但沒(méi)必要全剝開(kāi)。一個(gè)20層的網(wǎng)絡(luò)，也許剝開(kāi)兩三層就能得到很多線索。底層的部分，更多是在做細(xì)碎的特征提取，沒(méi)必要理解，也理解不了。

當(dāng)然，有些情況還是要多剝幾層。

我有位做對(duì)齊的朋友之前說(shuō)，有時(shí)候兩個(gè)模型看起來(lái)對(duì)齊程度差不多，其實(shí)內(nèi)部的對(duì)齊模式完全不一樣。一個(gè)是真正「認(rèn)同」并內(nèi)化了對(duì)齊目標(biāo)，另一個(gè)可能只是裝的。

這種情況的確需要多剝幾層才能看得更清楚，但也沒(méi)必要完全白盒化，難度太大。

未來(lái)學(xué)術(shù)界需要做的，是在「有限黑盒」的條件下，把機(jī)制層面的證據(jù)和行為層面的表現(xiàn)結(jié)合起來(lái)，找到一個(gè)相對(duì)平衡的方案。

如何把隱私保護(hù)變成一種「內(nèi)生動(dòng)力」？

量子位：隱私保護(hù)是您深耕的領(lǐng)域，為什么會(huì)關(guān)注這個(gè)方向？有沒(méi)有一個(gè)具體契機(jī)？

蘇煒杰：契機(jī)在2014年暑假。當(dāng)時(shí)我讀博第三年，去微軟研究院硅谷分部實(shí)習(xí)，跟著Cynthia Dwork做研究。

Cynthia是差分隱私的提出者之一。在她的引導(dǎo)下，我很自然地進(jìn)入了這個(gè)領(lǐng)域。她經(jīng)常從第一性原理，甚至從倫理學(xué)的角度去理解隱私，這對(duì)我沖擊很大：生活中一個(gè)相對(duì)「軟」的概念，竟然能用嚴(yán)謹(jǐn)?shù)臄?shù)學(xué)語(yǔ)言講清楚。

我的意思是，這個(gè)領(lǐng)域能從偏社會(huì)、偏經(jīng)濟(jì)學(xué)的問(wèn)題出發(fā)，最后延展到非常理論化、數(shù)學(xué)化的定義。跨度特別大，能同時(shí)連接機(jī)器學(xué)習(xí)、統(tǒng)計(jì)、數(shù)學(xué)、理論計(jì)算機(jī)等多個(gè)學(xué)科，匯集很多不同背景的人。

差分隱私在相對(duì)傳統(tǒng)的機(jī)器學(xué)習(xí)場(chǎng)景里用得很成功。它的基本思想是：數(shù)據(jù)集中某一個(gè)人的數(shù)據(jù)發(fā)生變化（比如把張三換成李四），算法的輸出不要有太大變化。 這樣外界就很難從輸出結(jié)果反推出到底是張三還是李四。

在傳統(tǒng)機(jī)器學(xué)習(xí)里，這種依賴關(guān)系相對(duì)容易刻畫。比如用影響函數(shù)（Influence Function）之類的方法，可以清楚地描述某個(gè)數(shù)據(jù)點(diǎn)對(duì)模型輸出的影響。既然依賴關(guān)系能刻畫，就可以通過(guò)加噪音，把張三和李四帶來(lái)的差異「抹平」。

但進(jìn)入神經(jīng)網(wǎng)絡(luò)時(shí)代后，隱私保護(hù)遇到了很大挑戰(zhàn)。核心原因還是黑盒：訓(xùn)練數(shù)據(jù)集與模型輸出之間的關(guān)系很難精確刻畫。

你對(duì)數(shù)據(jù)集做一點(diǎn)變化，比如新增一個(gè)人，或者把一個(gè)人替換成另一個(gè)人，神經(jīng)網(wǎng)絡(luò)的輸出預(yù)測(cè)會(huì)怎么變化，很難描述。

所以差分隱私那套理論現(xiàn)在很難直接用，往往需要加過(guò)大噪音來(lái)保證隱私，結(jié)果就是模型能力下降。

量子位：網(wǎng)上有不少意見(jiàn)領(lǐng)袖，尤其是極客群體，會(huì)覺(jué)得隱私是偽需求。認(rèn)為只要效用足夠大，比如把所有數(shù)據(jù)都交給OpenClaw，它真能變成「賈維斯」，那隱私成本是可以接受的。

蘇煒杰：短期看，這種想法確實(shí)有其道理。把更多信息交給AI，它對(duì)你理解更深，給出的建議更準(zhǔn)確、更貼合，你做決定也更省事。

但長(zhǎng)期來(lái)看，這更像是一個(gè)社會(huì)學(xué)事件。也許要等到某一天，隱私泄露造成了非常嚴(yán)重的后果，大家才會(huì)反應(yīng)過(guò)來(lái)。

以前在搜索引擎時(shí)代，你輸入的信息相對(duì)有限，通常只是關(guān)鍵詞。但現(xiàn)在這些AI公司對(duì)人的理解越來(lái)越私人化和全方位。這種潛在的濫用風(fēng)險(xiǎn)是巨大的。

量子位：安全配套往往滯后于技術(shù)發(fā)展，如果想讓隱私保護(hù)跟上技術(shù)進(jìn)展，有什么可行措施？把隱私當(dāng)成商業(yè)化方向，通過(guò)商業(yè)驅(qū)動(dòng)讓更多人參與，會(huì)不會(huì)更現(xiàn)實(shí)？

蘇煒杰：可以從三點(diǎn)來(lái)談。

第一，更分層、更分級(jí)的隱私目標(biāo)，而不是一刀切。

差分隱私很強(qiáng)，有時(shí)甚至過(guò)于強(qiáng)。把隱私保護(hù)放在絕對(duì)第一位，在很多場(chǎng)景下其實(shí)不太現(xiàn)實(shí)。

是否可以找到一個(gè)中間地帶？部分隱私在一定范圍內(nèi)允許暴露，但在一些更關(guān)鍵、更敏感、涉及安全或重大經(jīng)濟(jì)后果的領(lǐng)域，把控得更嚴(yán)格一些。

第二，從社會(huì)層面還是要持續(xù)強(qiáng)調(diào)隱私的重要性。

AI發(fā)展是當(dāng)務(wù)之急，很難單純用隱私去約束參與者，讓大家不要做AI。

但不能忘記這個(gè)共識(shí)：隱私是重要的。 我們也許在當(dāng)下會(huì)做一些權(quán)衡，甚至做一些妥協(xié)，但不能把這種妥協(xié)包裝成「完備的選擇」，從而放棄了追求更好的保護(hù)。

第三，設(shè)計(jì)一種類似區(qū)塊鏈的激勵(lì)結(jié)構(gòu)，將隱私保護(hù)從「外部要求」轉(zhuǎn)化為「內(nèi)生動(dòng)力」。

不要指望公司靠道德自覺(jué)。從商業(yè)運(yùn)作規(guī)律來(lái)看，只有當(dāng)「保護(hù)隱私對(duì)公司有利」，有助于實(shí)現(xiàn)公司自身利益最大化時(shí)，它自然就會(huì)去做。

關(guān)鍵在于：如何把隱私變成一種「可交易的價(jià)值」，讓公司主動(dòng)去保護(hù)隱私？

比特幣是個(gè)很典型的例子。它是靠機(jī)制設(shè)計(jì)，讓參與者在追求自身利益的同時(shí)，讓整個(gè)系統(tǒng)自然運(yùn)轉(zhuǎn)起來(lái)。

如果我們也能設(shè)計(jì)出類似的機(jī)制，讓保護(hù)隱私成為企業(yè)利益的一部分，問(wèn)題就迎刃而解了。

AI需要一套全新的數(shù)學(xué)語(yǔ)言

量子位：您在一次訪談中引用過(guò)一句話：「There’s nothing more practical than a good theory」（沒(méi)有什么比好的理論更實(shí)用）。

聽(tīng)起來(lái)挺反直覺(jué)的。當(dāng)「理論」和「實(shí)踐」放在一起時(shí)，理論往往顯得不那么「實(shí)用」。

蘇煒杰：在AI這樣一個(gè)全球可能有數(shù)千萬(wàn)人參與的宏大系統(tǒng)中，不存在某一種范式絕對(duì)優(yōu)于另一種。

計(jì)算機(jī)背景的人在參與，數(shù)學(xué)背景的人在參與，經(jīng)濟(jì)學(xué)家也在參與；計(jì)算機(jī)內(nèi)部又細(xì)分為理論、工程、硬件等多個(gè)方向。大家都是從不同角度、用不同手段推進(jìn)同一件事，沒(méi)有誰(shuí)比誰(shuí)更高明之分。

但在當(dāng)下的AI發(fā)展進(jìn)程中，具備扎實(shí)理論訓(xùn)練、特別是深厚數(shù)學(xué)背景的人才，參與比例相對(duì)偏少。

我觀察到的部分原因是：這些同學(xué)覺(jué)得AI缺乏純數(shù)學(xué)那種特有的「優(yōu)美感」。

這很正常，我學(xué)生時(shí)代也有這種想法。但隨著年齡增長(zhǎng)，人往往也會(huì)開(kāi)始在意自己所做的事情對(duì)社會(huì)、對(duì)整個(gè)人類的影響力。

換個(gè)角度看，正因?yàn)锳I現(xiàn)在看起來(lái)還「不夠優(yōu)美」，它才更有機(jī)會(huì)被變得更「優(yōu)美」。

人類現(xiàn)有的大部分?jǐn)?shù)學(xué)體系，其實(shí)是伴隨物理學(xué)發(fā)展起來(lái)的。18到20世紀(jì)的許多數(shù)學(xué)結(jié)構(gòu)，與牛頓力學(xué)、電磁學(xué)、相對(duì)論、量子力學(xué)等物理理論相互促進(jìn)，形成了今天這套非常成熟的語(yǔ)言。

AI可能就是一種「新的物理」，而且它在結(jié)構(gòu)上與傳統(tǒng)物理很不一樣。

物理學(xué)更像是一個(gè)從底層機(jī)制出發(fā)決定宏觀行為的過(guò)程，是「從小到大」；

而AI更多是從大到小：先設(shè)計(jì)一個(gè)大框架，比如Transformer有幾層、層與層怎么連接，先定下宏觀結(jié)構(gòu)，再在訓(xùn)練過(guò)程中逐步確定每一個(gè)參數(shù)。

這也解釋了為什么如今AI在理論方向相對(duì)滯后：未必是做AI理論的人不夠聰明，而是我們現(xiàn)有的數(shù)學(xué)語(yǔ)言，可能本來(lái)就不太適合描述AI。

所以我希望未來(lái)會(huì)有更多受過(guò)基礎(chǔ)數(shù)學(xué)、純數(shù)學(xué)訓(xùn)練的人進(jìn)入AI領(lǐng)域，去逐步創(chuàng)造一套更適合AI的數(shù)學(xué)框架。

這件事的影響力將非常巨大，其意義不會(huì)低于經(jīng)典力學(xué)或相對(duì)論。

量子位：您會(huì)建議大學(xué)生多參加產(chǎn)業(yè)界的活動(dòng)嗎？比如去OpenAI、谷歌實(shí)習(xí)。

蘇煒杰：如果有機(jī)會(huì)，當(dāng)然很好。但現(xiàn)在去大廠實(shí)習(xí)的門檻越來(lái)越高了。

這個(gè)時(shí)代信息獲取的成本其實(shí)很低。如果目的是更好地了解AI，完全可以去修幾門計(jì)算機(jī)相關(guān)課程，或者找做AI的同學(xué)聊一聊。

自己部署一個(gè)開(kāi)源模型也不難，親手搭建一個(gè)Agent，那種體驗(yàn)跟只在網(wǎng)頁(yè)端對(duì)話完全不同，會(huì)讓你的理解更加立體。

我也鼓勵(lì)大家多關(guān)注新聞媒體的AI報(bào)道，最好每天都看。AI的發(fā)展節(jié)奏非常快，幾天就可能有明顯變化。看得多了，你自然會(huì)對(duì)趨勢(shì)有把握，也更容易產(chǎn)生興趣。

量子位：現(xiàn)在很多人不愿意繼續(xù)深造讀博；就算讀了，也有人會(huì)選擇輟學(xué)，轉(zhuǎn)去大廠做研究。

蘇煒杰：在AI的沖擊下，一些學(xué)校，尤其是排名不高的學(xué)校的價(jià)值確實(shí)會(huì)受到質(zhì)疑。如果僅僅是為了「學(xué)東西」，這種價(jià)值在當(dāng)下可能沒(méi)那么稀缺了。

AI這個(gè)領(lǐng)域很結(jié)果至上：只要你做出成績(jī)，很快就能獲得認(rèn)可。你在GitHub上做出一個(gè)好項(xiàng)目，很快就能被全世界看到。

事實(shí)上，一些AI的關(guān)鍵技術(shù)，包括我自己關(guān)注的優(yōu)化器方向，很多都是本科學(xué)歷的人做出來(lái)的。

說(shuō)實(shí)話，這讓學(xué)界有點(diǎn)汗顏。按過(guò)去的經(jīng)驗(yàn)，這類工作往往需要比較系統(tǒng)的博士訓(xùn)練才能產(chǎn)出。

但這種模式也存在隱患。現(xiàn)在很多論文作者是獨(dú)立研究者（Independent Researcher），不在學(xué)校體系內(nèi)。

這類論文常見(jiàn)的特點(diǎn)是想法天馬行空；但有時(shí)錯(cuò)誤也很多，論證漏洞和誤差比較夸張，質(zhì)量上下波動(dòng)極大。

學(xué)校的反饋還是很重要，老師指導(dǎo)、考試機(jī)制，這些都會(huì)給你反饋，讓你清楚自己掌握到了什么程度。

很多人覺(jué)得自己跟AI對(duì)話、靠AI學(xué)習(xí)就「學(xué)會(huì)了」，但其實(shí)基礎(chǔ)沒(méi)打牢，并沒(méi)有真正懂。

量子位：學(xué)校里有老師、有考試，可以判斷學(xué)生掌握得扎不扎實(shí)。但產(chǎn)業(yè)界也有反饋機(jī)制，能提供更多的算力，讓學(xué)生更快驗(yàn)證想法。

蘇煒杰：我覺(jué)得這也不是完全的競(jìng)爭(zhēng)關(guān)系。無(wú)論如何，初等教育階段仍然需要在學(xué)校體系里完成，這是基礎(chǔ)。

另外，大廠也不是擁有無(wú)限算力。公司層面雖然不缺卡，但落實(shí)到具體的研究員或團(tuán)隊(duì)，資源依然是有限的，內(nèi)部也存在競(jìng)爭(zhēng)，并不是每個(gè)人都可以隨時(shí)拿到無(wú)限量的算力。

如果讓我給建議：在美國(guó)這邊，我更傾向于建議學(xué)生先把課好好上完，不要高中畢業(yè)就直接去公司做AI。

國(guó)內(nèi)的話，目前對(duì)學(xué)歷的重視程度總體還是比較高，但如果你真的覺(jué)得自己準(zhǔn)備好了，也可以勇敢一點(diǎn)。

量子位：您現(xiàn)在在實(shí)際生活中會(huì)用AI嗎？在您數(shù)學(xué)研究的工作流里，它的幫助程度怎么樣？

蘇煒杰：幫助越來(lái)越大。兩年前ChatGPT剛出來(lái)時(shí)，我們主要用它做文字修飾。

但現(xiàn)在不一樣了。AI在學(xué)術(shù)上已經(jīng)可以扮演一個(gè)很好的「隨身合作者」。

這里的「合作者」不是指科研完成后再交給它提建議，而是當(dāng)你做到一半、甚至還沒(méi)成形時(shí)，就可以隨時(shí)拿一個(gè)想法與它交流：這個(gè)方向行不行？這樣做有沒(méi)有漏洞？有沒(méi)有更好的途徑？

有時(shí)，它給出的反饋甚至?xí)淖兾以瓉?lái)的思路。

量子位：這幾年學(xué)術(shù)界和產(chǎn)業(yè)界好像走得越來(lái)越遠(yuǎn)，很多學(xué)術(shù)人才也被吸到產(chǎn)業(yè)界。這種背景下，學(xué)術(shù)界有什么可以做的嗎？

蘇煒杰：學(xué)術(shù)界確實(shí)受到了很大沖擊。博士生更愿意去業(yè)界，留下來(lái)走學(xué)術(shù)路線的人比以前少了很多。但我覺(jué)得這可能只是個(gè)短期現(xiàn)象。

正如Ilya所說(shuō)，Scaling Law帶來(lái)的邊際收益在下降，這是一個(gè)比較明確的趨勢(shì)。

當(dāng)Scaling的空間因?yàn)槲锢硐拗啤⒊杀鞠拗贫y以繼續(xù)擴(kuò)張時(shí)，大家就必須回到算法和結(jié)構(gòu)上來(lái)——怎么在不增加數(shù)據(jù)、不增加算力的前提下，把現(xiàn)有資源用得更好？

這類在資源受限條件下尋求改進(jìn)的范式，恰恰是學(xué)術(shù)界更擅長(zhǎng)的。

量子位：AI時(shí)代的學(xué)生，最重要的特質(zhì)是什么？

蘇煒杰：說(shuō)實(shí)話，絕大多數(shù)大學(xué)現(xiàn)有的培養(yǎng)模式，不太適合AI時(shí)代。這也導(dǎo)致在美國(guó)這邊，本科生就業(yè)沖擊很大，很多人找不到工作。

陶哲軒最近在訪談中提到，數(shù)學(xué)學(xué)科的教學(xué)方式兩百年幾乎沒(méi)變。他拿出兩百年前柯西的教材，和今天的教材差別不大。

但AI會(huì)迫使這種局面改變。

人類在學(xué)習(xí)純理論學(xué)科時(shí)，很多細(xì)節(jié)、偏技術(shù)的部分，可能會(huì)逐步轉(zhuǎn)交給AI。基本功仍然需要，但什么叫「基本功」可能要重新定義，因?yàn)槿嗽谑炀毝壬喜豢赡艹^(guò)AI。

被動(dòng)學(xué)習(xí)和主動(dòng)學(xué)習(xí)的差距會(huì)越來(lái)越大。

過(guò)去在學(xué)校上課，差距沒(méi)那么夸張，因?yàn)檎n堂的信息量有限，人與人之間的差異不會(huì)拉開(kāi)到幾個(gè)數(shù)量級(jí)。

但在AI時(shí)代，如果只是坐著聽(tīng)課，和那些主動(dòng)探索，甚至自己利用AI創(chuàng)造工具的人相比，信息上限差太多了，未來(lái)的發(fā)展可能會(huì)差出好幾倍。■

掃碼入群可參加全年至少12場(chǎng)精彩閉門研討