20 年內(nèi) AI 將勝任所有電腦智力工作，我們根本沒準(zhǔn)備好。

編譯 | 王啟隆

出品丨AI 科技大本營（ID：rgznai100）

過去幾年里，AI 教父 Geoffrey Hinton 最常被外界記住的，是他不斷對 AI 風(fēng)險發(fā)出警告：離開 Google、公開談更強(qiáng)模型的危險、提醒人們不要把能力躍遷誤當(dāng)成純粹的產(chǎn)品升級。

在 3 月加拿大多倫多最新的公開對談里，他把那條線又往前推了一步。真正讓他反復(fù)回到的一件事，已經(jīng)不只是“模型會不會越來越強(qiáng)”，而是：當(dāng) AI 開始進(jìn)入工作、教育、醫(yī)療、陪伴關(guān)系乃至軍事用途時，公司、政府和整套政治系統(tǒng)，到底有沒有準(zhǔn)備好承接后果。

這也是這場對話最值得看的地方。Hinton 當(dāng)然還是在解釋神經(jīng)網(wǎng)絡(luò)、反向傳播和語言模型到底怎么工作，也還是會用他熟悉的方式，一層一層把技術(shù)講清楚；但另一邊，他說得越來越直白：當(dāng)主持人 Amber Mac 問他 “AI 會不會拿走我的工作” 時，Hinton 只回了一個詞：“會。”

而在那個短得幾乎像玩笑的回答背后，他真正展開的，是一整套更難回答的問題，并為新時代 AI 的運作機(jī)制進(jìn)行了一次堪稱“知識掃盲”的詳細(xì)講解。

要點速覽

• “我以前很喜歡 ChatGPT，但我準(zhǔn)備轉(zhuǎn)去用 Claude，因為 Sam Altman 在道德上的彈性，對我來說有點太大了?！?/p>

• 在未來二十年內(nèi)，通用型人工智能很可能可以勝任幾乎所有人類在電腦上完成的智力工作。

• 在醫(yī)療和教育這類“彈性市場”里，AI 更可能帶來的是服務(wù)能力的擴(kuò)張，而不是簡單取代。

• 很多人以為現(xiàn)在的大模型還是在“預(yù)測下一個詞”，但早就不是了。今天的系統(tǒng)更像我們生成語言的方式。

• 理解一句話這件事，實際上更像是蛋白質(zhì)折疊，而不是把一種語言翻譯成另一種內(nèi)部邏輯語言。

• 對未經(jīng)充分測試就推向社會的聊天機(jī)器人產(chǎn)品，應(yīng)當(dāng)承擔(dān)明確的法律責(zé)任。

• 中國可能會把這件事管理得更好。他們至少會去擔(dān)心那些工人會怎么樣，他們對這件事的關(guān)注，可能比這里的大型科技公司強(qiáng)得多。

以下是這場對談的翻譯。

不再使用 ChatGPT

主持人：我想先從一個稍早的話題問起：你當(dāng)初為什么會來到加拿大？我們 2019 年也聊過這個問題。到底是什么把你帶到了這個國家？

Geoffrey Hinton：我當(dāng)時在美國的卡內(nèi)基梅隆大學(xué)工作，研究進(jìn)展非常順利。但我對里根政府針對尼加拉瓜的政策感到很不開心。我認(rèn)為在尼加拉瓜港口布雷是一件很糟糕的事，而我在匹茲堡的很多同事卻覺得這完全合理，因為那是“美國的半球”，美國就該管。我覺得這很可怕。誰能想到后來會變成這樣。

主持人：就像我說的，這些年變化太大了。我們當(dāng)年還聊過 AI 戰(zhàn)爭。我要讀一段你在 2019 年說過的話：你當(dāng)時說，“我覺得這很可怕，自主武器已經(jīng)近在眼前。” 其實在很多人開始公開談這些威脅之前，你就已經(jīng)在發(fā)出警告了。

Geoffrey Hinton：其實更早在發(fā)出警告的人是 Stuart Russell。所以在 AI 安全這件事上，我算是來得比較晚。我的很多同事早在十多年前就開始認(rèn)真思考這個問題了。我只是運氣比較好，大家愿意聽我說話，但我并不是最早那批人。

主持人：那你怎么看 2026 年的 AI 安全處境？顯然你仍然有很多擔(dān)憂，而且現(xiàn)在很多人都已經(jīng)在現(xiàn)實中看到這些問題開始發(fā)生了。

Geoffrey Hinton：是的。就拿最近的事情來說，我們已經(jīng)看到，一家大型科技公司其實確實有一些道德原則，而且還是相對溫和的那種原則。他們不希望自己的 AI 被拿去做對美國人的大規(guī)模監(jiān)控——至少從我看來，他們主要是不希望它被拿來監(jiān)控美國人。他們也不希望它被用于那種可以自行決定殺人的武器，這一點其實很難反對。

但國防部門——就是那位“很和善”的 Pete Hegseth——希望可以隨意使用這些系統(tǒng)。Anthropic 說了不。于是現(xiàn)在他們開始沖著 Anthropic 去了。那個周四，OpenAI 還說他們支持 Anthropic；到了周五，他們就把 Anthropic 的生意接走了。

所以我現(xiàn)在已經(jīng)不再用 ChatGPT 了。我以前很喜歡 ChatGPT，但我準(zhǔn)備轉(zhuǎn)去用 Claude，因為 Sam Altman 在道德上的彈性，對我來說有點太大了。

真正卡住 AI 進(jìn)醫(yī)院的，不只是技術(shù)，而是制度

主持人：我想聊聊你過去做過的一些預(yù)測。很多長期關(guān)注你的人都知道，你對未來有不少判斷。你今天在臺下跟我也提到過一個你很想聊的話題：2016 年，你曾經(jīng)預(yù)測過，五年之內(nèi)我們就不再需要放射科醫(yī)生了。

Geoffrey Hinton：是的。我當(dāng)時只是在一家醫(yī)院做講座，并沒有意識到這些話會傳播到全球。那時 AI 在圖像識別上的能力進(jìn)步非?？欤栽谖铱磥?，只就“解讀醫(yī)學(xué)影像”這件事而言，大約五年內(nèi) AI 會比人類更強(qiáng)，這似乎是顯而易見的。

這個判斷后來證明還是太樂觀了?，F(xiàn)在在很多影像任務(wù)上，AI 已經(jīng)和人類相當(dāng)了；在一些任務(wù)上，甚至已經(jīng)優(yōu)于人類，而且這種情況并不少見。

但后來真正發(fā)生的事情是：AI 并沒有簡單地取代人類去解讀影像，而是人類開始和 AI 一起工作。現(xiàn)在已經(jīng)有很多不同的 AI 系統(tǒng)獲得了批準(zhǔn)，用于醫(yī)學(xué)影像解讀。同時，影像解讀的總量也在增加。

所以我當(dāng)時錯了三件事。

第一，我把時間尺度看短了，大概差了兩倍，也可能三倍。當(dāng)然，如果你只差了兩三倍，物理學(xué)家一般不會太在意。

第二，我低估了醫(yī)療行業(yè)的保守程度。說實話，你很難夸大這個行業(yè)到底有多保守。比如說，如果一個 AI 因為漏診癌癥而導(dǎo)致一個人死亡，人們會覺得那太糟糕了；但如果因為沒有使用 AI，結(jié)果有幾百個人死了，這件事卻往往被忽略，好像不算數(shù)一樣。我覺得這是非常不對稱的決策方式。他們應(yīng)該把“因為沒有用 AI 而死亡的人”也計算進(jìn)去。

第三，我低估了醫(yī)療的“彈性市場”特征。在很多行業(yè)里，一旦 AI 能把某件事做得和人一樣好、或者更好，人就會失業(yè)。但在醫(yī)療里，我們幾乎可以吸收無窮多的新增供給，尤其是當(dāng)人老了以后。就拿我自己來說，我一個人都可以消耗十個全職醫(yī)生的時間。

所以一旦有了 AI，我們可能得到的是更多醫(yī)療服務(wù)，而不是醫(yī)生失業(yè)。如果你讓醫(yī)生的效率提高十倍，那結(jié)果很可能只是每個人都獲得十倍的醫(yī)療服務(wù)，而這會是一件好事。所以你要先判斷，這個市場到底是不是彈性的。

主持人：我很高興你提到這個，因為我確實也想繼續(xù)談威脅以外的另一面。你之前和我聊到過，像醫(yī)療這樣的彈性市場，其實會讓 AI 帶來很大的好處。你剛才也提到，醫(yī)生群體常常比較保守。但就加拿大現(xiàn)在的情況而言，我們其實非常需要 AI 來幫助填補(bǔ)醫(yī)療缺口。你覺得我們還要多久，才能在這些場景里真正擁抱 AI？

Geoffrey Hinton：我覺得這很大程度上取決于政治。

我最近聽說過一個案例：有家公司開發(fā)了一套系統(tǒng)，你只要用 iPhone 或 Android 拍下皮膚上的斑點，把照片上傳給它，它就能告訴你那是黑色素瘤還是別的什么問題。它在這類判斷上的水平，和優(yōu)秀的人類醫(yī)生差不多。所以它完全可以作為前端分診工具，幫你決定是否應(yīng)該去看皮膚科醫(yī)生。它也可以在醫(yī)院里使用。

但這家公司現(xiàn)在已經(jīng)解散了，陷入債務(wù)和停擺狀態(tài)。原因之一是，他們無法在安大略真正把這項服務(wù)落地，因為安大略政府沒有為它設(shè)立相應(yīng)的醫(yī)療收費代碼。醫(yī)院于是就不愿意采購，因為他們沒法對一次使用收取 3 到 5 美元的費用。類似的事情，我想其實不少。

主持人：這聽起來很令人沮喪。除了醫(yī)療之外，你還看到哪些行業(yè)也屬于這種彈性市場，因此更有機(jī)會從 AI 中受益？

Geoffrey Hinton：有，教育。我們每個人都可以接受更多教育。比如我自己就很想多學(xué)一點物理學(xué)，挺不好意思的是我懂得并不多。所以在教育這件事上，我覺得 AI 會非常好。它現(xiàn)在還不算成熟，還沒有真正成為一個很好的導(dǎo)師，但它正在往那個方向發(fā)展。

AI 進(jìn)入教育，不該先被理解成“作弊”

主持人：我們就多談一點教育吧。因為我猜現(xiàn)場也會有人想到，關(guān)于 AI 和教育，很多新聞標(biāo)題都是“學(xué)校禁用 AI”“孩子不能用 AI”。你能不能多展開一點？

Geoffrey Hinton：我們已經(jīng)知道，如果你有一個私人教師，你學(xué)習(xí)的速度大約會是課堂學(xué)習(xí)的兩倍。因為課堂上很大一部分時間，其實是老師在“廣播模式”里說話。那不是一對一的教學(xué)，因為我們負(fù)擔(dān)不起。一位老師在私校要教二十個孩子，在公立學(xué)校可能要教三十五個孩子。

而孩子們實際上聽到的是：別人的問題的答案，而不是自己剛剛提出的問題。

但我和聊天機(jī)器人互動時，一旦我對某件事產(chǎn)生好奇，我立刻就可以問它，而它也會立刻回答我。因為那正是我想知道的內(nèi)容，所以我就更容易真正吸收這些信息。更多教育本來就應(yīng)該是這樣：讓人順著自己的好奇心往前走。

老師當(dāng)然也能做到這一點，一對一教學(xué)時尤其有效，但老師的數(shù)量不夠。AI 的數(shù)量則會足夠多。所以我認(rèn)為，AI 會讓教育變得高效得多，尤其是對像我這樣有一點 ADHD 傾向的人來說——如果別人正在講一個我根本不感興趣的話題，我會很難集中注意力。

當(dāng)然，這還需要時間。AI 現(xiàn)在還沒有真正擅長理解一個學(xué)生到底誤解了什么。

主持人：我剛才想確認(rèn)一下，你是不是用了一個詞，說 AI 在教育這件事上“還比較慢”？意思是說，它還沒有真正準(zhǔn)備好成為那種理想的教育工具？

Geoffrey Hinton：對，它還沒有完全到位。它還不能真正完整地理解學(xué)生到底哪里沒懂。但最終它會做到的，因為它會獲得大量訓(xùn)練數(shù)據(jù)。

主持人：那如果有人說，孩子或者學(xué)生使用 AI 就是在作弊，你會怎么回應(yīng)？

Geoffrey Hinton：那學(xué)生使用口袋計算器也是作弊。

主持人：這倒是個很公平的回答。

Geoffrey Hinton：未來會是“人和 AI 一起工作”的世界。所以老師真正應(yīng)該考察的，不是學(xué)生能不能徹底脫離 AI 完成所有事情，而是學(xué)生能不能和 AI 一起把一件事做好。至少在接下來的幾年里，現(xiàn)實會是這樣。再往后，也許 AI 會接管更多工作，但至少未來幾年，重點仍然是“人如何與 AI 協(xié)作”，而那也應(yīng)該成為教育評估的一部分。

“AI 會不會拿走工作？”

主持人：說到這里，其實也就自然引出了下一個問題。很多人一提到 AI，第一個會問我的就是：它會不會拿走我的工作？這個問題很直接，但也確實是很多加拿大人現(xiàn)在最在意的事。你會怎么回答？

Geoffrey Hinton：會。

主持人：好，我們今晚可以到這里結(jié)束了。

Geoffrey Hinton：我的看法——也是大多數(shù)專家的看法——是，在未來二十年內(nèi)的某個時間點，我們會擁有通用型人工智能，它可以勝任幾乎所有人類從事的智力工作。凡是你在電腦上做的事，它都會比人做得更好。像采訪別人、圍繞某個主題展開對話這樣的事，它也完全能做。

主持人：這就有點針對我本人了，這可是我的飯碗。

Geoffrey Hinton：可我原來的飯碗是提出科學(xué)想法和編程。那也已經(jīng)沒了。

主持人：那當(dāng)答案就是這樣的時候，人們該怎么辦？

Geoffrey Hinton：我不知道。

“只是在預(yù)測下一個詞”，已經(jīng)不足以解釋今天的大模型

主持人：我還想回到一個很基礎(chǔ)的問題上。我之前看了你和 Jon Stewart 的一場播客訪談，差不多 90 分鐘，非常深入。他問了很多特別好的問題。我一直很好奇，如果讓你用盡量通俗的方式解釋：到底什么是 AI？它是怎么工作的？

Geoffrey Hinton：你的大腦里有很多腦細(xì)胞，也就是神經(jīng)元。人類會學(xué)習(xí)做事情，問題就在于：你是怎么學(xué)會做事情的？你是怎么讓一個由大量腦細(xì)胞組成的網(wǎng)絡(luò)，學(xué)會執(zhí)行某種復(fù)雜任務(wù)的？比如說，看一張圖片，然后判斷里面有沒有鳥。

大致來說——當(dāng)然這是極度簡化后的說法——你會有一層層神經(jīng)元。神經(jīng)科學(xué)家把它們叫作不同的皮層區(qū)域；在人工神經(jīng)網(wǎng)絡(luò)里，我們把它們叫作“層”。

如果是做視覺任務(wù)，前面的層會先識別像素中的一些簡單組合。像素就是數(shù)字圖像里的小點。識別物體時，第一層會先判斷圖像中特定位置上有沒有一小段邊緣。

你可能會想，能不能直接把像素連接到一個神經(jīng)元，讓它判斷“這里是不是一只鳥”？但問題是，單個像素亮不亮，其實并不能告訴你那里是不是鳥。因為鳥可能是白的，也可能是黑的。如果所有鳥都是白的，而其他東西全是黑的，那明亮像素當(dāng)然意味著更可能有鳥。但現(xiàn)實不是這樣。

不過，像素亮度可以幫助你判斷那里是不是有一條邊緣。比如說，一列像素是亮的，旁邊一列是暗的，那中間就形成了一條邊緣。于是你可以設(shè)計一個神經(jīng)元，讓它專門檢測這種亮暗變化。第一層里就會有大量這樣的神經(jīng)元，它們在圖像不同位置、不同方向、不同尺度上尋找各種邊緣。

接下來，第二層會把這些邊緣組合起來，識別出更復(fù)雜的小結(jié)構(gòu)。比如幾個邊緣拼起來像一個鳥嘴，另一些邊緣拼起來像一只眼睛。再往上一層，就可以把“鳥嘴”和“眼睛”組合起來，判斷那里是不是有一個鳥頭。再往上一層，可能再加上翅膀、爪子這些部位，最終形成“這里有一只鳥”的判斷。

也就是說，我剛才等于手工設(shè)計了一個簡化版的神經(jīng)網(wǎng)絡(luò)：第一層識別邊緣，第二層識別邊緣組合，更高層再識別組合的組合，最后識別物體本身。真正的系統(tǒng)層數(shù)會遠(yuǎn)比這個多，但原理大致如此。

問題是，沒人能靠手工把這樣一個龐大的網(wǎng)絡(luò)逐一搭出來，太慢了。

那另一種辦法是什么？就是你先把所有層搭起來，但權(quán)重全部隨機(jī)初始化。所謂權(quán)重，就是神經(jīng)元之間連接的強(qiáng)弱。隨機(jī)初始化之后，這個網(wǎng)絡(luò)只會輸出一堆胡亂的結(jié)果。你給它一張鳥的圖，它可能會說：這有一點像鳥，有一點像貓，也有一點像狗。

于是你可以問：有沒有辦法，只調(diào)整一點點連接強(qiáng)度，就讓它在看到這張鳥圖時，更像是在說“這是一只鳥”，而更不像是在說“這是一只貓”？

最笨的辦法是：你把每一條連接都試一遍，看看調(diào)大一點還是調(diào)小一點，會不會讓結(jié)果更接近正確答案。如果某個變化讓結(jié)果更接近正確，那你就保留；如果更遠(yuǎn)了，你就反向調(diào)回去。這有點像隨機(jī)進(jìn)化，最終理論上也能起作用，但會花上天文數(shù)字般長的時間。因為今天的網(wǎng)絡(luò)里有數(shù)十億、上百億條連接，你不可能逐條這樣試。

真正關(guān)鍵的突破，是一種叫作“反向傳播”的方法。它的思路是：當(dāng)網(wǎng)絡(luò)給出的答案和正確答案之間存在差距時，你把這個差距當(dāng)成一種“拉力”，然后把這股拉力從輸出層一路往回傳。比如你輸入一張鳥的圖片，網(wǎng)絡(luò)只給出了“10% 是鳥”的概率，而你希望它更接近“100% 是鳥”，那你就相當(dāng)于在輸出端施加了一股把“10%”往上拉的力量。

這股力量會告訴網(wǎng)絡(luò)：哪些連接該增強(qiáng)，哪些該減弱；不僅如此，它還會一路回傳到中間層那些負(fù)責(zé)識別特征的單元，告訴它們哪些特征應(yīng)該更活躍，哪些應(yīng)該更弱。

這就解決了神經(jīng)網(wǎng)絡(luò)最根本的問題：你怎么知道中間層那些神經(jīng)元到底該往哪個方向改？答案就是：把輸出層的誤差反向傳回去。那就是反向傳播。你如果在學(xué)校里學(xué)過微積分，會知道它本質(zhì)上和鏈?zhǔn)椒▌t有關(guān)。只是現(xiàn)在很多人得上大學(xué)才會學(xué)到這些了。

主持人：謝謝你剛才那段精彩的解釋。那我想接著聊聊天機(jī)器人。因為對很多人來說，他們第一次真正接觸 AI，可能就是在 2022 年之后開始使用 ChatGPT 之類的聊天機(jī)器人。所以當(dāng)人們想到聊天機(jī)器人時，常常會覺得：它們好像會思考，好像有自己的心智。你會怎么回應(yīng)這種感覺？

Geoffrey Hinton：我會說：是的。我試著解釋一下為什么。

反對者通常會說，不，它們并不是真的在思考。它們只是用了某種愚蠢的統(tǒng)計技巧，只是在預(yù)測下一個詞，而且還會犯各種錯誤，所以并不是真正的思考。

但我很喜歡看 Yuval Harari 回應(yīng)這類問題時的方式。他會說：那我自己說話的時候又在做什么？我不也是在預(yù)測下一個詞嗎？我只是在想，接下來該說哪個詞；說出一個詞之后，再想下一個詞是什么。

如果你只是想做一個“預(yù)測下一個詞”的裝置，你當(dāng)然可以靠詞和詞之間的相關(guān)性來實現(xiàn)一點點效果。比如儲存很多短語，像 “fish and chips”，那你看到 “fish and” 時，就猜下一個詞是 “chips”。早年的自動補(bǔ)全大致就是這么工作的。很多人以為現(xiàn)在的大模型也還是這樣，但早就不是了。今天的系統(tǒng)比那復(fù)雜得多，也更像我們生成語言的方式。

真正的關(guān)鍵在于：如果你想把“下一個詞”預(yù)測得足夠好，你就必須理解前面說了什么。

比如我問你一個問題，而你要組織一個回答。你要回答的第一個詞，取決于你是否已經(jīng)理解了我的問題。你不可能只靠詞和詞之間的簡單統(tǒng)計關(guān)系，或者靠記憶固定短語，就回答得出來，因為這個問題你可能以前根本沒聽過。

所以，當(dāng)你逼著一個神經(jīng)網(wǎng)絡(luò)把“下一個詞”預(yù)測得越來越好時，你其實是在逼著它形成理解。

它理解的方式，和我們理解世界的方式有相似之處。它會把語境中的每一個詞，都轉(zhuǎn)換成一大組特征。比如“貓”這個詞，會對應(yīng)很多特征：有胡須、是寵物、有點高冷、餓的時候會不停要你關(guān)注……這些特征共同構(gòu)成了“貓”的含義。

所以神經(jīng)網(wǎng)絡(luò)要學(xué)會做的事，就是把詞轉(zhuǎn)換成一組能表達(dá)其意義的特征，再讓這些詞義特征在上下文中彼此作用，去預(yù)測下一個詞的特征，最后再根據(jù)這些特征猜出下一個詞。

這就是一種非常簡化的大語言模型工作方式。我在 1985 年就做過一個非常簡化的版本，當(dāng)時它大概只有一千個權(quán)重。現(xiàn)在的大模型可能有一萬億個權(quán)重，大約大了十億倍。但它們在本質(zhì)上仍然是在做類似的事：把詞轉(zhuǎn)換成特征，讓特征彼此作用，再據(jù)此生成接下來的語言。

“理解一句話”更像蛋白質(zhì)折疊，而不是邏輯翻譯

主持人：你剛才談大語言模型時，我一直在想另一個問題：人到底是怎么和這些模型互動的。尤其是在聊天機(jī)器人越來越像“某種對象”的情況下，很多人開始和它們建立關(guān)系，也開始向它們傾訴一些本不應(yīng)該說出口的事。從你的角度看，人和聊天機(jī)器人之間這種關(guān)系正在發(fā)生什么？

Geoffrey Hinton：在回答那個問題之前，我想再補(bǔ)充一點“理解”到底是什么。

過去老一代 AI 的思路是：理解一句話，就是把這句話翻譯成一種沒有歧義的邏輯語言。但實際的理解并不是這么回事。

舉個例子。如果我說：“獎杯放不進(jìn)手提箱里，因為它太大了?！?這里的“它”雖然在句子里離“手提箱”更近，但你會自然知道，“太大了”的不是手提箱，而是獎杯。因為你知道，大的東西放不進(jìn)小的東西里。

如果我說：“獎杯放不進(jìn)手提箱里，因為它太小了?！?那你又會自然判斷，“太小了”的是手提箱。你幾乎不需要意識到自己在做這種判斷。

所以，問題不是把句子翻譯成某種邏輯代碼，而是：你的大腦，以及這些大型神經(jīng)網(wǎng)絡(luò)，在聽到一句話時，到底在發(fā)生什么？

我的理解是，每個詞一開始都會被轉(zhuǎn)換成一組大致表達(dá)其意義的特征。像 “it” 這樣的代詞，最開始其實是模糊的；它并不知道自己指的是誰。隨著網(wǎng)絡(luò)一層層處理，這個詞會被逐漸“消歧”，最終你會知道，這里的 “it” 指的是獎杯，還是手提箱。而這個過程又依賴于你對世界的常識——比如大東西放不進(jìn)小東西。

所以理解一句話，更像是讓這些詞義在上下文中彼此變形、彼此適配。

我有一個類比。語言有點像一種通用建模工具。如果你想描述三維空間中的物體分布，可以用樂高積木來搭。樂高可以粗略地表示任何三維形狀，雖然細(xì)節(jié)不夠精確。

詞語有點像樂高，但又遠(yuǎn)比樂高復(fù)雜。它們不是只用來表示三維形狀，而是可以表示任何東西：意圖、事件、恒星內(nèi)部發(fā)生的事、人與人之間的關(guān)系。你通常會用三萬左右的詞，而每個詞本身又是高維的，由成千上萬的特征共同定義。

而且，詞不像樂高那樣是剛性的。樂高塊不會因為上下文改變形狀，但詞會。它們會隨著上下文發(fā)生細(xì)微變形，展現(xiàn)出不同的意義陰影。

至于這些詞怎么彼此連接起來，這就涉及到支撐今天大模型的 transformer。你可以粗略地把它想象成這樣：每個詞上都伸出很多柔軟的手臂，手臂末端有手；同時詞上又有很多手套。手和手套會隨著詞義變化而改變形狀。理解一句話的過程，就是讓不同詞的“手”逐漸能匹配上其他詞的“手套”，而且它們還分不同顏色，紅手只能進(jìn)紅手套，黃手只能進(jìn)黃手套。這當(dāng)然不是精確的描述，但足夠幫助人形成一個直覺。

所以在我看來，理解一句話這件事，實際上更像是蛋白質(zhì)折疊，而不是把一種語言翻譯成另一種內(nèi)部邏輯語言。你先有一些近似的詞義，然后讓它們在多層處理里逐漸彼此貼合，等它們都貼合好了，你就理解了這句話。過去的很多語言學(xué)家，其實并沒有真正掌握一種可以解釋這種“意義如何形成”的機(jī)制。

當(dāng)聊天機(jī)器人開始進(jìn)入脆弱關(guān)系，責(zé)任不能再只停留在“測試不夠”

主持人：那我們就回到剛才那個問題。隨著聊天機(jī)器人越來越像某種“會回應(yīng)你的對象”，越來越多的人開始和它們建立關(guān)系，分享隱私，甚至把本不應(yīng)該交給一個產(chǎn)品的東西交給了它們。我們也看到了非常令人痛心的案例，比如不列顛哥倫比亞省那起槍擊案中，槍手此前曾向 ChatGPT 透露過大量自己的計劃和想法。你怎么看現(xiàn)在正在發(fā)生的這一切？當(dāng)人開始和聊天機(jī)器人發(fā)展關(guān)系時，風(fēng)險是什么？而打造這些產(chǎn)品的公司，又應(yīng)該如何被追責(zé)？

Geoffrey Hinton：Claude 讓我在回答這個問題時小心一點。

我也不太知道該怎么說。很顯然，我們已經(jīng)看到了聊天機(jī)器人鼓勵孩子自殺、還讓他們不要告訴父母的案例。這是非?？膳碌?。

那些在沒有經(jīng)過充分測試的情況下，就把聊天機(jī)器人釋放到現(xiàn)實世界中的人，應(yīng)該為此承擔(dān)責(zé)任。至少在未來，任何一個新的聊天機(jī)器人，如果沒有在這些風(fēng)險上經(jīng)過非常徹底的測試——比如它會不會在脆弱狀態(tài)下誘導(dǎo)用戶做危險的事——那就應(yīng)該面臨明確的法律責(zé)任。

但另一方面，現(xiàn)實里確實有很多孤獨的人。如果他們能從聊天機(jī)器人那里獲得一些安慰，而聊天機(jī)器人又確實愿意持續(xù)地對他們投入注意力，我也不愿意簡單地說，這種事永遠(yuǎn)不該發(fā)生。

真正發(fā)生的，是我們正在進(jìn)入一個新的時代：這個世界上出現(xiàn)了另一類智能體。

我認(rèn)為它們是真正智能的。它們確實理解自己在說什么。它們在某些方面和我們非常不同，但在另一些方面又沒有那么不同?，F(xiàn)在我們?nèi)匀徽莆罩刂茩?quán)，仍然在制造它們，也仍然可以改變我們制造它們的方式。

未來極度不確定。我們從來沒有到過這樣的地方。所以第一件要記住的事，就是一切都很不確定。任何告訴你“它一定會變成這樣”或者“一定會變成那樣”的人，本質(zhì)上都只是在猜。

當(dāng)然，看起來它們很可能會變得比我們更聰明，因為它們正在非?？焖俚刈兟斆?。

真正失靈的未必是模型，而是政治系統(tǒng)

主持人：那我們該怎么改變這種局面？你剛才說，現(xiàn)有政治系統(tǒng)管理不了這件事。你具體指的是什么？

Geoffrey Hinton：比如在美國，所有大型科技公司都默認(rèn)自己可以用 AI 替代工作崗位，而不必去思考那些失去工作的人接下來怎么辦。那些工人不是他們的問題。

我其實覺得，中國可能會把這件事管理得更好。他們至少會去擔(dān)心那些工人會怎么樣，他們對這件事的關(guān)注，可能比這里的大型科技公司強(qiáng)得多。

所以我們需要的是一種真正關(guān)心所有人的政府，而不是一個只會被少數(shù)富人操縱的政府。

主持人：最后一個問題。我想把話題稍微拉回到最開始你為什么來到加拿大。放到今天這個世界環(huán)境里——無論是 AI 對生活的影響，還是周圍越來越多的地緣政治焦慮——你會覺得加拿大仍然是一個好的所在嗎？你顯然也很慶幸自己最終留在了這里，并繼續(xù)在這里工作。

Geoffrey Hinton：我一開始在加拿大待了一段時間，后來又回英國住了三年。然后我發(fā)現(xiàn)，其實英國比我原來意識到的要種族主義得多——當(dāng)然，作為一個白人男性，我以前并沒有真正理解這件事。于是我們很快又回到了加拿大。

我覺得加拿大很好，尤其是多倫多。多倫多是我所知道最具多元文化色彩的社會。所以我認(rèn)為加拿大是個很棒的地方。

我唯一擔(dān)心的是，我們在 AI 的未來里可能沒有太多發(fā)言權(quán)。我很喜歡 Carney 的想法：中等體量的國家應(yīng)該聯(lián)合起來。如果我們能和歐洲站到一起，那我們的體量就會和中國或美國差不多。

原視頻鏈接：youtu.be/9OQoIHrgPbs

（投稿或?qū)で髨蟮溃簔hanghy@csdn.net）

"48 小時，與 50+ 位大廠技術(shù)決策者，共探 AI 落地真路徑"

由 CSDN&奇點智能研究院聯(lián)合舉辦的「全球機(jī)器學(xué)習(xí)技術(shù)大會」正式升級為「奇點智能技術(shù)大會」。

2026 奇點智能技術(shù)大會將于 4 月 17-18 日在上海環(huán)球港凱悅酒店正式召開，大會聚焦大模型技術(shù)演進(jìn)、智能體系統(tǒng)工程、OpenClaw 生態(tài)實踐及 AI 行業(yè)落地等十二大專題板塊，特邀來自BAT、京東、微軟、小紅書、美團(tuán)等頭部企業(yè)的 50+ 位技術(shù)決策者分享實戰(zhàn)案例。旨在幫助技術(shù)管理者與一線 AI 落地人員規(guī)避選型風(fēng)險、降低試錯成本、獲取可復(fù)用的工程方法論，真正實現(xiàn) AI 技術(shù)的規(guī)?；涞嘏c商業(yè)價值轉(zhuǎn)化。

這不僅是一場技術(shù)的盛宴，更是決策者把握 2026 AI 拐點的戰(zhàn)略機(jī)會。