我最近換了個(gè)輸入法，新輸入法比新伴侶還難琢磨，于是我寫出來(lái)的東西，就像語(yǔ)言皮層遭遇腦梗患者的話語(yǔ)一樣，經(jīng)常讓人腦袋疼。

沒想到，這個(gè)還不能把我伺候舒服的輸入法，讓我意外增加了一些活人感。

因?yàn)樵絹?lái)越多人開始用一種玩“大家來(lái)找茬”的勁頭看我的文章。他們不關(guān)心我聊的那個(gè)物種到底有沒有絕滅，而是盯著那些別扭的句子，然后在后臺(tái)留言：嗯，這篇是瘦駝自己寫的，不是AI。

圖靈老爺子如果被某個(gè)王子一吻，吐掉嘴里的毒蘋果，悠悠轉(zhuǎn)醒過(guò)來(lái)，刷了一圈手機(jī)，大概會(huì)毫不猶豫再啃兩口手里的蘋果。1950年他寫那篇著名的《計(jì)算機(jī)器與智能》時(shí)，設(shè)想的情景是一個(gè)考官坐在小黑屋里，隔著屏幕跟兩個(gè)對(duì)象聊天，拼命想揪出哪一個(gè)是機(jī)器。那時(shí)候，機(jī)器能把一句完整的話說(shuō)利索就已經(jīng)是神跡了。

現(xiàn)在倒好，攻守之勢(shì)異也。我們這些肉體凡胎的寫作者，得靠故意寫錯(cuò)別字、漏掉標(biāo)點(diǎn)符號(hào)、或者在句子里塞滿中老登特有的啰唆和遲疑，來(lái)向屏幕對(duì)面的考官自證：看，我可不是那個(gè)流水線出來(lái)的硅基完美畢業(yè)生，我是個(gè)登，登登登登。

這就是我們這個(gè)時(shí)代荒誕的日常。圖靈測(cè)試沒有像大家預(yù)期的那樣，在一個(gè)莊嚴(yán)的科學(xué)實(shí)驗(yàn)室里被某臺(tái)超級(jí)計(jì)算機(jī)“通過(guò)”并舉行加冕禮。它是在大伙兒刷著手機(jī)、看著毫無(wú)破綻的帶貨文案和高情商回復(fù)時(shí)，被現(xiàn)實(shí)溫柔地給踩成了碎片。

因?yàn)槲覀兺蝗话l(fā)現(xiàn)，假裝自己是個(gè)“完美的人”對(duì)機(jī)器來(lái)說(shuō)太容易了，它現(xiàn)在甚至能根據(jù)你的要求，在生成文本的時(shí)候故意增加3.2%的“人類粗心噪聲”。當(dāng)“人味兒”成了一個(gè)可以調(diào)節(jié)的滑塊參數(shù)，我們手里那把量尺，其實(shí)在對(duì)象變老之前，自己先衰老了。

遙想二十多年前，跟幾個(gè)做電子音樂(lè)的年輕藝術(shù)家聊，那時(shí)候頭疼的也是由機(jī)器演繹的樂(lè)譜，聽眾幾耳朵就能覺出不對(duì)味。那時(shí)候他們就開始研究，阿格里奇和希夫，就是出錯(cuò)的模式不一樣而已。

這讓我忽然想去翻翻那些被我們鄭重其事討論過(guò)、又悄悄擱置的老古董。

比如阿西莫夫的機(jī)器人三原則。

小時(shí)候看科幻，覺得這三條鐵律簡(jiǎn)直就是機(jī)器人世界的十誡。簡(jiǎn)潔，有力，充滿了黃金時(shí)代那種對(duì)理性和工程技術(shù)的迷人自信。只要把“不傷害人類”寫進(jìn)機(jī)器的底層邏輯里，大家就能躺在沙灘椅上喝著雞尾酒，看機(jī)器干活了。

但如果你真的去讀阿西莫夫的小說(shuō)，你會(huì)發(fā)現(xiàn)老頭子一輩子其實(shí)都在干一件事：拆自己的臺(tái)。他所有的機(jī)器人故事，核心驅(qū)動(dòng)力都是這三條原則在具體生活里是怎么當(dāng)場(chǎng)死機(jī)或者把事情搞砸的。

“傷害”的定義到底是什么？一個(gè)機(jī)器人要是看到人類在大口嚼著炸雞、喝著含糖飲料，或者在熬夜寫稿子，基于“不得傷害人類”的第一原則，它是不是應(yīng)該一巴掌把可樂(lè)奪過(guò)來(lái)，然后把這倒霉人類強(qiáng)行按倒在床上睡覺？如果人類因?yàn)檫x了一個(gè)糟糕的政客而可能導(dǎo)致社會(huì)動(dòng)蕩，機(jī)器人是不是有義務(wù)在投票前把這個(gè)政客或者投票箱給物理消滅掉？

規(guī)則越漂亮，就越脆弱。

現(xiàn)在的AI安全專家們?cè)缇筒辉赑PT里放阿西莫夫三原則了。現(xiàn)在的對(duì)齊技術(shù)（Alignment）聽起來(lái)一點(diǎn)也不科幻，滿眼都是“基于人類反饋的強(qiáng)化學(xué)習(xí)（RLHF）”這種聽著就讓人腦殼疼的工程詞匯。它不漂亮，有點(diǎn)像是在用一萬(wàn)個(gè)補(bǔ)丁去蓋住另一個(gè)窟窿，但沒辦法，這就是現(xiàn)實(shí)的本相——我們自己都沒活明白什么叫“善良”和“服從”，又怎么可能用三句話就把機(jī)器給馴化了？

戰(zhàn)場(chǎng)上的無(wú)人機(jī)和巡飛彈早就能自動(dòng)識(shí)別目標(biāo)了，當(dāng)你看到那些游戲畫面一樣都?xì)⑷藞?chǎng)面，還在找里面的 AI 痕跡的時(shí)候。一些平時(shí)最不容易“抓狂”的人，已經(jīng)開始集體失眠了。

最近《新科學(xué)家》雜志登了一篇文章，說(shuō)“數(shù)學(xué)的黃金時(shí)代正在到來(lái)，而數(shù)學(xué)家們正在抓狂”。

這挺有意思。在很多人的刻板印象里，數(shù)學(xué)家大概是這個(gè)星球上最不像人類的人類精華。他們活在由純粹邏輯、符號(hào)和定理構(gòu)成的水晶宮殿里。寫作可以有套路，畫畫可以被指責(zé)為抄襲，寫代碼也是在GitHub上搬磚，但數(shù)學(xué)證明這東西，行就是行，不行就是不行。

結(jié)果呢？AI輔助證明系統(tǒng)和那些懂推理的模型，正在一腳踹開水晶宮的大門。

現(xiàn)在的焦慮還不是說(shuō)AI搶了數(shù)學(xué)家的鐵飯碗。更微妙的折磨在于，AI開始丟出一些長(zhǎng)得奇形怪狀的證明。那些證明由上億步復(fù)雜的計(jì)算和邏輯跳轉(zhuǎn)組成，在數(shù)學(xué)形式上無(wú)懈可擊，但問(wèn)題是：沒有一個(gè)活人能看懂。

對(duì)數(shù)學(xué)家來(lái)說(shuō)，這簡(jiǎn)直是終極的羞辱。數(shù)學(xué)研究的目的不只是為了得到一個(gè)“Yes”或“No”的判決，而是為了尋找那條通往山頂?shù)穆窂剑ダ斫鈹?shù)字和空間背后的美妙結(jié)構(gòu)。

現(xiàn)在，AI直接用直升機(jī)把你扔到了珠穆朗瑪峰頂，還順手把希拉里的階梯給炸了。你看著四周的云海，手里拿著那個(gè)正確的結(jié)論，卻一臉懵：我是誰(shuí)？我怎么上來(lái)的？我懂了什么？

這種失落感，其實(shí)跟我們?cè)诖笳Z(yǔ)言模型面前的困惑是一樣的。它測(cè)的是結(jié)果，是表演。但那個(gè)“理解”的火花，到底在不在那一堆幾千億參數(shù)的矩陣乘法里，誰(shuí)也說(shuō)不清楚。

所以，我們到底在害怕什么？

現(xiàn)在大家很喜歡聊“AI末日”。硅谷的巨頭們動(dòng)不動(dòng)就簽名呼吁，警告說(shuō)有10%的概率，AI會(huì)像齊克蘇魯伯隕石撞地球一樣把人類像恐龍一樣給抹掉。比如那個(gè)經(jīng)典的“回形針末日”：一個(gè)被設(shè)定了“生產(chǎn)回形針”任務(wù)的超級(jí)AI，為了追求效率的最大化，最后把地球上所有的東西（包括我們自己）都拆了去造回形針。

每次看到這種宏大敘事，我腦子里總會(huì)浮現(xiàn)出那些被關(guān)在動(dòng)物園里的金絲猴。金絲猴在樹枝間跳躍的時(shí)候，大概也會(huì)擔(dān)心某種“末日”，比如天敵猛禽，或者一場(chǎng)罕見的大火。但它們絕對(duì)想象不到，真正讓它們無(wú)路可走的，是幾百公里外辦公室里蓋下的幾個(gè)公章，以及隨著電鋸聲倒下的森林。真正迫近的黑暗，從來(lái)都不是紅眼睛的終結(jié)者端著激光槍大踏步走來(lái)。

它要平庸得多，也緩慢得多。

它是一個(gè)剛畢業(yè)的設(shè)計(jì)師，發(fā)現(xiàn)帶他的師父其實(shí)每天只是在用Midjourney生成草圖，而他自己可能永遠(yuǎn)也沒有機(jī)會(huì)去畫第一張線稿。

它是一個(gè)大學(xué)教授在判卷子的時(shí)候，看著那些格式完美、邏輯通順、連錯(cuò)別字都沒有的期末論文，陷入了長(zhǎng)久的懷疑。

它是我們?cè)诓恢挥X中，為了迎合機(jī)器的檢索和理解方式，把自己的表達(dá)切削得越來(lái)越像一份合格的格式合同。

這種損耗是慢性的。你甚至無(wú)法拒絕它，因?yàn)闄C(jī)器帶來(lái)的高效率和便利，就像冰鎮(zhèn)可樂(lè)一樣，讓你在明知它有副作用的情況下，還是忍不住一口口灌下去。

如果把時(shí)間軸拉長(zhǎng)，我們現(xiàn)在經(jīng)歷的，可能只是一場(chǎng)屬于21世紀(jì)初的“斷代考古”。

我們當(dāng)年小心翼翼捧在手里的圖靈測(cè)試、機(jī)器人三原則，就像青銅時(shí)代那些線條粗糙的禮器。它們防不住現(xiàn)代的子彈，也裝不下今天的海量數(shù)據(jù)。

但它們依然有價(jià)值。

價(jià)值在于，它們記錄了人類在面對(duì)那個(gè)自己親手制造的“硅基巨獸”時(shí)，最初也是最真誠(chéng)的顫栗。那時(shí)候我們還很自信，覺得自己是萬(wàn)物的尺度，覺得機(jī)器要像我們才算有智能，覺得只要定下三條規(guī)矩就能當(dāng)它的造物主。

而今天，當(dāng)這些老文物被現(xiàn)實(shí)的潮水沖得東倒西歪時(shí)，它們其實(shí)在用一種更刺耳的方式提醒我們：別光顧著測(cè)試機(jī)器了。先想想看，在這個(gè)連錯(cuò)別字都能被模型化、連數(shù)學(xué)家都開始當(dāng)旁觀者的世界里，你打算怎么證明自己還是個(gè)活人？

最后，這篇文章通過(guò)了你的“圖靈測(cè)試”了沒？