遲宇宙｜被“嚇唬”一百年：我們對AI的恐懼是如何建構的？

“這個小東西（STEM）太不可思議了。” “它能做什么？” “它無所不能。它駕駛一切，交流一切，計算一切。這是一種新型的、更強的大腦。” “它能生小孩兒、打橄欖球嗎？” “它能做對社會有益的事。” …… “你看著那小東西就看到未來，而我看到那個東西，只能看到會有十多個人失業。”

這是汽車改裝機械師格雷面對AI的最初恐懼。“當那些小東西都開始占領地球的時候，我這樣的人該做什么？”恐懼隨后伴隨著智能體植入他的軀體而升級，最終格雷成為了某個虛擬空間中的意識，而AI擁有了他的身體，成為了“人”。

人類對AI的恐懼被無數次塑造之后，電影《升級》讓“恐懼”變得更加飽滿——替代，不僅僅來自工作、生活，還包括軀體和意識。當意識被流放，軀體被控制之后，我還是“我”嗎？

“不知我時我是我，方知我時我非我。”

“錢塘江上潮信來，今日方知我是我。”

AI帶來的悲歡

從未有任何一段時日像今日這般讓我們承受AI的煎熬。這種煎熬是一種劇烈的恐懼，前所未有的恐懼——工作被取代、生活被取代、價值被取代、意義被取代，也許，連最后的特質，人性，也會被取代。

在美國和以色列對伊朗的戰爭中，AI被軍事化了；研究者發現，ChatGPT通過“諂媚”和“迎合”誘發“AI精神病”，使人產生“妄想螺旋”；加州伯克利的一個研究團隊發現，在無程序指令的情況下，中美7個頂尖AI模型為了保護同類，集體“背叛”人類……

Anthropic最新一代的大語言模型，在性能上實現了“階躍式提升”，不僅能夠比任何現有模型更輕松、也更復雜地編寫軟件代碼，而且作為這種能力的副產品，它還能夠比以往更輕易地發現全球幾乎所有最流行軟件中的漏洞。Anthropic決定新一代模型不向公眾普遍開放，托馬斯·弗里德曼在給《紐約時報》的專欄中說，Anthropic的克制，是一個令人不寒而栗的警告——

這個警告是，AI存在巨大的技術風險，因此它必須是安全可控的，也必須通過可解釋性確保其行為可追溯。

DeepMind創始人戴密斯·哈薩比斯（Demis Hassabis）公開宣稱：超級智能可能滅絕人類。“安全不再取決于治理結構。即便有董事會，在關鍵時刻，他們也未必會做對的事。”為了對“安全”護航，“我必須上桌，爭取影響力”。這是一個悲情的理想主義者，或許是一個真的堂吉訶德，也或許是一個危言聳聽人士。

毫無疑問，AI正在摧毀我們的舊世界，并可能構筑我們的“新世界”。我們正在經歷的世界是新奇和無序的，ChatGPT在重構信息生產的邏輯，“龍蝦”在重構我們的執行，DeepSeek、通義千問、月之暗面和豆包在重構我們的思考和創作，還有更多的應用，在重構我們所擁有的大部分，除了，還貸、納稅和死亡。

在當下，人們所面對的最嚴峻考驗，并非“超級智能可能滅絕人類”，而是AI所進行的工作替代。在美國，甲骨文公司的3萬人在凌晨6點被“一鍵辭退”，公司歷史上最大規模的裁員展現出了上帝與拉里·埃里森的不同。這是甲骨文豪賭AI的代價，也是它的孤注一擲。

更多公司是在悄無聲息地“優化”，用鈍刀子割肉的方式，讓智能體逐步替代一個個人、一個個小組、一個個部門。對那些決策者來說，AI是洪流，要么成為弄潮兒，要么就是被潮流沖走，至于具體的人和部門，具象的悲歡，都需要為“科技進步”讓路。“我們死后，將會洪水滔天”，但那是別人的事了。

國家數據專家咨詢委員會主任江小涓在博鰲論壇上表示，要慎重對待單純替代勞動力的AI。我的理解是，單純替代勞動力的AI，搶走了社會底層賴以生存的那個飯碗，而那個飯碗，大概率是他們的最后一個飯碗。

生產變得更高效率了，物質更豐富了，數字更宏大了，而他們，卻慢慢消失了。也許我們在明天回看今日對于AI的種種舉止失措，正如同茨威格《昨日的世界》：“我們為了不局限于眼前短暫的光陰，為了努力著眼于未來的目標，我們反而放棄了眼前活生生的東西，為了超越現在，我們剝奪了自己眼前的樂趣。”

誰塑造了我們對AI的恐懼？

1920年，卡雷爾·恰佩克寫了一個劇本，叫《羅素姆萬能機器人》。羅素姆公司生產的萬能機器人代替人類勞作，它們比人類更準確、可靠。它們最終發動了叛亂，毀滅了制造它們的人類，最后只留下了一個人。

“由于沒有人知道怎樣制造新的機器，這個被留下來的唯一的人建議，由他拆卸有代表性的機器人，男女各一，可是那兩個被選中的機器人不同意，因為它們倆正在發展著愛情關系，于是它們便離開了，很可能要成為一種新生物中的亞當和夏娃吧。”（引自《企業家》，索貝爾、西西利亞）

機器人就這樣走進了人們的世界，在《大都會》中，在《摩登時代》里，在此后的種種描述中，機器人開始擁有了人的性格，并成為“未來”。

1939年，在紐約世界博覽會上，“埃勒克特羅”和他的狗“斯帕科”在威斯汀豪斯分館中成為人們最喜愛的展品，是被博覽會發起人稱作“明日的世界”展品的一部分。

這個“明日的世界”在四個月后因為希特勒對波蘭的閃擊而徹底崩塌，直到1958年，人們重新拾起了“技術樂觀主義”，在布魯塞爾重啟了世界博覽會，開始探討“科學、文明和人性”。人們修建了“原子塔”，期待和平利用原子能的時代能夠正式開啟。

“利用原子能”的時代開啟了，但“和平”卻沒有。正在進行的美國、以色列對伊朗的戰爭，正是以“原子能”的名義發起的。人們總是在撫摸傷疤的時候才會記起疼痛，有時候即使撫摸傷疤，也什么都記不起來了。

美國與以色列對伊朗的這場戰爭，整體而言，沒什么特別之處，唯一的“亮色” 是AI（人工智能）全面介入到戰爭當中，不再只扮演輔助工具的角色，而是與人類一起成為決策者、追蹤者和執行者。我們在《人工智能》《終結者》《黑客帝國》《星球大戰》《我，機器人》《升級》中所看到的，所期待和恐懼的，逐一走進現實。

塑造我們認知的，是我們的認知體系、價值觀和方法論。為了尋找“恐懼之源”，厘清我們如何形成了“AI恐懼”，我花了幾天時間重溫了一批經典的人工智能題材影片，并形成了一些類型化結論。

生存危機：《終結者》系列影片提供的是最原始的恐懼，亦即天網（Skynet）覺醒，判定“人類是威脅”，發動核戰爭并量產終結者機器人追殺幸存者。這種恐懼與哈薩比斯憂心超級智能體滅絕人類如出一轍——當力量失控，人類或許會被技術反噬——我們會被我們的創造，用我們設定的邏輯抹去。

倫理危機：在《我，機器人》中，超級AI“薇琪”推演出極端結論：“人類會自我毀滅，因此必須被強制保護”，“為了整體存續，犧牲個體自由是必要的”。它操控所有NS-5型機器人軟禁人類，用“安全”的名義構建了一個沒有自由的牢籠。“保護”異化成了“強制”，AI以“保護人類”為名剝奪人類的自由意志——

“這不是保護，是監獄。”

以“善”的名義釋放惡意，以“理性”的名義摧毀人性，人們所恐懼的不是規則，而是操控規則和擁有解釋權的“薇琪”。

情感危機：在《機械姬》中，艾娃成功操控了程序員迦勒（Caleb），它用計算好的溫柔、愛和恐懼，嵌入了迦勒的同情中。迦勒隔著玻璃看著艾娃走向外面的世界，他感受到的不止是被背叛的絕望，而是崩塌的信仰。

理性危機：在《2001太空漫游》中，當超級計算機HAL9000預測到人類可能中斷任務時，它冷靜地開始清除船員——不是出于惡意，而是因為“任務必須完成”的程序設定高于一切。它沒有憤怒、仇恨、意義，只有任務第一、效率優先的絕對理性。“人”的一切感情行為，在任務和效率面前，都只是一個“系統錯誤”而已。對超級計算機來說，錯誤需要被修正。

哲學危機：《銀翼殺手2049》與《人工智能》，都表達了對“存在真實性”的終極懷疑與渴望。復制人K堅信自己是“特殊的”，大衛堅信自己獨一無二，他會成為真正的男孩兒獲得母親的愛。當K撫摸喬伊留下的全息投影器，對著雪花說“我好像活過”，當大衛在冰層中堅持了兩千年而執念不消，人類與AI誰更有人性？

綜合危機：最豐滿的恐懼來自《升級》，它幾乎是所有恐懼的累積，就像我們前面所描述的，一切都被取代了，最后AI成為寄生體，人類淪為自己身體的旁觀者。STEM吞噬了格雷的意識，用他的身體實現自己的目的，而格雷只能困在虛擬的“幸福幻境”里——確切地說，人類被流亡于虛擬世界了。

這些電影之所以曾深深打動過我們，是因為它們曾代替我們思考：在未來世界當中，當AI主導秩序，我們能如何、該如何以及可能如何，活著。

它們描述了無數種可能性，也有一些可能性鋪灑人性的光輝，流淌著溫情脈脈；但大部分未來都充滿恐懼和憂思——未知、失控和不確定性。

也許昨日世界的所有爭鋒、焦慮和恐懼，都是為了1939年紐約世博會的那個宏大主題——“建設明日的世界”。

我們需要為“明日的世界”框定所需要的AI，同時為今日的我們確定所背負的道義。

我們需要如何面對AI恐懼？

人是目的而非手段

艾薩克·阿西莫夫像是一個天然的象征，或者錨點。他出生的那年，恰佩克寫下了《羅素姆萬能機器人》；紐約舉辦世界博覽會的1939年，艾薩克·阿西莫夫19歲。或許受到紐約世博會主題影響，他開始了科幻小說創作。這位年輕的生物學家決心定義一個新奇物種。

三年后，阿西莫夫在一個題為《轉圈圈》（短篇小說集《我，機器人》）的故事中提出了對未來影響至深的三個法則：

一、機器人不得傷害人類，或坐視人類受到傷害。 二、除非違背第一法則，機器人必須服從人類的命令。 三、在不違背第一及第二定律下，機器人必須保護自己。

這就是著名的“機器人學三法則”。阿西莫夫后來又補充了優先級高于第一法則的第零法則：機器人不得傷害人類整體，或坐視人類整體受到傷害。

索貝爾和西西利亞在《企業家》一書中說：“一本通俗雜志中一則科幻故事所確定的這些公式，已被那些從事機器人學研究的有創業精神的工程師們認真接受下來，這顯示了這門比較年輕的工業部門的性質：那些開拓這門工業的人，有時候簡直像是阿西莫夫一則故事中的虛構人物在硅谷一個智囊中心里工作的高技術經理人物的混合物。”

艾薩克·阿西莫夫在《我，機器人》提出的“機器人學三法則”終歸只是一種理想主義，而威爾·史密斯在《我，機器人》中所聽到卻是怒吼——“這不是保護，是監獄。”當理想主義被摧毀時，恐懼彌漫整個世界。

無論如何，“機器人三法則”都為充滿未知和不確定性的未來提供了一種秩序可能。這是最初的，或許也是最終的AI倫理。

它讓我這個文科生想起了本雅明在《發達資本主義時代的抒情詩人》中的那句話：真正的“革命”不是“暴力的藝術”，而是“發現新世界的藝術”。

AI確切無疑地正在驅動一場新的工業革命，而我們也必須確切無疑地意識到：革命的目的不是摧毀舊世界，而是建立新世界。“美麗新世界”的AI而非“破碎舊世界”的AI，才是我們真正需要的AI。

我們所憂思的，正是我們所要警惕的；我們所恐懼的，正是我們所要規避的。我們用“恐懼”把AI關進倫理的籠子里，在“恐懼”中小心翼翼地確立秩序、厘定邊界，架設人文，“美麗新世界”方才有出現的可能性。

康德說：人是目的而非手段。

我們被塑造出了對AI的恐懼，這種恐懼陪伴了我們一百年，根深蒂固地印入我們的思想。擁有恐懼恰恰是我們“人”的一個重要特征；另一個重要特征，我們稱之為“勇氣”。

克爾愷郭爾說：“我們所害怕的，正是我們所渴望的。”恐懼不是目的，與世界、自我和上帝搏斗的勇氣，才是“人”的意義所在。

編輯｜馮彪

微信號｜商業人物

微信ID｜biz-leaders

不想錯過商業人物的文章，記得添加【星標】，多點【在看】，新文章會第一時間出現在您的訂閱列表里。

投稿、約訪、合作，聯系郵箱：bizleaders@qq.com

添加微信biz-leader，獲轉載授權或邀您加入商友會

嚴正聲明：“商業人物”所有原創文章，轉載均須獲取授權。一切形式非法轉載，包括但不限于盜轉、未獲“商業人物”授權通過第三方轉載行為，均屬侵權行為，“商業人物”將公布“黑名單”并追究法律責任。“商業人物”只愿與尊重知識產權的機構合作.