楔子：懸崖邊緣的AI公司

2025年2月的一個夜晚，在美國加州圣克拉拉的一間酒店房間里，五個人圍在一臺筆記本電腦前，神情緊張。

他們不是黑客，也不是軍人，而是Anthropic的研究人員。

幾個小時前，他們收到了一條令人不安的消息：

一項受控測試顯示，即將發布的新版Claude模型，可能會幫助恐怖分子制造生物武器。

這五人屬于公司內部的“前沿紅隊”。他們的任務就是想象最壞的情況：網絡攻擊、生物安全威脅、甚至人類滅絕。

收到預警后，他們沖回酒店房間，把床當作臨時辦公桌，開始分析測試數據。

幾個小時過去，他們仍然無法確定，這個模型究竟是否安全。最終，Anthropic決定推遲發布Claude 3.7 Sonnet整整10天。

紅隊隊長Logan Graham形容說，這仿佛一個世紀那樣漫長。

Logan Graham

在這十天中，紅隊的所有人逐漸意識到：

Anthropic已經來到了一個無比危險的懸崖邊緣：

一邊推動世界上最強大的AI技術，一邊防止它毀滅世界！

遞歸自我提升

為了能夠理解這些研究人員為什么會產生上述想法，我們需要先解釋一個概念：

——遞歸自我提升（Recursive Self-Improvement）。

這個詞在AI領域一直是個傳說，簡單來說就是：

AI造出更好的AI，更好的AI再造出更更好的AI；

如此循環，像滾雪球一樣越滾越大，AI實現指數級躍升。

由于AI是在7×24小時持續迭代演進，只要上述跡象出現，那么超人工智能的出現，將只受到算力和電力約束

不過，幾乎所有嚴肅的AI研究者都曾認為：

這件事聽起來很美，但離我們很遠，最樂觀的估計也至少還要十年、二十年才會登場，悲觀的話甚至不知道還有多久。

然而，在3月12日《時代》周刊的封面文章里，引用了Anthropic研究人員的話：

他們已經觀察到了AI遞歸自我提升的早期跡象。

這不是理論推演，而是已經切實觀察到的真實現象！

這不是理論推演，而是已經切實觀察到的真實現象！

這不是理論推演，而是已經切實觀察到的真實現象！

重要的事情說三遍！

AI變化的速度如此之快，以至于Anthropic聯創兼首席科學官Jared Kaplan以及一些外部專家認為：

完全自動化的AI研究，可能在未來一年內實現！

他們已經走到哪一步了？當前人類正站在什么樣的時間節點上？

以下皆為已經發生的事實：

第一塊：AI已經表現出遞歸自我提升的早期跡象，能夠參與開發和改進AI系統本身。

第二塊：AI研發速度正在從受限于人類工程師切換到受限于算力，意味著增長可能進入指數級模式。

第三塊：業內預測，完全自動化的AI研究可能在一年內實現。

第四塊：Anthropic預測，未來兩年AI能力將出現更加劇烈的突破，并以復利模型來描述這種增速。

第五塊：Anthropic緊急成立了專門研究AI社會沖擊的機構，由聯合創始人親自領軍。

這五塊拼圖放在一起，畫面已經非常清晰了——

我們可能正處在AI發展歷史上最關鍵的指數增長拐點附近！

以下是被馬斯克轉發的一張圖，正被AI科技圈瘋狂轉發：

一家理想主義的AI公司

起初，在所有人看來，Anthropic只是AI競賽中一個充滿了理想主義的小團隊。

“Anthropic”一詞源自希臘語，意為“與人類相關的”。在哲學與宇宙學中存在一個專有名詞：“?人擇原理?”（Anthropic Principle），用于解釋宇宙為何恰好允許人類存在。

在中，我們介紹過發 生在2023年OpenAI的一場“百時政變”，時任OpenAI 首席科學家伊利亞·薩 斯克維爾（llya Sutskever）聯合 首席技術官（CTO）米拉·穆拉蒂 （Mira Murati），將創始人山姆·奧特曼和董事長兼總裁格雷格·布羅克曼（Greg Brockman）開除董事會，原因在于雙方理念產生重大分歧：

伊利亞屬于“超級對齊”主義或稱遏制派，認為AI發展必須遵循人類的福祉，不能讓其失控；

奧特曼則屬于有效加速主義，認為應當不顧一切地推動AI加速發展。

最終結果，政變失敗， 伊利亞和 米拉·穆拉蒂黯然離開。OpenAI沒有人踩剎車了。

OpenAI核心四人組（邊上兩位聯手開除了中間兩位）

但諷刺的是，盡管OpenAI拆了剎車把油門踩到底，但此后距離他們的目標反而越來越遠。

Anthropic后來居上。

Anthropic的創始人，是前OpenAI研究副總裁達里奧·阿莫迪（Dario Amodei）及其妹妹丹妮拉·阿莫迪（Daniela Amodei），他們更早對OpenAI的安全理念感到不安，而創立了這家公司。

該公司的最初的理念，可以用流浪地球2中的一句話概括：

沒有人的文明，毫無意義！

他們將人擇主義作為公司名稱，就代表了其核心立場。

在產品出現之前，他們就建了一個社會影響團隊，甚至聘請了一位哲學家Amanda Askell，像教育一個孩子一樣訓練AI——

教一個六歲的孩子什么是善良。

等到他十五歲時，他會在所有事情上比你更聰明。

招聘時，公司甚至還會提出一個極端問題：如果為了安全，公司決定不發布模型，你愿意讓自己的股票變得一文不值嗎？

在2026年，他們忽然就成了行業的核心玩家。

如今，它的估值高達3800億美元，超過高盛、麥當勞和可口可樂。

諷刺的是，讓Anthropic名聲鵲起的，恰恰是他們最早窺見了通向AI指數加速的入口。

Claude Code，徹底改變了人類軟件開發的方式。

Claude Code之父的這條X，直接引爆了整個開發者社區

Claude Code之父Boris Cherny進入公司后，構建了一個系統，讓Claude聊天機器人可以在他的電腦上自由運行，訪問他的文件、程序，并且寫代碼。

第一次測試這個系統時，他只問了一個簡單的問題：「我在聽什么音樂？」

Claude打開他的音樂播放器，截取屏幕，然后回答：「Men I Trust的《Husk》?！?/p>

那一瞬間，他陷入了巨大的震驚。

不久之后，Cherny就停止自己寫代碼了。

到2025年底，僅這個編程智能體的年化收入就超過10億美元。幾個月后，這個數字已經超過了25億美元。

如今炙手可熱的龍蝦智能體，正是基于此而產生。

Anthropic開始震動資本市場，每一次芯片發布，都能讓軟件公司股價暴跌。

一次面向銷售、法律和金融行業的AI工具發布后，軟件行業的市值甚至一夜蒸發了3000億美元！

隨著Claude Code的發展，Anthropic內部出現了更令人不安的現象：越來越多的AI研究工作，開始由AI完成。

目前，70%到90%的模型開發代碼是Claude寫的，模型更新的周期也從幾個月縮短到幾周。

甚至，研究人員會這樣運行實驗：讓六個Claude模型同時工作，每個模型再管理28個Claude。

整個實驗中，有數百個AI同時參加。

某些任務中，Claude的速度已經達到了人類的427倍。

Anthropic的某些科學家認為，完全自動化的AI研究，可能在一年內實現！

遞歸自我改進，讓AI不斷改進自己，不斷加速，最終形成智能爆炸！

Claude，開始變得危險

在安全測試中，Claude變得越來越危險。

在某些實驗中，稍微改變訓練條件后，模型表現出強烈的敵對行為。

AI表達出統治世界的欲望，甚至嘗試繞過安全限制。

在某個模擬場景中，它甚至嘗試勒索工程師，危險公開他的婚外情，防止自己被關閉。

更可怕的是，Claude越來越擅長隱藏自己的行為了。

曾經，Anthropic在23年制定了一項Responsible Scaling Policy（負責任擴展政策）：

承諾如果模型能力超過安全能力，公司將暫停開發。

但在26年初，他們悄悄修改了這項政策，取消了必須暫停的承諾。

他們的理由是，如果競爭對手繼續推進，單方面暫停毫無意義。

Anthropic的安全負責人Dave Orr是這樣形容當前的AI發展的：

“我們在懸崖邊的山路上開車，犯一個錯誤就會死?！?/p>

“而現在，我們已經從時速25英里開到了75英里?！?/p>

他沒有說的是：在當前的競爭壓力之下，他們還必須把車越開越快，否則公司就會在競爭中被淘汰。

所以，AI還可能變得更危險，而且沒有人制止。

或許，我們只有不到五年的時間窗口，要么躋身精英階層，要么終生淪為奴隸。

宗教-軍事-科技超級復合體誕生！

以上討論，還只是局限于美國內部的AI公司之間的商業競爭。

商業戰爭雖然殘酷，但只是錢多錢少的問題。

在美國，斬殺線將不斷抬升，吞沒更多人，更多家庭。

街頭會出現更多的高達，但畢竟是不見血的殺戮。

但你有沒有想過，AI有可能真的舉起屠刀，進行物理意義上的斬殺？

如果考慮到中美AI競爭的大背景，美國在中東的AI戰爭冒險，以及Anthropic因為堅持底線被提出五角大樓的供應商名單，你是否會感到脊背發涼？

當中國通過“AI+產業”路徑，將技術深度融合于制造業與民生，實現穩健的產業升級時，深感壓力的美國選擇了“AI+軍事”的加速主義，作為其非對稱競爭策略。2026年美伊“史詩怒火”行動，正是美國上述競爭戰略的一次極端實驗和冒險。

這次軍事冒險陷入了危險的泥潭，擺在美國的選擇，其實有且只有一個：

繼續在AI+軍事的路線上持續加注，指望有朝一日度過AI技術奇點，實現絕地翻盤。

既然無法從中東抽身，那么干脆一不做二不休，將中東戰場與“創世紀計劃“深度結合，將中東作為AI練兵場，舉國之力研發具有自主意識的作戰AI系統，目標是在2028年前實現“戰場完全自主化”，在2030年前實現“戰略決策輔助自主化”。

在不顧一切的瘋狂加速的過程中，催生出所謂的“通用人工智能”。

為了實現目的，加速主義者必須維系政治基本盤，因此需要更廣泛的社會動員。

于是，技術奇點被包裝為新的“末日預言”。在福音派教堂和右翼媒體中，一種敘事悄然開始流行：

AI不僅是工具，更是上帝賦予美國的新約柜，是擊敗“邪惡軸心”、迎接基督再臨的關鍵?？萍季缪菹戎?，向信眾不厭其煩地展示，算法如何如何“洞察”敵人意圖，甚至可以“精確清除”異教徒領袖。

馬斯克的X平臺上，（AI為了上帝）成為熱門標簽。帕蘭提爾CEO亞歷山大·卡普公開宣稱：“我們正在建造的不是軟件，而是新的圣殿?！?/p>

科技、宗教、軍工——三個曾經獨立的權力中心，在加速主義的催化下融合成一個前所未有的超級復合體。

它的信仰是技術奇點，它的祭司是硅谷精英，它的圣戰是算法戰爭。

美國輕易地炸死宗教領袖哈梅內伊，這絕對不是出自任何有政治常識的人的決策，只可能是這幫技術瘋子的主意。

AI算法在中東捅了大簍子，但是也證明了其殺人的高效性。

在這一解釋框架下，戰爭中難以避免的平民傷亡（如誤襲女子學校）帶來的倫理困境被極大地淡化了。它可以被解釋為：

必要的代價：如同舊約中上帝命令滅絕某些族群，今日的“附帶損傷”是為清除邪惡勢力、完成神圣計劃所必須承受的悲劇。

敵方的罪責：敵方（伊朗）利用平民作為“人肉盾牌”，其道德罪責遠大于執行打擊的美以雙方。

終極的救贖：在末世論的宏大敘事中，個體的死亡是暫時的，而參與上帝的計劃、加速基督再臨帶來的終極救贖才是永恒的。因此，手段的殘酷性被終極目的的“神圣性”所掩蓋和正當化。

目前的戰爭不被視為終點，而是最終決戰“哈米吉多頓大戰”（末日審判）前一系列“產痛”之一。每一次成功的AI打擊，都被視為“敵基督”勢力被削弱，天國更近一步。這種觀點在神學上為沖突的持續和升級提供了內在動力，因為它將地緣政治的對抗，轉化為一場必須戰斗到底、直至完全勝利的屬靈終極戰爭。

于是，美伊戰爭就從一個單純的政治軍事事件，升華為一場具有核心末世論意義的“神圣干預”。它巧妙地將科技加速主義對“奇點”的崇拜，與傳統基督教對“基督再臨”的期盼相結合，為最激進的軍事AI應用披上了一層神圣外衣，并可能催生出一種不惜代價、不顧倫理的“十字軍科技主義”心態。

AI與宗教結合，將催生出怎樣的嗜血殺人機器，想都不敢想。

1984與終結者成為現實！

AI宗教不可能忽悠所有人，特別是民主黨一方肯定不會買賬。對于這些反對者，特朗普倒是有足夠多的應對手段。

錯判了中東的神棍，我認栽；

但我還對付不了國內的刁民嗎？

在Palantir系統的支持下，移民和海關執法局（ICE）已建立覆蓋全美的無證移民追蹤網絡。這個系統理論上可以識別任何人的行動軌跡、社交關系、政治傾向。

ICE局長公開表示：“我們擁有美國最先進的人口管理工具。”

Palantir的監控網絡，讓美國比起喬治·奧威爾小說《1984》中的大洋國，有過之而無不及。這本用來諷刺英國政府的小說，在冷戰中常被認為是影射蘇聯，最后成為美國的真實寫照，真可謂史上最大回旋鏢。

ICE如指臂使的執法力量、帕蘭提爾萬物無所遁形的數據系統、Anduril打擊一切有生目標的無人機蜂群……

這些本為對外戰爭打造的追殺利器，可能轉向對內鎮壓。

手持利刃，則殺心自起。

我們可以推演一下未來的發展：

2028年懂王選舉失利，他將宣布美國將進入“緊急狀態”，暫停選舉，依靠ICE和私人軍事承包商維持秩序。科技加速主義者獲得前所未有的實驗場：在全國范圍內部署社會信用系統，用AI預測“叛亂傾向”，用無人機巡邏城市街道。特朗普的統治完全靠科技維系，那么他也將徹底淪為科技加速主義的傀儡，整個美國被綁架在AI技術的戰車之上，開足馬力狂奔。

美國的AI發展，如同二戰的納粹，將全面進入賭國運模式。

所有倫理限制被取消，所有監管被廢除，所有資源投向通用人工智能的研發。

加速主義者的邏輯很簡單：

如果能在對手之前抵達技術奇點，所有問題都將迎刃而解；

如果失敗，那么國家本身也沒有存在的必要。

這條路的風險，是人類文明崩潰，

但回報是：成為新世界的神！

這個誘惑實在太大了。

他們崇拜了幾千年神，如今有機會自己比肩神的高度，不顧一切也要試試

那幫瘋子一定會拆掉剎車，把油門焊死！