人工智能的飛躍式發(fā)展使通用人工智能（AGI），即在所有認知任務上超越普通人的AI，從科幻概念逐漸成為現(xiàn)實可能。近日，《經濟學家》雜志刊發(fā)關于通用人工智能的系列展望文章指出，通用人工智能的到來可能打破經濟增長限制，人類需積極應對技術與制度失衡，加強安全協(xié)作、緩解不平等、規(guī)劃宏觀政策，使人類在這場變革中走向更好的未來。

原文 ：《人類需要與技術突破匹敵的文明韌性》

作者 |薛梓涵 楊勇

圖片 |網絡

金融與全球秩序

AI驅動的增長爆發(fā)還將顛覆金融市場與政府財政。一方面，投資需求將飆升：EpochAI模型顯示，今年對AI的最優(yōu)投資應為25萬億美元（是當前的50倍），同時基礎設施、工廠等非科技資本需求也將激增；另一方面，儲蓄意愿會下降——人們預期未來收入暴漲，就會傾向于即時消費。這種供需錯配將推高實際利率，可能達到20%—30%。資產價格陷入博弈：利率上升壓縮股票估值，經濟加速又可能提振盈利，學者們的觀點將有明顯分歧；土地等資產因供給固定或受益于AI的能源需求，但高利率又會重創(chuàng)其估值。

高利率會加劇政府債務負擔，既需支付巨額利息，又面臨失業(yè)催生的再分配訴求；不擁抱 AI 的國家將遭遇資本外流與財政緊縮雙重擠壓。但當前市場尚未為這種劇變定價。麻省理工學院的研究顯示，新AI模型發(fā)布時債券收益率反而下降，說明投資者尚未將爆發(fā)式增長納入預期。斯坦福大學的巴茲爾·哈爾佩林（Basil Halperin）指出，“市場并未高概率預測這種情況的發(fā)生”——這種滯后可能意味著，若AI進展如硅谷所料，全球將面臨顛覆性震撼。

人類正走向未知疆域。通用人工智能的發(fā)展可能帶來史無前例的繁榮：商品極大豐富，疾病得以治愈，甚至突破能源與壽命的限制；但也可能加劇不平等、引發(fā)金融動蕩和安全問題。正如經濟學家羅伯特·盧卡斯（Robert Lucas）所言，經濟增長對人類福祉的影響如此深遠，“一旦開始思考其意義，便再難關注其他事物”，而人工智能正將這種效應放大到極致。當前的核心矛盾在于：技術進步速度遠超制度的適應能力。實驗室的競速邏輯難以逆轉，監(jiān)管框架尚未成型，社會對“如何分配增長紅利”仍無共識。若要駕馭這場變革，需在三方面著力：建立全球協(xié)作的AI安全機制，避免“底線競爭”；通過稅收、教育改革緩解收入分化，為普通勞動者提供轉型支撐；央行與政府需提前規(guī)劃，應對高利率、資本流動等宏觀挑戰(zhàn)。

安全應永遠被置于首位

AI的加速發(fā)展令人振奮的同時也伴隨著安全隱患。谷歌DeepMind的研究警示了四種危險路徑：惡意濫用（如恐怖分子利用AI制造生物武器）、目標錯位（AI與人類訴求偏差，如“回形針狂魔”場景）、操作失誤（因現(xiàn)實復雜性誤判后果）、結構性風險（多AI競爭加劇系統(tǒng)性問題）。

各實驗室在加速推進AI研發(fā)的同時，OpenAI、Anthropic等實驗室也一再宣稱“安全優(yōu)先”。馬斯克一度呼吁暫停研究；未來生命研究所（FLI）的評分顯示，谷歌DeepMind、OpenAI、Anthropic三家在“評估大規(guī)模風險”上做出了實質努力，但xAI、深度求索等則未公開相關行動。目前，實驗室試圖通過“基于人類反饋的強化學習”讓AI拒絕有害指令，或用第二層AI監(jiān)控風險對話。不過，AI處理復雜任務能力的增長速度遠超人類對其工作原理的理解?！翱山忉屝浴毖芯吭噲D破解AI決策黑箱，提升模型透明度。研究者還基于“推理模型”構建“忠實思維鏈模型”，確保其行動理由與動機一致。這些安全措施或許有效，但若拖慢模型速度、增加成本，便會陷入兩難。

未來，AI的發(fā)展仍可能因數據枯竭、投資減少或監(jiān)管加強而放緩。部分專家持風險論，同時，也有部分專家仍保持樂觀。而我們的核心問題始終是：研發(fā)要為應對潛在災難做足準備。避免商業(yè)競爭的殘酷現(xiàn)實使安全問題退居其次，始終是AI發(fā)展的重中之重。

人類或許會發(fā)現(xiàn)自身的智能可以被超越，但文明的存續(xù)仍將依賴智慧——對風險的敬畏、對公平的追求，以及對變革的理性接納。人類需要的不僅僅是技術突破，更是與之匹配的文明韌性。

[綜合編譯自《經濟學家》雜志《超級智能經濟學》《人工智能實驗室的孤注一擲式競爭讓人無暇顧及安全問題》《如果人工智能讓全球經濟增長爆發(fā)會怎樣》等文]

文章為社會科學報“思想工坊”融媒體原創(chuàng)出品，原載于社會科學報第1972期第7版，未經允許禁止轉載，文中內容僅代表作者觀點，不代表本報立場。

本期責編：程鑫云

《社會科學報》2025年征訂

點擊下方圖片網上訂報↓↓↓