前幾天梵蒂岡新任的教皇良十四世發了關于人工智能的通諭。科技圈比較關注的是Anthropic聯合創始人叫Christopher Olah,被邀請去梵蒂岡做了一次演講,隨后融資宣布,說融了650億美元,據稱明年IPO,市場消息是這樣。
這里聊教皇,羅馬教廷和AI,Anthropic以及彼得·蒂爾、馬斯克這些人之間的權力斗爭,以及為此前教皇的AI顧問寫文章發問:是不是應該把彼得·蒂爾燒死。從羅馬教廷來說,已經有把彼得·蒂爾看成異端的跡象了。那么他們對Anthropic、馬斯克以及硅谷的觀點又怎樣呢?
本期不展開談通諭,只說一點,即教皇把人工智能又比作巴別塔,巴別塔我們聊過,就是巴比倫建起的通天塔,建得太高,上帝不滿,所以把人類打散,讓用語言、文化和其他隔閡打散,讓你們沒有辦法團結到一起,通天塔就不會修。今天教皇又把巴別塔拿出來,即從教廷來看,人工智能就是當代的通天塔。
美國媒體對此解讀有幾頭,一說Anthropic去表態;二是對硅谷批判;三是覺得教皇就是說說,形不成影響。
這看起來是歐美的,或者說天主教和硅谷的對抗,但我們至少應該注意兩個前提。一邊是教皇表態,警惕AI奴役人類。另一邊教皇做了認證,AI是新的通天塔了。這是對象性關系,一邊認可風險,一邊給AI的影響力蓋章。
教皇為什么在此時要發這樣一份通諭?以及為什么邀請Anthropic此人去對話和演講?
從教會看,先是教會對社會和技術的包容,天主教到現在,社會化是重要的趨勢,此前方濟各也是屬于比較社會化的教皇,喜歡開玩笑,貼近世俗。到了良十四世,至少社會化不能中斷,你要在社會上產生持續的影響力,和社會的關系要持續融入、持續互動,這在現代化之后是不會變的。
良十四世上臺之前就找準定位了。首先他是美國人,是第一位來自北美的教皇,給自己選了封號是“利奧”或者說“良”。此前大家認為選了美國裔的教皇,至少可以把歐美觀念沖突、權力沖突稍微緩解一點,尤其是和特朗普政府的關系,但新教皇和美國右翼還是調合不了。至少今天他對右派還是很拒斥。
另外是封號。往前倒一下,看看利奧十三世的TrackRecord,就知道他為什么要選“良”這個封號了。
利奧十三世在位時間是19世紀末到20世紀初,在1891年他發過一份通諭,面向第二次工業革命,即歐洲社會從蒸汽化到電氣化的轉型過程,造成了非常多階級矛盾,通諭呼吁要把技術為我們所用,在技術變革的大時代,工人階級、無產階級怎么生存,政治家資本家應該達成什么樣的共識,通諭翻譯成中文叫《新事》。所以利奧十三世被認為是無產階級或者說是工人階級的教皇,他留下了這么一個名聲。
所以教皇成為利奧十四世的那一刻,他就想清楚定位和使命了。他要繼承名字,繼承遺產,甚至繼承選題。他人工智能的通諭《壯麗的人性》選在在5月15日簽署,5月25日發布。而1891年的5月15日,利奧十三世簽署了《新事》。
我的疑問是,這么做能夠提升教皇通諭的神性嗎?
目的性是否太強?教皇是上帝和信徒之間的信使,135周年的當天,這個巧合的時間,是上帝選的還是人選的?當然我不是教徒,對上帝傳諭不熟悉。但你選擇封號,繼承遺產,繼承選題,甚至繼承日期,在我看來行為有點社會化。如果是一家公司,一個企業家,甚至是一個政客用這種刻奇的手法,我都能理解,但教皇這么做,我不那么信服。
此外,利奧十三世發《新事》的時候,社會矛盾很深,馬克思、恩格斯組建的第二國際和革命活動很活躍。今天的政治環境,方濟各的觀點一直是說分散的、小型的、分散的第三次世界大戰。也是定義社會、技術、政治階段的依據。
通諭4萬字,在2026年5月份發出來,普遍的、合理的懷疑是不是拿AI寫的,有媒體提出問題,到底是神父牧師和管理層,開會討論,手寫出來,大家通讀,然后再簽字,還是拿AI生成了這4萬字文本?
我認為這個問題提偏了。我的觀點,以及從教皇的角度出發,不是拒斥AI,更不是禁止,只是說要在人和人工智能之間,站到人這邊。所以即便用AI寫稿,只要代表教會意志,就沒問題。最近的專欄,我一直在談人文精神、人文主義。科技要以人為本,科技必須以人為本,你別拿超人類主義當借口,別告訴我技術可以引領人類解放,即便要解放,也不能用奴役人類的方式去實現。
總結來說,教皇此時發通諭,除了上帝諭旨,我認為有社會化的原因。另外,是教會要和AI搶奪話語權。我始終認為AI被人高估了,拿蘇格拉底、柏拉圖,拿康德這些哲學家定義的人的靈魂去衡量,你就知道人理性產物不可能取代人類,復制不了人類。至于說人類會不會把自己簡化掉、閹割掉,只剩下理性和算計,我不知道,如果能實現,AI奴役人就是可以實現的。所以我始終認為,AI技術最終能做到什么程度不重要,人信不信AI最重要。
比如現在資本和市場是有統治力的,但是否說明馬克思主義或者社會主義就一定不如資本制度更好?不是,這是另外一碼事。資本和市場制度通行,是因為人們相信它。現代社會在資本主義這條線上跑了很久了,大家相信私有制,主張個人權利,集體主義越來越弱了,這是信不信的問題,不是客觀上誰更好的問題。AI是一樣的,它實際能做到什么不重要,重要的還是你相不相信它可以主導人類社會。
教皇在通諭里面談了很多次世俗生活和人文精神,世俗就是人文,從啟蒙運動來的。宗教改革帶來個人主義,帶來理性主義,盧梭這些人為人文精神打了底,啟蒙運動又帶來資產階級革命,現代社會資本主義和個人主義這條線上越跑越遠。
教皇從人文出發,從人類的福祉出發,這是宗教進入現代化的前提。但拉人文站隊,本身屬于權力博弈,是宗教+人文對抗資本+技術。教皇有義務維護天主教統治,這是他的問題,對我來說,盡管這是權力斗爭,但教會的人文理由我是認可的,任何主張,都要從人類的福祉出發,從世俗幸福出發,人活得好不好,有沒有受到剝削,人和人有沒有良好的關系,心里有沒有愛,這很重要,所以教皇開展的是權力斗爭,但我認可他的理由。
第二件事,著重談一下Anthropic此人的發言,先說結論,我對Anthropic此人在梵蒂岡的發言不買賬,非常不喜歡。教會選擇的此人或許不是極右派,相對硅谷右翼和所謂黑暗啟蒙運動的這幫人主張不同,但不影響他這次欺世盜名。
此人叫Christopher Olah,Anthropic聯合創始人。他的原話:
“如果我們希望這項技術朝著好的方向發展,至關重要的一點是必須有不受這些激勵機制影響的人存在”。
“如果這項技術勢不可當,它必須向好的方向發展,為了我們的家園,也為了我們的后代”。
激勵機制是指社會問題,比如說地緣政治,AI的軍事運用,這句話正本清源,首先要批判它。闡述的主題也沒有問題,AI怎樣為人類帶來福祉。但這是表態站隊,他的演講提出了哪些信息量呢?
第一,他認為AI應該去哪兒,不應該由他們計算機科學家來解決。AI的社會議題,應該由政治家、宗教家、社會活動家、資本家去解決。并稱“AI這個東西本質上不是一個所謂的工程設計”,強調AI是“生長”的,他可能想說AI是有自我意識的東西,類似于生命。還說“AI即便是對于我們這些創造者而言,它們仍然充滿神秘。”
這里他的出發點是說要讓渡權力,AI由我研究,但在社會上怎么用我說了不算,我只是一個創造AI的人。但緊跟著的話就是賦魅,而不是祛魅。他沒有告訴你人工智能怎么來的,不是,而是第一句話就告訴你,你們對AI理解錯了。說它是由我們創造出來,是由人類的語言生產出來,但它自己能生長。
你今天跑到這兒來,我們認為人和AI應該怎么相處的時候,你跑在這兒先告訴大家,這個他一上來就告訴你,我們生產出來的人工智能這個東西可不得了,它會怎么著我可不知道。
第二段話,“我們應該如何確保AI的收益在全球范圍內得到共享,目前我們還沒有相應的機制,AI的發展集中在少數幾個富裕國家”。
這是技術平權的問題,我之前專欄談過幾次,互聯網web3AI任何技術都沒有實現過最初的平權愿景,都是被寡頭掌握的。他承認這一點,說AI掌握在少數幾個富裕國家手里,這是問題。
但AI是國家與國家的問題嗎?AI帶來僅僅是地緣政治問題嗎?教會既然發生,證明它首先是倫理問題,或者至少應該是階級問題,它定義成政治問題是轉嫁矛盾。AI在美國內部難道不是資本家和技術官僚剝削其工人農民的工具嗎?它怎么就掌握在“富裕國家”手里了,它是掌握在你們全球寡頭手里對吧?
AI絕不是政治問題,至少是階級問題。再往上談,它甚至是信仰問題,天主教宗教和技術宗教之間的問題,你要警惕那些“富裕的國家”,對不起,我要警惕的是你,是你們這些技術官僚。馬斯克和彼得·蒂爾之前一直在談,說職能技術會重建全球帝國,主權國家之間的是次要矛盾。掌握技術和不掌握技術的人之間才是主要矛盾。所以此人跑到梵蒂岡去作演講,態度上誠懇,但一句實話沒有。是純 PR行為,配不上教會的場合,不談信仰,不談真理,甚至連價值理性都是裝出來的。
第三段,“如果AI模型將得到廣泛應用,那么對人類家庭和世界而言,他們意味著什么?父母已經在為孩子的思維擔憂,個人也在為未來的工作前景擔憂,這些并非實驗室能回答的問題”
這是好話,雖然建設性為零,但總算好話。
第四段,“需要對AI模型的本質進行分析,我是一名科學家,我領導著一支研究這些模型內部結構的研究團隊,他們內部到底發生了什么,我將坦誠相告,我們不斷發現一些神秘的甚至令人不安的事物,我們發現了反映人類神經科學研究結果的結構,我們發現了內省的證據,我們發現了在功能上反映出喜悅、滿足、恐懼、悲傷和不安的內部狀態,我不知道那意味著什么,但我認為這值得持續地審慎考量”。
這最惡劣的一段話。我不知道他具體在說什么,大概想說AI模型結構上像人類,喜悅、滿足、恐懼、悲傷和不安的情感也像人類。然后扭頭又告訴你,我不知道這意味著什么。是說我是一個AI造物主,但我沒辦法解釋它的行為。這是什么?嚴重賦魅。
他宣稱稱自己是科學家,人類的科學一直以理性為前提。你要基于已知,用理性推導出來下一個已知。你一上來就談未知,而且每條信息都在你的模型黑箱里,你說你看到,我們只能相信你看到。你說的每一句話,要么就是信息不對稱,要么就是推卸責任的。
非要談未知,至少要先交代你的已知,談完了再涉及未知,而不是一屁股坐下,一邊顯擺自己太偉大了,是造物主。另一邊嚴重放大了人類對AI的恐懼感。
我懷疑的是,你即便在人工智能身上看到了喜悅、滿足、恐懼、悲傷和不安又怎么樣呢?人類的理性和現代科學,能解釋世界的多少東西?
幾年以前高曉松在節目里提過一句,說人類太自大,你去外邊的老槐樹上掰一片樹葉下來,代科學都只能解釋它最基礎的結構而已。科學能夠創造出來最精密的儀器能精密到哪兒?跟大自然的構造有可比性嗎?人體結構你了解多少?金字塔底下有什么你知道嗎?我昨晚做了一個夢,你用科學能解釋嗎?非得用數據說的話,世界上99.9%的事用科學都解釋不了,人類都理解不了,丈量不了,可這有什么值得擔心的呢?即便AI產生了既有的科學、數據、理性解釋不了的事物,又怎么樣?以此嚇唬人有意義嗎?
最后,此人說:
“我想作為一個請求結束,我們覺得我們這個世界上需要更多的宗教,更多的公民社會,更多的學者、政府以及懷有善意的人去踐行勝負在此所做的事情”。“今天我們坐在這兒就是一個強有力的展示,就是一個強有力的號召,就是一個強有力的決定性的一步,也讓今天邁向壯麗人類充滿未來希望的決定性一步”。
最后一句還舔了教宗屁股,去切合了壯麗人類的通諭主題。
這是資本家不可信的典型表現。此人講了一堆符合私利的話,做了非常普世價值的表態。我的看法是,這是一次極為惡劣的示范。教會展現了宗教對社會的包容,但你卻暴露了資本家的劣根性。再一次證明了資本主義無法承載真理。
下一篇再談彼得蒂爾和教皇的斗爭,已經白熱化了,下次見。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.