智東西
作者 李水青
編輯 云鵬

智東西4月11日消息，當?shù)貢r間4月10日凌晨3點45分，OpenAI CEO薩姆·奧特曼（Sam Altman）的住所遭人投擲燃燒彈，該裝置燒毀了其舊金山房屋的外門，無人受傷。

事發(fā)后，奧特曼發(fā)長文報平安，并亮出孩子和男友照片，似乎有一種驚魂未定的感覺。他在文中反思自己此前低估了輿論煽動帶來的危險，同時反思自己在OpenAI期間的失誤與驕傲。

據(jù)OpenAI公司及警方消息，嫌疑人為一名20歲男子，目前已經(jīng)被逮捕。該嫌疑人在黎明前引燃了奧特曼住所的外門，約一小時后在約三英里外的OpenAI總部被找到，當時他正揚言要燒毀大樓。據(jù)悉，OpenAI公司辦公區(qū)域周邊將加強警力部署。

事發(fā)之后，奧特曼在官方博客發(fā)布長文。他不僅對恐怖行為有不少感觸，還迅速思考了背后的原因和對策，主要內(nèi)容總結(jié)如下：

1、有人因?qū)λ目捶ǘ蚱浼抑型稊S燃燒彈，幸好未造成傷害。他意識到煽動性文章和極端言論會加劇個人危險，呼吁緩和言辭、減少沖突。

2、推進AI是道德責任，但必須應(yīng)對社會焦慮。AI將帶來巨大變革，人們對AI的恐懼和焦慮是合理的，需要全社會共同應(yīng)對新威脅，并制定政策幫助經(jīng)濟轉(zhuǎn)型。

3、AI必須民主化，權(quán)力不能集中。未來的控制權(quán)屬于所有人及其機構(gòu)，不應(yīng)由少數(shù)AI實驗室決定發(fā)展方向。

4、堅持原則、拒絕埃隆·馬斯克單方面控制OpenAI而自豪，但也承認自己回避沖突、與前董事會處理不當導(dǎo)致混亂。OpenAI已從小型創(chuàng)業(yè)公司成長為主要平臺，需要更可預(yù)測地運作。

5、一旦看到AGI就無法忽視，它會讓人產(chǎn)生“控制AGI”的執(zhí)念并做出瘋狂行為。唯一解決方案是廣泛分享技術(shù)，無人擁有絕對控制權(quán)，并確保民主進程比公司更強大。

奧特曼發(fā)布的回應(yīng)全文如下：

這是我家人的照片。我愛他們勝過一切。

我希望照片是有力量的。通常我們盡量保持低調(diào)，但這次我分享這張照片，是希望它能阻止下一個朝我家扔燃燒彈的人，不管他們對我有什么樣的看法。

第一個人昨晚凌晨3點45分這么做的。幸好它從房子上彈了回來，沒有人受傷。

語言是有力量的。幾天前，網(wǎng)上出現(xiàn)了一篇關(guān)于我的煽動性文章。昨天有人跟我說，他們覺得這篇文章發(fā)表在大家對AI極度焦慮的時期，會讓我處境更加危險。我對此不以為意。

現(xiàn)在我半夜醒來，怒火中燒，心想我真是低估了語言和敘事的力量。看來現(xiàn)在是時候談?wù)勔恍┦虑榱恕?/p>

首先，說說我的看法。

為所有人創(chuàng)造繁榮，賦予所有人力量，推進科學(xué)技術(shù)發(fā)展，是我義不容辭的道德責任。

AI將成為人類能力和潛能拓展史上最強大的工具。人們對它的需求幾乎是無限的，并將用它創(chuàng)造奇跡。世界需要大量的AI，我們必須找到實現(xiàn)這一目標的方法。

一切并非一帆風順。人們對AI的恐懼和焦慮并非空穴來風；我們正經(jīng)歷著社會多年來，甚至可能是史上最大的變革。我們必須確保安全，這不僅僅是調(diào)整模型的問題——我們迫切需要全社會共同應(yīng)對，以抵御新的威脅。這包括制定新的政策，幫助我們度過艱難的經(jīng)濟轉(zhuǎn)型期，從而邁向更加美好的未來。

AI必須民主化；權(quán)力不能過于集中。未來的控制權(quán)屬于所有人及其機構(gòu)。AI需要賦予個人權(quán)力，我們需要共同決定我們的未來和新的規(guī)則。我不認為少數(shù)AI實驗室決定未來走向是合理的。

適應(yīng)能力至關(guān)重要。我們都在快速學(xué)習新事物；我們的一些信念會是正確的，一些會是錯誤的，隨著技術(shù)發(fā)展和社會演變，我們有時需要迅速改變想法。目前還沒有人完全了解超級智能的影響，但其影響將是巨大的。

其次，一些個人感想。

回顧我在OpenAI的第一個十年里所做的工作，我有很多值得驕傲的事情，也犯了很多錯誤。

我當時在想我們即將與埃隆·馬斯克進行的那場考驗，也想起了我當時是如何堅持原則，不肯接受他想要單方面控制OpenAI的。我為此感到自豪，也為我們當時為了OpenAI的延續(xù)而走過的艱難道路以及之后取得的所有成就感到驕傲。

我并不以自己回避沖突為榮，這給我和OpenAI都帶來了巨大的痛苦。我也不為自己在與前任董事會的沖突中處理不當而感到驕傲，那次沖突給公司造成了巨大的混亂。在OpenAI這段瘋狂的發(fā)展歷程中，我犯過許多其他錯誤；我是一個身處極其復(fù)雜局面中心、自身存在缺陷的人，我努力每年進步一點點，始終為公司的使命而奮斗。我們一開始就知道AI的利害關(guān)系有多么重大，也知道我關(guān)心的人之間那些出于好意的個人分歧會被無限放大。但真正經(jīng)歷這些痛苦的沖突，并且常常不得不去調(diào)解，又是另一回事，而代價也十分慘重。我向那些被我傷害過的人道歉，也希望自己能更快地吸取教訓(xùn)。

我也非常清楚，OpenAI現(xiàn)在是一個大型平臺，而不是一家初創(chuàng)公司，我們需要以更可預(yù)測的方式運作。過去的幾年極其緊張、混亂且壓力巨大。

不過，最讓我感到自豪的是，我們正在實現(xiàn)我們的使命，這在創(chuàng)業(yè)之初似乎是天方夜譚。我們克服重重困難，成功打造了功能強大的AI，籌集到了足夠的資金來構(gòu)建基礎(chǔ)設(shè)施，建立了產(chǎn)品公司和商業(yè)模式，大規(guī)模地提供了安全可靠的服務(wù)，等等。

很多公司都聲稱要改變世界，而我們做到了。

第三，我對這個行業(yè)有一些想法。

過去幾年，我個人的體會，以及對我們這個領(lǐng)域內(nèi)各公司之間為何會出現(xiàn)如此多莎士比亞式戲劇性沖突的看法，可以歸結(jié)為一點：“一旦你看到了通用AI（AGI），就無法視而不見。”它確實具有一種“權(quán)力之環(huán)”的魔力，會驅(qū)使人們做出瘋狂的事情。我指的并非AGI本身就是那枚魔環(huán)，而是“掌控AGI”這種絕對化的理念。

我能想到的唯一解決方案是讓這項技術(shù)廣泛普及，并且不讓任何人擁有這枚戒指。實現(xiàn)這一目標的兩個顯而易見的途徑是賦予個人權(quán)力，并確保民主制度繼續(xù)有效運作。

民主進程必須保持比企業(yè)更強大的力量，這一點至關(guān)重要。法律和規(guī)范將會改變，但我們必須遵循民主進程，即便這個過程可能比我們預(yù)期的要混亂和緩慢。我們希望擁有發(fā)言權(quán)和參與權(quán)，但并不想掌握全部權(quán)力。

很多對我們行業(yè)的批評都源于人們對這項技術(shù)巨大風險的真切擔憂。這種擔憂完全合理，我們也歡迎善意的批評和討論。我理解人們對技術(shù)的抵觸情緒，而且很明顯，技術(shù)并非總是對每個人都有益。但總的來說，我相信技術(shù)進步能夠為你的家人和我的家庭創(chuàng)造無比美好的未來。

在我們進行這場辯論的同時，我們應(yīng)該緩和言辭和策略，努力減少家庭內(nèi)部的沖突，無論是比喻意義上的還是字面意義上的。