奧特曼家被扔燃燒瓶後,他髮長文回應:我理解你們對 AI 的恐懼

來源: 更新:

AI 的時代焦慮,終於以一種極端的方式落到了現實。

凌晨 3 點 45 分,美國舊金山北灘社區。一枚燃燒瓶砸向大門,火苗躥起,隨即熄滅。住在裏面的,是全球最具爭議的科技公司掌舵人:OpenAI CEO Sam Altman(山姆·奧特曼)。

幸運的是,燃燒瓶彈開了。沒有人受傷。一個多小時後,同一名嫌疑人出現在 OpenAI 舊金山總部門口,揚言要燒掉這棟樓。警方隨即將其拘押,一名 20 歲的男性。

這條新聞本來可以就這樣結束:「AI 公司高管遭遇襲擊,嫌疑人落網,暫無人傷亡。」

但奧特曼沒有選擇沉默。他於一個小時前發了一篇很長的文章。

「這是我家人的照片。他們是我的一切。」開頭就是這句話,配了一張他和伴侶、兒子的合照。他解釋爲什麼要公開這張平時刻意藏起來的照片:「希望能讓下一個人在衝我家扔燃燒瓶之前三思,無論他們對我有什麼看法。」

然後他說,幾天前有一篇「針對我的煽動性文章」,有人提醒過他,那篇文章的發佈時機,恰逢公衆對 AI 極度焦慮的節點,可能讓他陷入更危險的處境。他當時沒當回事。

「現在我在深夜輾轉難眠,怒火中燒,開始意識到自己低估了文字與敘事的力量。」

這是 AI 時代第一次,一位 CEO 在「有人想燒死我」之後,沒有選擇報警聲明加公關稿的標準流程,而是把這種恐懼、憤怒和反思,原原本本地寫出來。

他在深夜說了什麼

文章分三部分:信念、個人反思、行業思考。

信念部分其實沒什麼新鮮的。AI 是人類能力的最強擴展工具,必須民主化,權力不能過度集中,社會需要適應機制……這些他說過很多次了。

真正值得停下來讀的,是「個人反思」這一段。他說自己「有很多值得驕傲的事,也有不少錯誤」。

驕傲的是什麼?他提到了和馬斯克的那場糾紛。

當年馬斯克試圖對 OpenAI 謀求單方面控制權,奧特曼拒絕了。他說:「我爲自己當時守住的那條底線感到自豪,也爲我們走出的那條窄路感到自豪,正是那條路讓 OpenAI 得以延續。」

不驕傲的是什麼?他說自己「迴避衝突」,給公司和自己都帶來了巨大痛苦。他說在與前任董事會的衝突中「處置失當」,造成了混亂。他說自己是「一個有缺陷的人,身處一個異常複雜的處境」。

對於那些他曾經傷害過的人,他道了歉。

這是這篇文章裏最罕見的部分。科技圈的高管道歉,通常要麼是 PR 危機後的被迫姿態,要麼措辭模糊到沒有任何實質性認錯。奧特曼這段話說得不算完整,但至少是真實的。

文章最後一部分,他還說他理解過去幾年爲什麼會上演這麼多「莎士比亞式戲劇」:「一旦看見 AGI,就再也無法視而不見。它有一種真實的『權力之戒』式動力,會讓人做出瘋狂之舉。」

正如他所理解的那樣,成爲掌控 AGI 之人這種執念,它能腐蝕任何人。

包括OpenAI 的歷史本身就是一部權力爭奪的紀錄片。馬斯克的出走與反目、前董事會的突然解僱風波、微軟的深度綁定、Ilya Sutskever 的離開……每一段都牽涉到對「誰掌控 AI 未來」這個問題的不同答案。

奧特曼說,唯一的解法是「把技術向更廣泛的人羣開放,讓任何人都無法獨握那枚戒指」。

那名 20 歲的嫌疑人,沒有留下任何宣言。

我們不知道他爲什麼去扔那枚燃燒瓶。是被哪篇文章激怒?是對 AI 奪走工作的恐懼?是某種更私人的偏執?

但這件事本身,代表了一種真實存在的社會情緒。

失業焦慮、技術恐懼、對少數人掌控未來的憤怒,這些情緒在過去兩年被 AI 的爆發式發展急劇放大。當 OpenAI 每隔幾個月就發佈一款能「取代某類工作」的新產品,當 ChatGPT 出現在每個行業的重組報告裏,當「你的崗位會被 AI 替代嗎」成爲刷屏話題,積累下來的東西,總會找到出口。

奧特曼在文章裏說,他現在擔心的已經不只是「模型對齊」,而是整個社會層面能否及時建立起應對機制。這話聽起來像是在爲監管鬆綁找理由,但放在這次事件的語境裏,它有另一層意思:

連 AI 公司的 CEO 自己,也開始承認技術的速度已經超出了社會的消化能力。

這不是什麼新發現,但由奧特曼在凌晨、在燃燒瓶的餘溫裏說出來,分量就不一樣了。過去幾年,科技圈慣用的敘事是「我們在解決問題」。監管跟不上?我們自律。就業衝擊?我們會創造新崗位。

每一次質疑,都有一套對應的話術。

但燃燒瓶的出現說明,有一部分人的憤怒,已經溢出了「理性討論」的範圍。

暴力當然沒有任何正當性。

無論動機如何,向一個熟睡嬰兒的家投擲燃燒瓶,都應受到譴責和處罰。雖然警方尚未確認此次襲擊是與 AI 反對情緒有關,還是受近期《紐約客》負面報道影響,但這件事本身已折射出 AI 發展帶來的社會焦慮正在升溫。

那種不安是可以理解的,從沒有一項技術像 AI 一樣以瘋狂的速度改變世界,這種恐懼是真實的。

奧特曼這篇文章,是他少有的一次沒有站在「我們在解決問題」的位置上發言。他承認了錯誤,承認了恐懼,也承認了自己也不完全知道前路在哪裏。

人和 AI 應該如何相處,可能是比實現 AGI 更大的難題。

附上 Sam Altman 博客原文:

這是我家人的照片。他們是我的一切。

圖像有力量,我希望如此。平時我們都很注重隱私,但這次我選擇公開這張照片,希望能讓下一個人在衝我家扔燃燒瓶之前三思——無論他們對我有什麼看法。

第一個人昨晚凌晨 3 點 45 分這麼做了。幸好燃燒瓶彈開了,沒有人受傷。

文字同樣有力量。幾天前有一篇針對我的煽動性文章。昨天有人跟我說,他認爲這篇文章發佈的時機恰逢公衆對 AI 極度焦慮之際,可能會讓我陷入更危險的處境。我當時沒放在心上。

現在我在深夜輾轉難眠,怒火中燒,開始意識到自己低估了文字與敘事的力量。趁這個機會,我想說幾件事。

一、我的信念

  • 推動全民繁榮、賦能所有人、推進科學與技術的進步,對我來說是道義上的責任。
  • AI 將是有史以來最強大的人類能力擴展工具。對這一工具的需求幾乎沒有上限,人們將用它創造出令人驚歎的成就。世界需要大量的 AI,我們必須想清楚如何實現這一目標。
  • 這條路不會一帆風順。人們對 AI 的恐懼與焦慮是有根據的——我們正在經歷人類社會很長時間以來,乃至有史以來最大的變革。安全問題必須做好,這不只是模型對齊的問題——我們迫切需要整個社會層面的應對機制,以抵禦新型威脅,包括出臺新政策,幫助我們渡過艱難的經濟轉型期,走向更美好的未來。
  • AI 必須實現民主化,權力不能過度集中。未來的掌控權屬於所有人及其制度。AI 需要賦能每一個個體,我們需要集體做出關於未來走向與新規則的決策。我認爲,由幾家 AI 實驗室來主導塑造我們未來的最關鍵決策,是不正確的。
  • 適應能力至關重要。我們都在以極快的速度學習全新的事物;有些判斷會對,有些會錯,有時我們需要隨着技術發展和社會演進迅速調整認知。目前沒有人真正理解超級智能的影響,但這種影響將是深遠的。

二、個人反思

回顧我在 OpenAI 頭十年的工作,有很多值得驕傲的事,也有不少錯誤。

我想起我們即將與埃隆對簿公堂,想起當年我如何堅守底線,拒絕接受他對 OpenAI 謀求的單方面控制權。我爲此感到自豪,也爲我們當時走出的那條窄路感到自豪——正是那條路讓 OpenAI 得以延續,並取得了此後的一切成就。

我並不爲自己的迴避衝突感到自豪,那給我和 OpenAI 都帶來了巨大的痛苦。我也不爲自己在與前任董事會的衝突中處置失當、給公司造成混亂感到自豪。OpenAI 走過的歷程跌宕起伏,我在其中犯下過許多錯誤;我是一個有缺陷的人,身處一個異常複雜的處境,每年都在努力變得好一點,始終爲這一使命而工作。我們從一開始就清楚 AI 的賭注有多大,也知道善意之人之間的個人分歧會因此被無限放大。但親歷這些激烈的衝突、往往還要在其中充當仲裁者,其代價是沉重的。對於那些我曾經傷害過的人,我深感抱歉,也希望自己能更快從中汲取教訓。

我也清醒地意識到,OpenAI 如今已是一個重要的平臺,我們需要以更具可預期性的方式運營。過去幾年極其緊張、混亂、高壓。

但總體而言,我爲我們正在兌現使命感到無比自豪——這在當初看來幾乎是不可能的。克服重重阻礙,我們摸索出了構建強大 AI 的方法,籌集到了足夠的資本來建設交付所需的基礎設施,建立起了一家產品公司和商業體系,以大規模提供相當安全、穩健的服務,還有更多。

很多公司都說要改變世界;我們真的做到了。

三、關於這個行業的思考

綜觀過去幾年,我對這個領域爲何上演瞭如此多莎士比亞式戲劇的個人理解是:「一旦看見 AGI,就再也無法視而不見。」 它有一種真實的「權力之戒」式動力,會讓人做出瘋狂之舉。我說的不是 AGI 本身就是那枚戒指,而是「成爲掌控 AGI 之人」這種無所不包的執念。

我能想到的唯一解法,是着力於向更廣泛的人羣開放這項技術,讓任何人都無法獨握那枚戒指。實現這一目標的兩個顯而易見的途徑,是個體賦權,以及確保民主制度始終掌握主導權。

民主進程的力量必須凌駕於公司之上。法律與規範會不斷演變,但我們必須在民主進程的框架內行事,儘管這個過程會混亂、也會比我們期望的更慢。我們希望成爲其中的一個聲音、一個利益相關方,但不是要獨攬一切權力。

業界受到的許多批評,源自人們對這項技術極高風險的真誠憂慮。這種憂慮完全合理,我們歡迎善意的批評與辯論。我理解反技術的情緒,技術的確並非對每個人都始終有益。但從整體來看,我相信技術進步能夠讓未來變得無與倫比地美好——對你我的家庭都是如此。

在我們進行這場辯論的同時,我們應當共同降低言辭與行動的烈度,讓更少的人家——無論是字面意義上還是隱喻意義上——遭遇爆炸。

附上博客地址:
https://blog.samaltman.com/2279512

#歡迎關注愛範兒官方微信公衆號:愛範兒(微信號:ifanr),更多精彩內容第一時間爲您奉上。

相關推薦
請使用下列任何一種瀏覽器瀏覽以達至最佳的用戶體驗:Google Chrome、Mozilla Firefox、Microsoft Edge 或 Safari。為避免使用網頁時發生問題,請確保你的網頁瀏覽器已更新至最新版本。
Scroll to Top