AI時代當心“養虎爲患”？AI教父多次“安全提示”後，AI如何走向遠方

人工智能（AI）時代，人類會“養虎爲患”嗎？

在熱氣騰騰的2025世界人工智能大會主論壇現場，2024年諾貝爾獎和2018年圖靈獎獲得者、加拿大多倫多大學計算機科學名譽教授傑弗裏·辛頓袒露了自己的擔憂：當前人類與AI的關係，恰似飼養一隻可愛的小虎崽——在它還小的時候，你覺得可以控制它，但等它長大以後，很可能輕易超越人類，導致失控。

這股情緒，其實來自他的冷靜思考：這位“深度學習之父”已不止一次公開表達了自己對AI技術的“安全提示”。

當AI浪潮澎湃而來，席捲全世界之時，本屆大會主題——“智能時代同球共濟”恰與辛頓的觀點形成微妙的共振：身處智能浪潮之中，唯有秉持開放合作、普惠共享、安全可控的理念，凝聚全球共識、攜手應對挑戰，才能讓AI真正成爲推動人類文明進步的強大動力。

一問

如何在發展和安全之間尋求平衡？

辛頓最近流傳甚廣的金句莫過於：“如果你想知道當自己不再是頂級智慧生物時，生活是什麼樣子，就去問問一隻雞。”在昨天的演講中，對於“數字智能是否會取代生物智能”這個問題，他也給出了自己的答案：用不了太久時間，前者就可能更勝一籌。

在辛頓看來，人類或許與大語言模型相似，都會產生“幻覺”，但大語言模型遠優於依賴類比信號的人類大腦。同時，人類難以永久留存知識，大腦死亡即意味着知識消逝；知識傳遞的效率也不高，只能通過語言等方式，無法完全複製。而AI可通過共享參數快速傳遞知識，例如藉助蒸餾技術等。

“AI的能力正在快速增長，未來它們很可能變得比人類更智能。有人可能會認爲，萬一AI不聽話，我們可以把它關掉，但這並不現實。”他表示，“如果AI足夠聰明，它會通過操縱人類、獲得控制權等方式來避免被關閉。”

那麼，如何在發展和安全之間尋求平衡？

上海人工智能實驗室主任、首席科學家周伯文認爲，在技術層面上，現在AI發展的明確特點就是通用性、可複製和開源，“這些特點非常有用，但同時也會帶來很多風險問題，所以，在研究方面，AI的進展和安全同等重要。”

“AI本身不是零和遊戲。”周伯文的觀點是：不能只強調發展、不談安全，也不能只談安全、不講發展。去年的世界人工智能大會現場，他就曾提出“45度平衡律”的概念，意思是讓AI大體沿着45度安全與性能平衡發展。在這個框架下，過去很多工作是“Make AI safe”，而要真正實現的“45度”，就要找到新的技術研究路徑，做更多“Make safe AI”的工作，“因爲前者是後發的，缺乏敏捷性和韌性，而長期的AI安全要實現內生的安全。”

二問

如何加強全球協作和互信？

“雖然不同國家的利益存在分歧，但各國在AI安全方面是有可能合作的。從長遠看，這可能是人類最重要的議題。好消息是，這個問題是全人類可以團結起來共同面對的。”辛頓呼籲，全球建立由各國人工智能安全研究所與國內研究網絡組成的國際社羣，培養不會從人類手中奪權的“好AI”。

在主論壇的爐邊對話環節中，香港科技大學校董會主席沈向洋就把“如何在AI上加強協作和互信”的問題拋給了Relativity Space執行董事長兼CEO、谷歌前CEO埃裏克·施密特。

施密特表示：“這是人類共同面臨的問題，任何國家都要坐下來一起談判。中美也可以通過對話加強互信，共同迎接AI帶來的機遇與挑戰，特別是在防止AI負面影響方面開展協作。”

美國加州大學伯克利分校計算機科學傑出教授斯圖爾特·羅素更是直言，通用人工智能（AGI）競賽毫無意義。他認爲，AGI一旦創造出來，將是無限的財富創造者，應成爲全球公共資源，對所有人類開放。他也強調了有效監管的必要性，需將AGI風險降至極低水平，避免技術失控威脅人類文明，爲全球AI治理敲響警鐘。

三問

會不會最終被某一家組織壟斷？

結合自身十五年AI創業經歷，MiniMax創始人、CEO閆俊傑演講時揭示了AI技術的“變強”之路：作爲更強的生產力，能高效完成數據分析、領域進展追蹤等工作；作爲更好的創意來源，可快速生成各類IP形象、降低視頻製作成本與時間；AI還在不斷拓展應用場景，並與人類協同進步——頂尖專家的思考過程能助力其提升，在特定環境中持續學習可增強能力。

但接下來的問題就是，AI會不會最終被某一家組織壟斷？

“我們相信，AI的發展趨勢是普惠的。它不會被少數人壟斷，而是逐漸成爲所有人都能使用的工具。”在閆俊傑看來，不同模型有不同的對齊目標。有些模型設計時更像一個嚴謹的程序員，適合做智能體系統；有些模型則更注重人機交互，更像有情商的對話夥伴；還有一些模型充滿想象力。同時，越來越多的系統是由多個模型構成的多智能體架構，不再依賴某一個單獨的大模型，這就意味着單個模型的優勢在系統中會被削弱，小公司也能參與競爭。此外，開源模型正在強勢崛起。開源力量讓更多人可以參與AI的發展，使得AI不再是某一方的專屬資源。

施密特同樣認爲，開源生態是技術普惠的關鍵路徑，他個人會“更偏好開源模式”，因爲開源有助於實現“全球即時共享創新成果”，也爲不同國家之間的研究人員提供了一個交流平臺，幫助解決共同面臨的問題，並構建互信機制。

美國約翰斯·霍普金斯大學政府與政策學院、工程學院教授吉莉安·哈德菲爾德表示，AI是一種變革性的技術，需要經濟、法律、基礎設施的變革來匹配，而開源以及開放權重也是很重要的一方面。她認爲，AI技術獲取是普惠的關鍵，但需先解決安全性問題，讓更多國家共享AI成果。

無論是對技術本質的追問、對普惠價值的追求，還是對全球治理的探索，都彰顯了一個核心共識：人工智能的發展不僅是技術革命，更是關乎人類文明走向的全球性課題。而面對這些“AI之問”，正在上海火熱舉行的2025世界人工智能大會，也將成爲展示中國智慧、提供中國方案的最佳平臺。