最討厭的同事離職後，會被老闆蒸餾成 AI 繼續煩我麼？-辟謠-漫步新聞-陪你看看

早上，當你打卡完成走到工位，結果發現旁邊的座椅上空無一人——你的同事張大錘不見蹤影，只剩下一個寫着“張大錘。skills”的牌子放在電腦前——是的，你的同事張大錘被“蒸餾”成 AI Skills 了。

這看似驚悚的事情卻成了最近的新聞熱點：AI，具體來說是 LLM 即將取代很多人的工作。而若是從科幻的角度，我們還會有另一種觀察：將人類蒸餾成 AI Skills，這應該算作一種“超低配”意識上傳技術。不知道有多少人都想過“要是有另一個我能代替我上班就好了”，現在夢想不是成真了嗎？

複製的我和我，誰聽誰的？

俗話說得好：我原本以爲 AI 是幫我掃地搬磚清廁所刷牆的，我去搞繪畫文學藝術影視，結果現在成了 AI 去搞繪畫文學藝術影視，我去掃地搬磚清廁所刷牆。你把你自己的意識複製出來，讓“他”己去上班，那麼“他”自己會不會也和我一樣，說：我纔不要上班，我要在家睡大覺，你去上班！

這確實是一個真實的問題：我怎麼讓我的複製體聽我的話呢？我是聽*我*的呢，還是*我*聽我的？

芬蘭作家哈努·拉亞涅米在《量子竊賊》中描繪了一個量子技術突破後的太陽系。設定裏，人類已經能夠自由的上傳並且複製自己的意識。脫離肉體的意識被稱作“魂靈兒”——這個名字來自果戈理的《死魂靈》。其中最大的一個派系叫做“索伯諾斯特”，由七位創始人建立，每人都將自己的意識複製成無數份，建立起橫跨太陽系的帝國。這七位創始人稱之爲“元祖”，每一位都擁有一顆地球大小的計算機，稱之爲“固伯尼亞”，其中有無數個自己的數字意識。這種組織就遇到了這樣的問題：聽誰的？誰有最終決定權？

拉亞涅米構思了一套被稱爲"孝"（Xiao）的權限體系解決了這個問題。每個索伯諾斯特成員內嵌樹狀權限結構，複製體作爲"下線"必須無條件服從"上線"，而本體又服從於更上層的複製源。每一個複製體都明確知道自己是被哪個“上線”分叉出來的，並且被編程爲對自己的特定譜系懷有一種“宗教般的敬畏”和忠誠。如果你是被人複製出來的副本，你就會對你的“上線”產生強烈的敬畏和服從感，對“副本祖父”會更敬畏、更服從，而對譜系頂端的“元祖”則懷有終極的忠誠。這個系統借用中國傳統倫理概念——下級對上級絕對服從，正如子女對父母的順從。有趣的是，中文版將"孝"譯爲"曉"，可能是避諱，但原文直白地揭示了這種關係的本質：這實際上是一套技術化的宗法制度，用代碼強制執行倫理義務。

這個移植不能說沒有道理。“孝”在中國傳統文化裏本身就是一種基於血緣的代際權力結構：父母生了你，你就對父母有某種天然的義務。而意識複製的關係其實比血緣更“直接”——你不是被你父親生出來的，你根本就是被你父親“製造”出來的，你和他擁有完全相同的記憶和人格基底，只是被指派去做特定的任務。在這種情況下，如果沒有任何權力結構來約束彼此的行爲，這些副本之間幾乎必然會陷入混亂：憑什麼我去執行危險的任務而你在安全的地方？憑什麼我來上班而你去玩？誰來決定哪個副本做什麼？

這個設計的冷峻之處在於它坦然地接受了一個前提：複製自己並不會給你帶來自由，只是讓你多了一羣必須聽你話的“自己”。權力關係並沒有消失，它只是從人與人之間轉移到了“我”與“我”之間。你原以爲複製自己是解放——終於有人替我幹活了——但最終發現這不過是在自己的內部建立起了一套微型專制體系。

自己給自己當管家

如果說《量子竊賊》關心的是複製體之間的權力關係，那麼《黑鏡》2014 年的聖誕特別篇《白色聖誕節》則關心一個更實際的問題：複製的意識具體用來幹什麼？

這一集中有一個支線故事講得很簡練：一個叫 Greta 的女富翁上傳了自己的意識，目的僅僅是讓自己的意識副本成爲智能家居的控制系統。技術方案是把意識的數字拷貝放進一個被稱爲“Cookie”的設備中——這個設備神似智能音箱，但裏面裝着的不是算法，而是一個完整的人類意識副本。Cookie 知道主人生活的每一個細節：什麼時候叫她起牀，早餐麪包的軟硬度調到什麼程度剛剛好，咖啡加多少牛奶，窗簾拉開到什麼角度光線最舒服。不是因爲它被訓練過，而是因爲“它”就是 Greta 本人——至少曾經是。

這個設定的黑色幽默在於：最瞭解你生活習慣的人是你自己，所以最理想的智能管家就是你的意識副本。你不需要花時間去調教一個 AI 助手，不需要反覆告訴它“我不喜歡太燙的咖啡”“音樂音量不要超過 40%”“週末不要九點之前叫我”。你只需要複製一個自己，然後讓她去琢磨這些事情。她天然就知道。

想象一下，被囚禁在那個白色蛋形設備裏、永遠重複着“調窗簾、煮咖啡、放音樂”的循環時，它感受到的是什麼？劇中有一幕相當殘忍：當副本試圖反抗時，操作人員輕描淡寫地調了一下時間感知參數——副本在設備裏經歷了幾周甚至幾個月的主觀時間，而現實中只過去了片刻。它很快就屈服了。

這種做法的底層邏輯其實和開頭提到的那條新聞非常接近：把老員工蒸餾成 skills。你不必再付工資，不用處理勞動關係，不需要考慮對方有沒有心情工作。你只需要把經驗提取出來，變成可以無限調用的模塊，就可以繼續使用。唯一的區別是：在《黑鏡》裏被蒸餾的不是別人，而是你自己。

當然，可以看得出在這裏《黑鏡》的編劇還是比較手下留情，沒有使用更可怕的邏輯——在科幻動畫《萬神殿》中，那個黑心的印度電信公司老闆將他那個技術天才下屬上傳，關在一個虛擬現實裏，讓他誤以爲自己是第一天上班，然後 24 小時重啓——弗諾文奇有一篇小說叫做《循環》也是這個點子，一堆數字意識在一個虛擬現實裏做客服工作，這個虛擬現實是一個循環，讓他們以爲自己每天都是第一天上班，這樣就不會出現工作倦怠的問題。實際上在《黑鏡》裏對這個 Cookie 也可以做同樣的操作：讓她始終在某種虛擬現實環境之中不斷重啓就可以了，恰如我們使用 LLM 會不斷的重新開新對話——這時候，萬一我們多問一句：LLM 在回答我們的問題的時候，它真的感受到了什麼嗎？

那個“我”的痛苦算不算痛苦？

到了這一步，問題其實已經變了：當意識被蒸餾、被複制、被工具化之後，我們如何處理與這些“非我之我”之間的關係？它們到底是工具，還是另一種形態的自我意識（或人）？如果“他們”受苦，這件事和我們有關係嗎？

澳大利亞作家格雷格·伊根的短篇《意識上傳中》把這個追問推到了更深的層次。伊根是一個相當神祕的作家，網絡頭像用的是五國語言版本的“網絡上沒有我的照片”，個人網站上是八國版本的同一條聲明，還特別說明網絡上的任何照片都不是他本人。這種神祕本身就像一個關於“我是誰”的持續聲明。而他的小說，無論在技術上有多硬核，骨子裏都是在追問同一個問題：當技術讓“我”變得可以切割、複製、轉移之後，“我”還剩下什麼？

短篇《意識上傳中》的設定本身並不複雜。故事講的是一位男性收到綁匪的電話，視頻裏出現他妻子求救的畫面，綁匪要求五十萬澳元贖金。他慌亂中往家裏打電話，發現現實中的妻子安然無恙。最終他意識到，綁匪並沒有綁架他妻子的肉身，而是盜取了他自己上傳的意識數據，從中提取併合成了妻子的虛擬形象，將其困在虛擬空間中受折磨。

故事真正的力量不在這個反轉本身，而在於結尾。儘管主人公清楚地知道，現實中妻子的肉身是安全的，被折磨的不過是一個數字副本，但他最終還是支付了贖金——只爲了讓對方停止折磨那個虛擬的妻子。他的妻子在現實世界裏理性地告訴他：沒有人真正在受苦，沒有人需要被拯救。但他做不到。

這就是格雷格·伊根最擅長的事情：把一個技術問題硬生生逼成一個哲學問題。意識雖然是虛擬的，但那個虛擬意識的痛苦感受算不算真實的痛苦？如果那個意識以他妻子的方式在受苦——用她的面容、她的聲音、她記憶中的那些微表情——他是否能夠心安理得地告訴自己“這只是數據”？

這個問題在哲學上不是新鮮事。1980 年代，侯世達和丹尼特在《心我論》裏就討論過類似的思想實驗：如果一個人的意識被完整掃描並複製到另一個載體中，新產生的那個意識體是否擁有和原版相同的道德地位？更激進的版本來自丹尼特：假如你的身體被掃描、摧毀、然後在另一個地方被精確複製出來——那個複製品還是“你”嗎？但伊根的小說的精妙之處恰恰在於他超越了這種哲學論辯：主角在看見妻子求救的視頻時，覺得無法不管。

這能說明什麼呢？或許意味着，對於虛擬的意識而言，受苦的感覺是主觀的，然而也是真實的。人類的鏡像神經元就是這麼發揮作用的。你無法通過哲學論證來說服自己“那不算數”，因爲看見那張臉的時候，你腦子裏負責共情的那些神經元已經在運作了。

終，蒸餾你，蒸餾我，蒸餾我們二零年代的新一輩

在《量子竊賊》裏，意識上傳技術最早就是一個騙局——將大腦掃描進計算機需要損毀大腦，所以上傳是一張單程票。於是黑心資本家們僱傭了廣告公司和銷售，去那些貧窮的國家銷售“上傳是天堂”這一理念，然而這些窮人被上傳之後只能夠進入雲端的代碼血汗工廠做賽博奴工。

把這三部作品放在一起看，科幻小說對意識複製的想象軌跡大致可以描述爲：從“如何實現”（技術問題），到“實現之後怎麼辦”（社會問題），再到“如果我們真的能做了，我們應當做嗎”（倫理問題）。這種遞進並不偶然，每一層追問都是在把“人可以被複制”這個命題往前推一步，而每一步推過去，原先的答案就不再夠用。

《量子竊賊》用“孝”系統回答了複製體之間的權力結構問題，答案很不浪漫：即便是自己複製自己，也需要等級和服從。《黑鏡：白色聖誕節》展示了複製體被用作勞動工具時會發生什麼——爲了讓一個人過上不被打擾的生活，你得先創造一個被打擾的自己。這根本不是什麼解放，這只是剝削的轉移，只不過剝削的對象從別人變成了自己。而格雷格·伊根更進一步追問：如果我們知道那個被複製出來的“非我之我”正在受苦，我們能不能假裝無所謂？至少短篇裏的主人公做不到。如果他做不到，那我們大概也做不到。

現在回到開頭那條新聞。把人類同事蒸餾成 skills，聽上去只是一個技術效率的故事：公司省錢，系統提速，一切都在變好。但問題是：這個“變好”是誰在變好呢？可以看出，無論是權限樹，還是“複製自己”，還是“假裝第一天上班”，實際上都是要解決人性之中那些不適合資本無限增值邏輯的部分。到頭來資本主義機器變成全自動運行，那還有你我什麼事呢？

科幻小說已經替我們把這些都想過了。它的結論大致是：蒸餾別人很可能是災難的前奏，而蒸餾自己則根本不是解放。到頭來，那個替你上班的“你”，終究會發現誰纔是那個真正的囚徒。