人真的會被 AI 取代嗎？這個更重要的事被很多人忽略了
今天，AI 已經不再是一項“隱藏在幕後”的技術，特別是生成式 AI，它們以普通人工更容易感知到的方式參與到了很多工作當中去。
從寫代碼到擬合同，從生成圖片到寫小說，AI 們都能勝任，而且在一些領域的表現甚至比人類“新手”還要好。看起來，人類再也不用做那些“基礎又枯燥”的事情了。而且有了 AI 之後，我們似乎也可以把所有的精力都集中到更具創造力的事情上去了。
也有人對此表現出了擔憂，既然 AI 能完成的事情越來越多，人類是不是就越來越不重要了？其實，用機械設備以及計算機幫助人類操作和思考不是今天才有的想法。比如自動化設備早已進入了工廠，很多複雜系統的調度規劃和操作也都是計算機完成的。
而在這些領域已經發生的事情，或許能爲今天的我們提供一些參考借鑑。
圖庫版權圖片，轉載使用可能引發版權糾紛
自動化的反諷
早在 1983 年，英國認知心理學家莉桑·貝恩布里奇（Lisanne Bainbridge）就在自動化控制領域的頂級期刊《自動化學》（Automatica）上發表了一篇文章，名爲《自動化的反諷》（Ironies of Automation）。
貝恩布里奇寫這篇文章的時候，並沒有像今天這樣功能強大的生成式 AI，但在當時自動化系統已經開始出現了，這與今天的 AI 化有着一定程度的相似之處。
貝恩布里奇在當時的文章裏，就提到了自動化可能會帶來的問題，我們也順着貝恩布里奇的觀點來看一看。
首先，貝恩布里奇認爲，自動化這件事本身就很有諷刺意味。
“自動化”要做的事情，就是用機械、計算機等不需要人類參與的裝置系統替代人類，去執行某些操作或者進行規劃決策。但是，即便是高度自動化的系統，比如電力網絡、複雜的生產線，仍然需要人類投入大量的時間去監督、調整、維護、改進等。
自動化的經典目標是用自動設備和計算機替代人工控制、規劃和問題解決......本文指出，工程師對人因工程日益增長的關注反映了一種諷刺現象：控制系統越先進，操作人員的貢獻可能就越關鍵。
而且，自動化的控制系統越先進，人類在系統中發揮的作用可能更關鍵。
比如自動化系統的設計者在遇到無法自動化的任務時，會把這些任務留給人類來完成。而這些任務往往是複雜度高、難以形式化和規範化的。系統越先進，留給人類處理的任務複雜度往往也越高，也就更依賴人類的能力。
試圖減少人類操作員的設計師，仍然會把不知道如何實現自動化的任務交給人類操作員去完成。
圖庫版權圖片，轉載使用可能引發版權糾紛
另外，爲了確保複雜的系統能夠順利運行，在它們出現異常狀況時能夠及時被發現、及時作出正確的干預，同樣也需要有專業技能過硬、經驗豐富的人類提供保障。
所以，自動化本身是要讓機器來替代人類，但實際上，爲了設計以及確保自動化系統的順利運行，又極度依賴人類的能力。
這是貝恩布里奇認爲，自動化“反諷”的原因之一。
AI 時代，人類的能力同樣關鍵
而在 AI 工具蓬勃發展的今天，情況也是類似。
當我們使用 AI 去完成任務的時候，能夠熟練運用 AI 工具，並且確保它們生產出的內容能夠穩定運行，同樣對人類知識和經驗有更高的要求。
比如，Fastly（一家美國先進的雲服務提供商）在 2025 年 7 月進行了一項調查，對比了在 IT 領域，初級開發者（0~2 年工作經驗）和資深開發者（10 年以上工作經驗）使用 AI 寫代碼的情況。
結果發現，有 30% 的資深開發者使用 AI 編寫的代碼比例超過 50%，而在初級開發者中，只有 13% 的人會用 AI 完成這麼高比例的代碼。
這並不是因爲初級開發者不知道這些 AI 開發工具。
而是 AI 編寫的代碼如果存在問題或者不那麼完美適配（這個情況很常見），資深開發者有能力去進行調整，而初級開發者可能無法快速識別出代碼中的問題、沒法高效率地進行編輯調整，所以會適當減少 AI 生成代碼的比例。
在筆者所在的寫作行業，同樣是生成式 AI“橫行”的領域。而且 AI 寫出的內容確實會比很多新手作者寫得更好。
但是在特定的領域，比如科普類文章撰寫上，AI 生成的文章可能存在事實性錯誤，這樣的錯誤屬於硬傷，如果直接發佈會對科普類內容的公信力產生影響。
而對知識性內容進行覈實和修改，還是依賴人類的知識和經驗積累。
至少目前，AI 還無法確保內容的真實可靠，依然有可能出現“AI 幻覺”（比如生成不存在的文獻資料、編造一些事件。點擊可回顧往期文章。）只要 AI 編造內容的概率不是 0，就意味着需要人工檢查每一條信源。
另外，AI 寫出的文章結構不一定那麼完善，所以在使用 AI 之前，需要作者構思好文章的整體結構，每一部分的核心講述內容，以及想表達的思想，這樣生成的文章纔不至於那樣有“AI 味”。而這些也都要在長期的寫作、修改過程中建立起來。
這些例子都印證了貝恩布里奇的觀點，即便是先進的自動化系統，同樣依賴人類的能力。
人類能力“訓練場”正在消失
可是，當大量的自動化系統和計算機代替人類之後，人類實際動手操作的機會越來越少，這種實際操作機會的缺失，對知識和技能的積累來說是十分不利的。
貝恩布里奇的文章裏就提到，當時的人們已經意識到了這一點，並且希望通過理論學習和培訓的方式來解決這個問題，但她認爲理論學習和培訓的作用有限，很多領域的知識需要在使用中才能真正被理解和掌握。
一方面，從長期記憶中高效提取知識取決於使用知識的頻率。另一方面，這類知識只能通過使用以及使用後的有效反饋，才能得到發展。如果人們僅僅在課堂上接受理論教學，而沒有適當的實踐練習，他們可能很難理解這些知識......
這一點在 AI 時代也是相似的。
我們還是以前面提到的 AI 編程領域爲例，對於剛剛入行的“初級開發者”來說，他們似乎是趕上了“好時代”，相比於十年前，現在的 AI 編程工具功能強大，甚至可以直接通過自然語言對話生成還不錯的代碼。
看起來，現在的新人開發者們可以直接跳過“寫出爛代碼→出 BUG→調試→理解底層邏輯→修正→更好的代碼”這個痛苦的過程。
但這個過程，恰恰對開發者的技能以及理解力的提升很有幫助。正是這樣的成長過程，讓一字一句敲代碼成長起來的資深開發者能更好地駕馭 AI 工具。
可是在當下，留給初級開發者練習的機會正在減少。
圖庫版權圖片，轉載使用可能引發版權糾紛
正如我們前面提到的，老闆們希望用少數經驗豐富的人類+AI 工具，替代原本的人類大團隊，這樣的設想確實有可能實現，或者說，已經在實現中了。
比如 2025 年 8 月，斯坦福大學研究者發表的一篇文章就提到，22 到 25 歲“入門級”職位受到 AI 的衝擊影響更大。而在軟件開發領域影響尤其明顯，22 到 25 歲的初級開發者工作機會比之前減少了約 20%。
於是，初級開發者面臨着需要實踐操作來成長，卻又沒有實踐機會的尷尬局面。
所以，假如某個行業過度依賴 AI，完全用它們來生產內容，可能會對這個行業的初級從業者產生影響，讓越來越多的行業新人失去“訓練場”，不利於這些從業者未來的能力、經驗積累，進而影響到整個行業的未來人才儲備。
AI 真的能讓創造力更好地釋放？
當然，我們並不是說自動化和 AI 化是不好的，自動化和 AI 化確實可以讓人們從機械重複的體力活動以及簡單瑣碎的智力活動上釋放出來。
比如，雖然 AI 編寫出來的程序需要人爲調試，但 AI 確實能夠幫助資深程序員省去寫具體代碼以及在大量的代碼文庫中檢索特定片段的時間。
靠着自動化系統和 AI 工具，一些精英個體或者小團體確實能把自己的能力發揮到極致，創造出更大的價值。
而且我們也不懷疑，自動化、AI 化的轉型將會爲社會帶來新的崗位，在未來解放出來的生產力可以投入到新的更有創造性的事情中去。
但在轉型發生的當下，並不一定會有真正的創造力釋放。
圖庫版權圖片，轉載使用可能引發版權糾紛
還是借鑑貝恩布里奇的觀點，她認爲在自動化的影響下，人的工作可能不再是一個完整的閉環，而是去彌補自動化系統無法完成的一小部分任務，這些任務非常複雜但又很碎片化，並不能真的讓一個人的能力提升。
這意味着留給操作員的任務可能是隨意拼湊的，並且很少考慮到爲他們提供一些幫助。
而且貝恩布里奇還發現，在自動化過程中，很多人從具體的操作者變成了監督者，而人類本身算不上是優秀的監督者。
對於一個相對穩定、很少發生故障的系統，人類很難對這樣的系統保持 30 分鐘以上的高度專注狀態。
所以人類在長時間監督之後，容易懈怠，在這樣的狀態下，如果真的出現了緊急狀況，人類很難及時做出反應。
另外，處於監督者狀態的人類操作員因爲沒有實際上手操作，會缺少對整個系統狀態的詳細認知，不一定能在緊急情況下做出合理的決策。
這有點類似一輛 L3 級別的自動駕駛汽車。在大部分情況下，它能夠自主運行，理論上駕駛員也要時刻保持警惕，但在長時間的平穩駕駛情況下，人類的警惕性會不自覺地降低。這時候如果自動駕駛汽車遭遇了無法處理的場面，會讓人類緊急接管。這時候的人類駕駛員很可能“不在狀態”，這時候要在短時間裏處理自動駕駛汽車都無法應對的複雜局面，很可能會出錯。
所以，當公司開始向 AI 化轉型的過程中，如果僅僅是讓人類成爲 AI 的監督者，人類也很難發揮出更好的創造力。
不反對技術，不漠視人類
最後，我們也要再次說明，技術本身並無善惡。自動化與 AI 化的浪潮也不可阻擋，它們確實爲我們帶來了前所未有的效率提升。
我們應該警惕的是，在“AI 化”轉型過程中對人本身的工具化和漠視。真正的“降本增效”，不應該是簡單地用 AI 剔除初級員工，而是利用 AI 帶來的效率紅利，給人類留出更多的試錯和成長的空間。
一個健康社會在轉型的過程中，理應承擔起對受影響者的職業過渡支持、對新人成長路徑的重新設計，以及對“人機協作”中人類角色的重新定義。
畢竟，無論是多麼強大的智能系統，當警報燈亮起的那一刻，我們能信任的只有經驗豐富且具有社會責任感的人類。
參考文獻
[1]Bainbridge, L. (1983). Ironies of automation. In Analysis, design and evaluation of man–machine systems (pp. 129-135). Pergamon.[2]https://www.fastly.com/blog/senior-developers-ship-more-ai-code
[3]Brynjolfsson, E., Chandar, B., & Chen, R. (2025). Canaries in the coal mine? six facts about the recent employment effects of artificial intelligence. Digital Economy.
[4]https://www.thomsonreuters.com/en-us/posts/legal/law-firm-associate-gap/
[5]https://www.emma.legal/blog/how-ai-is-forcing-a-rethink-of-junior-lawyer-training
策劃製作
作者丨科學邊角料 科普創作者
審覈丨於暘 騰訊玄武實驗室負責人
策劃丨徐來
責編丨王夢如
審校丨徐來 張林林
