以後用 AI 寫文章，再也騙不了人了？
前幾天，網絡上對某 AI 大模型公司的聲討又攀上了一個小高峯。起因是這家公司決定從 2026 年 8 月 2 日起，“在歐盟地區發佈的大模型將支持機器可識別的標識方式”。其中重要的改變，是爲自家模型生成的文本加上水印。
現在歐盟用戶在使用該模型生成文本時，文本里就已經嵌入了可以識別的內容——而且用戶看不到它。
海量文本 難以識別 AI 製圖
這些文本水印不會因爲普通的複製粘貼而消失，把文字截屏做文字識別、重新抄錄一遍，甚至是讀出來讓 AI 聽寫，水印也很有可能繼續存在。甚至經過一定程度的編輯後，水印也可能繼續存在。[1]
聽起來有點神奇。圖片和視頻的水印通常附着在文件或像素信息中，但是給文本加水印……一段可以隨意編輯的文字，怎麼就能判斷是 AI 生成的呢？
這其實是個統計學問題。
統計學（再次）大顯身手
雖然目前該公司還沒有公開水印算法和檢測準確率，也沒有發佈檢測器，但已經可以根據它描述的特徵來做出大概判斷。
剛好前幾天科普中國公衆號發了一篇文章，介紹統計學家蘇煒傑的工作，就和這種技術密切相關（見如何鑑別一句話是不是 AI 寫的？有人給 AI 文字加了“水印”）。[2]
看看該公司的水印特徵：文本越長，可以用來做判斷的依據就越充分；少量編輯會損失部分信號；全面重寫會破壞信號；以及最終的檢測也不是給出板上釘釘的結論，而是給出可能性。這些特徵，與當前主流的生成式統計水印高度吻合。
而生成式統計水印，又是基於大語言模型的內容生成機制的。模型並不是先“想”好一整段話，再把它逐字寫出來；而是每生成一個詞元（token），就會根據前文計算下一批候選詞元的概率，然後從中作出選擇。
生成式水印就是在這個選擇的過程中介入的。系統使用一串被叫做“密鑰”的數字和前面若干詞元的上下文，給候選詞元分組或打分，再在不明顯損害文本質量的前提下，略微改變下一步的選擇，可能會換個詞元。這也就給概率疊加了個小調整。
AI 製圖
單看一個詞，難以分辨這種調整。但在幾百個詞元上，這些調整會累積成一種可以識別的統計異常。
這種原理也就決定了文本水印的特性。文本太短時，水印信號可能不足；翻譯或深度改寫則會削弱甚至消除它。這就像拋十次硬幣，出現七次正面不算奇怪；拋一千次卻出現七百次正面，就明顯有問題。文本越長越沒有經過修改，統計信號才越可能穩定下來。
最經典的公開方案之一，是 Kirchenbauer 等人在 2023 年發表的“green-list”水印。系統在每一步生成前隨機劃出一組“綠色詞元”，輕微提高它們被選中的機會；檢測時再統計綠色詞元是否顯著多於自然情況下的分佈預期，並給出相應的統計量。[3]
Google DeepMind 的 SynthID Text 也屬於這種思路，但生成方式更復雜。它根據最近的上下文和水印密鑰產生僞隨機評分，從語言模型原有分佈中抽取多個候選詞元，再選出這些候選中評分較高的。[4]
還有一類“無偏水印”，追求的是不改變模型原有輸出的邊際概率分佈。它藉助祕密隨機數與最終詞元之間的關聯留下信號，再用樞軸統計量完成檢測。蘇煒傑做的工作就是在這條路線上。[5][6]
可以看出，這種水印還是受到些限制的。它要求生成內容的模型主動嵌入水印，對 AI 生成內容的判斷也未必準確。
所以，這項技術更像一項剛開始鋪設的基礎設施，還不能給所有文字自動“驗明正身”。
爲什麼要給文字加水印？
除了滿足歐盟的合規要求外，給 AI 生成的文字保留來源線索本身就有意義。
文字太容易轉換形態了。一次複製粘貼，AI 生成的文字能變成論壇帖子、商品評論、學生作業、工作簡報等等等等。普通文件元數據容易在格式轉換時丟失，至於網頁上“由 AI 生成”的標記，早就被用戶習慣性忽略了。而嵌進措辭選擇中的統計水印，至少有機會跟着文本繼續傳播。
對模型提供者來說，這條線索可以用於濫用調查和平臺合作，但至少它目前只能追蹤到模型，而不是使用這個模型的人——除非產品另有設計。
對內容發佈者來說，水印最常見的用途就是篩查。出版機構、學校等等如果有了檢測權限，就可以依據水印來決定是否需要做進一步檢查。
AI 製圖
而對於內容接收者來說，知道文字來源可以調整自己的“信任閾值”。一段健康建議看起來可能完全相同，但讀者應該採取的態度卻不相同——畢竟現在大語言模型的幻覺問題還挺嚴重。雖然水印不能證明建議是否正確，但可以給讀者提個醒。
廣義的內容接收者還包括接收文本的平臺、搜索引擎、以及把海量網絡文字收入訓練集的 AI 模型企業。對他們來說，水印不是答案，而是一項可能影響決策的變量。
生成式統計水印技術提供了有用的分工：AI 企業讓文字來源有跡可循，發佈者決定應該如何使用，讀者則可以知道這條信息意味着什麼。
檢出水印就說明內容不靠譜嗎？
生成式統計水印的確可以提供一種比“讀起來像 AI”更直接的判斷證據，但它的限制也不少。
首先，水印需要模型具備相應能力，而且主動生成。其次，它是概率判斷，而不是定論。這兩點是由它的原理決定的，也很容易理解。
而即使存在水印信號，也不能證明文字說的是真的，不能評價文字質量，不能判斷作者是否欺瞞或違規——而這些，卻往往是我們在閱讀一段文字時更關注的東西。
一個帶水印的模型完全可能生成錯誤事實或片面的解釋。一篇結構清楚、事實經過覈驗的人機協作文章可能有水印；一篇完全由人寫成卻錯誤百出的文章也可能沒有水印。來源和質量是兩個不同的判斷維度，把“AI 生成”直接翻譯成“低質量”，既會錯過優質的人機協作成果，也會給“純手搓內容”加上錯誤濾鏡。
反過來，沒有檢出水印，也不能證明沒有 AI 參與。模型可能從未加過水印，檢測者可能沒有相應密鑰，文本可能太短或太確定，也可能經過翻譯、重寫，甚至遭到有意清除。
水印也不能判斷作者在某篇文字內容上所做的認知努力，不能判斷內容的真實、準確、及時和充分程度。今天已經很少會有“百分之百人寫”和“百分之百機器寫”的區別了，更多的是混合工作。
作者可能自己完成採訪，設計文章結構，寫好初稿後再讓 AI 改寫幾個段落；也可能直接採用 AI 初稿，再補進少量個人經歷。可能有人從 AI 提供的十個版本中挑選一句，但爲這個選擇考慮了很久；也有人只是把整篇 AI 初稿過一遍清洗工具，機械地換掉一堆詞。
水印並不能作爲確定性的證據。它也許只是能增加一點內容的來源透明度而已，不能證明作者有沒有真正思考。
沉澱在文字裏的思考
2024 年 10 月，硅谷投資人、作家保羅·格雷厄姆寫了一篇博客文章，名叫《會寫或不會寫》。他認爲，AI 消除了過去迫使人們學習寫作的壓力。寫作很難，因爲寫一篇好文章，需要強迫作者自己想清楚——寫作即思考。如果把寫作交給機器，社會可能分成會寫與不會寫的人，並進一步成爲他所說的“會思考”和“不會思考”的人。[7]
AI 製圖
當然這個觀點可能有些偏頗，但卻抓住了一個重點：想法不是先在頭腦中完整形成，然後再被抄錄出來，而是在試着寫下、調整、重排、刪除的過程中才真正逐漸成形。
經典的寫作認知過程理論把寫作描述成目標驅動、不斷往返的計劃、表達和審閱過程，寫作者會在過程中改變目標，重新組織材料，並根據自己剛寫出的內容繼續思考。物理學家理查德·費曼也曾在訪談時表示：“寫筆記不是思考過程的體現，它們本身就是思考。”[8][9]
《紐約時報》最近有篇專欄提出，完全不要讓 AI 代寫，哪怕是普通郵件或會議記錄也不要。這篇專欄認爲，日常寫作鍛鍊的正是重要寫作會用到的能力。大概像是某種肌肉練習，只不過發生在大腦裏。[10]
檢查錯別字與讓模型代替自己形成觀點，並不是同一種認知活動。真正的問題不是文字是否通過 AI 來生成，而是 AI 工具在流程中替代了什麼：它替代的是機械操作，還是本應由人完成的學習、思考過程？
AI 技術是否削弱思考，不只取決於有沒有使用 AI，還取決於任務的目的、人與工具的分工，以及最後對內容呈現的決策權。
如果目標是學習一個概念、形成自己的觀點，那麼先由人提出問題、寫下初步解釋，再讓 AI 質疑和反饋，通常比直接問 AI 要答案更能保留核心認知過程。如果文字將影響公共利益或他人權利，那麼更不能交給一個無法承擔後果只會誠懇認錯的 AI 系統。
這種區分可能比追求“百分之百純手搓文章”更有意義。AI 正在成爲寫作環境的一部分，作者不必完全拒絕 AI，但依然需要保留自己的判斷。
水印不能解決的問題
文本水印大概還會繼續發展。除了滿足歐盟的合規要求之外，可能各個國家也會逐漸出臺類似的政策。也許一段時間之後， AI 生成內容的文本水印會成爲信息基礎設施的一部分。
它讓 AI 文字的來源識別不必停留在文風猜測，也可能爲平臺治理、內容披露、模型訓練和模型來源研究提供更可靠的基礎。
但水印只能留下生成過程的統計痕跡。它不能驗證事實，不能判斷文字質量，不能計算人的努力，也無法衡量一個想法的產生有多艱難。它無法追溯生成過程中的判斷和思考。
而且，水印也並非完全不可移除。在這個公司給大模型加上水印後不久，開源項目 watermarks-remover 就在 GitHub 上獲得了大量關注，它嘗試從多個層面清理 AI 溯源標記：清理文本中隱形的 Unicode 字符、調用非源頭模型對文本進行大面積釋義重寫以破壞統計特徵、剝離文件中的 C2PA 與 EXIF 元數據等。需要說明的是，針對統計型水印的重寫屬於“盡力而爲”，不能保證騙過廠商未來的官方檢測器，且重寫過程本身也會改變文本的措辭與風格。
總之，這種魔高一尺道高一丈的循環，可能短時間內不會結束。而我們在看到一段文字時，我們不妨也給自己“加載”幾個問題：
- 這段文字可能從哪裏來？
- 這段文字中描述的事實或證據可靠、全面嗎？
- 它對於我要做出的判斷，質量是否達標？
- 誰對它做過實質的審查？
文本水印最多隻能幫助回答第一個問題的一部分。後三個問題，依然只能由我們自己回答。
參考文獻
[1] Anthropic. (n.d.). How Claude Marks AI-Generated Content. Anthropic Support. https://support.claude.com/en/articles/16266773-how-claude-marks-ai-generated-content
[2] antares. (2026). 如何鑑別一句話是不是 AI 寫的？有人給 AI 文字加了"水印". 科普中國.
https://mp.weixin.qq.com/s/zusIUaJ0CRdtgHaup892pQ
[3] Kirchenbauer, J., Geiping, J., Wen, Y., Katz, J., Miers, I., & Goldstein, T. (2023). A Watermark for Large Language Models. In Proceedings of the 40th International Conference on Machine Learning (pp. 17061–17084). PMLR. https://proceedings.mlr.press/v202/kirchenbauer23a.html
[4] Dathathri, S., See, A., Ghaisas, S., Huang, P.-S., McAdam, R., Welbl, J., Bachani, V., Kaskasoli, A., Stanforth, R., Matejovicova, T., Hayes, J., Vyas, N., Al Merey, M., Brown-Cohen, J., Bunel, R., Balle, B., Cemgil, T., Ahmed, Z., Stacpoole, K., Shumailov, I., Baetu, C., Gowal, S., Hassabis, D., & Kohli, P. (2024). Scalable watermarking for identifying large language model outputs. Nature. https://www.nature.com/articles/s41586-024-08025-4
[5] Hu, Z., Chen, L., Wu, X., Wu, Y., Zhang, H., & Huang, H. (2024). Unbiased Watermark for Large Language Models. In Proceedings of the Twelfth International Conference on Learning Representations. https://proceedings.iclr.cc/paper_files/paper/2024/hash/c5b00c5bdcc6fe35907dbcca03d27652-Abstract-Conference.html
[6] Li, X., Ruan, F., Wang, H., Long, Q., & Su, W. J. (2024). A Statistical Framework of Watermarks for Large Language Models: Pivot, Detection Efficiency and Optimal Rules. arXiv preprint arXiv:2404.01245. https://arxiv.org/abs/2404.01245
[7] Graham, P. (2024, October). Writes and Write-Nots. Paul Graham''s Blog. https://paulgraham.com/writes.html
[8] Flower, L., & Hayes, J. R. (1981). A cognitive process theory of writing. College Composition and Communication, 32(4), 365–387. https://doi.org/10.58680/ccc198115885
[9] Feynman, R. P. (1966, March 4). Oral history interview 5020-1 [Interview by C. Weiner]. American Institute of Physics, Niels Bohr Library & Archives. https://www.aip.org/history-programs/niels-bohr-library/oral-histories/5020-1
[10] [Column]. (2026, August 4). The New York Times. https://www.nytimes.com/2026/08/04/opinion/artificial-intelligence-ai-writing.html
策劃製作
作者丨猛獁 哈爾濱理工大學教師
審覈丨於乃功 北京工業大學教授 中國人工智能學會理事
