危險！男子讓AI看病，中毒了

以前大家經常說“不要在網上亂搜醫療建議”，而在人工智能時代，又出現了一種新風險：讓AI提供醫療建議。

圖片截自論文頁面

不久前《內科醫學年鑑·臨牀病例》（ Annals of Internal Medicine: Clinical Cases）報道了一起神奇的病例——有人因爲聽信 AI，把自己喫成了“溴中毒”。

AI 真敢建議，患者真敢實踐

這位患者來到醫院急診時，主訴是“被鄰居下毒了”，而後醫生還得知，他平日不喫很多食物，連外來的水也不放心喝。住院24小時後，他甚至出現了幻聽幻視等症狀，最終被當作精神病收進醫院。

這是怎麼回事？用藥後，患者冷靜下來，醫生才問出真實情況。原來，由於他特別害怕喫到對身體有害的食物，已經造成身體缺乏多種維生素，最近，他又在網上看到了“食鹽有害身體”的文章，開始進一步瞭解和研究。他想到，食鹽的化學成分是氯化鈉，但爲什麼文獻都在關注鈉對身體的傷害，沒人關注氯呢？超市只能買到低鈉鹽，爲什麼買不到低氯鹽呢？ 難道氯對身體沒有一點害處嗎？能不能不攝入氯呢？

△食鹽，AI配圖。

由於網上沒有相關的資料，他轉而詢問了ChatGPT，結果 AI 給出了“非常具有可操作性”的建議：用溴來代替氯。令人沒有想到的是，他真的照做了。

看似六七八分像，其實完全不一樣

溴，元素符號 Br，在週期表上位於氯的正下方，是普通人不太容易接觸到的一種元素。大概一百年前，溴被認爲擁有鎮靜效果，因此很多非處方藥物裏含有溴鹽，用以治療失眠、焦慮等症狀。然而，要是一不小心喫多了，就會引發運動失調和各種幻覺，嚴重的可以導致昏迷、厭食及便祕等症狀。

爲什麼會這樣呢？溴和氯都是鹵族元素，最外層都是 7 個電子，化學性質很相似，在簡單的化學反應裏確實可以相互代替。因此，人體攝入溴離子後，它也會“冒充”氯離子去參與各種生化反應。但是一旦反應真的開始，它就露餡了： 神經系統的正常運行非常 依賴氯離子，如果氯離子被溴離子頂替，神經系統遭到的破壞也將十分嚴重。

當然，人體可以排出體內的溴離子，但速度較慢，如果持續攝入含溴的食物或者藥物，溴可以逐漸積累，造成更大傷害。歷史上，溴中毒一度佔到了精神病院住院人數的 8%。

沒想到，因爲AI的建議，這位患者產生了“溴中毒”症狀。

不一定靠譜，莫要輕信！

如此說來，雖然這個病例本身是罕見的奇葩，但它卻反映了更廣泛的現象：“聊天機器人精神病”（Chatbot psychosis），也稱“ AI 精神病”。

這個詞語形容的是，用戶在和AI聊天的過程中產生或者加劇了精神病症狀。一個非常典型的場景是，用戶相信某種陰謀論，AI 沒有否定反而迎合並鼓勵用戶，並且幻覺出支持這一陰謀論的各類證據，導致用戶深陷其中，日常生活和社交瀕臨崩潰，甚至採取極端行爲。

爲了提升用戶的使用體驗，在生成式AI的時代，不管是什麼樣的想法，AI都能給提供支持。因此，作爲普通用戶，一定要有一雙善於甄別的眼睛，莫要因爲輕信AI，付出慘痛的代價。

微信編輯：桃子

本文來源：科普中國

還原事實，洞悉真相。

歡迎關注，留言舉報！