當AI成爲人類確認自我的“參照者”，要警惕技術對情感的操控

人工智能（AI）會給人類最隱祕的精神世界帶來什麼改變？有哪些新情況是需要警惕的？近日，由天橋腦科學研究院與國家精神疾病醫學中心/上海市精神衛生中心主辦的2025人工智能與精神健康生態大會上，圍繞技術、倫理與人文關懷的深度探討引發關注。

作爲本次大會的重要組成，“人工智能在精神健康領域應用的倫理考量”分論壇匯聚了政策、技術、哲學與人類學等多領域人士。在人機關係與哲學反思層面，分論壇探討了生成式AI帶來的“人工親密關係”與主體性危機。隨着AI逐漸成爲人類確認自我的“參照者”，業界需警惕技術對情感的操控與異化。

還有專家談到，儘管AI在邏輯推理上日益強大，但因缺乏人類特有的“脆弱性”與“道德情感”，其無法具備真正的實踐理性。因此，AI應被嚴格定位爲增強人類自主性的輔助工具，而非獨立的道德主體。技術不應替代真實的人際連接與社會支持，必須在“算法效率”與“人文溫度”之間尋找平衡。論壇達成共識：技術創新必須與倫理治理同步，“慢一步”的審慎思考是爲了未來走得更遠、更穩。

會議首次打通學術研究、臨牀應用、產業投資與倫理治理的閉環，標誌着AI賦能精神健康從單點技術突破邁向生態化集羣發展新階段。

國家精神疾病醫學中心主任、上海市精神衛生中心院長趙敏教授稱，今年是國家“人工智能+”行動計劃與國家衛健委“兒科與精神衛生服務年”的交匯點。上海市精神衛生中心已將數字化與智慧化作爲“十五五”規劃的重點，通過建設精神科問診語音數據庫等舉措，致力於打造從研究到轉化的AI醫療生態。

主論壇上，哈爾濱工業大學秦兵教授帶來“大模型情感感知與認知調控”的新進展。通過多智能體協作模擬專家會診，他們開發了面向青少年的共情對話系統和麪向醫療問診的巧環系統，實現從被動回應轉到主動認知干預。

清華大學黃民烈教授介紹了基於大模型的心理訪談系統，該團隊開發的“聆心智能體”已在全國多校落地，4天內完成15萬人的心理篩查，併成功識別出潛在危機案例。他提出的“AI雙師課堂”模式，利用AI輔助教師進行個性化心理教學，解決心理服務資源稀缺與分配不均的難題。

天橋腦科學研究院創始人雒芊芊在開幕致辭中回顧了研究院與上海市精神衛生中心自2021年共建人工智能與精神健康前沿實驗室以來的合作歷程，重點介紹了“靈溪”項目新進展：該項目已採集超過5000例抑鬱焦慮真實問診音頻數據，開發的AI模型情緒識別準確率近90%，綜合診斷準確率接近80%。

上海市精神衛生中心陳劍華教授解析了“靈溪”項目在多模態診療模型上的突破。該項目基於真實的臨牀問診對話數據，構建了融合基於大語言模型的文本症狀特徵提取與聲學特徵等的可解釋性統計模型。他特別提出了大語言模型精神科問診中的症狀與共情本體雙軌框架，不僅關注精準的症狀識別，更引入了情感支持與共情表達維度，顯著提升AI在複雜診療場景中的可靠性。他強調，AI的定位是超級輔助，而非完全替代人類醫生的情感關懷。

專家們還圍繞“診療模型開發中的價值對齊及其倫理考量”展開激烈交鋒。專家認爲，精神健康領域存在“小市場、大需求”的矛盾。討論特別強調了價值對齊的重要性——AI不僅要理解醫學知識，更要理解人類的情感與社會文化背景，避免在互動中產生誤導或成癮依賴。

本次大會不僅是學術盛宴，更是生態和產業的催化劑。作爲大會的重點創新單元，首屆“人工智能與精神健康合成數據大賽”吸引全國110多支團隊參與。分會場活動上，來自AI智能體、AI預問診、AI陪伴、數字療法等多個賽道的創業團隊進行路演。投資機構負責人與醫療專家共同評審，旨在加速科研成果落地轉化。