小紅書治理“AI製作探店、住宿、就醫、美容等虛假內容”，今年6-8月清理AI虛假內容近12萬條

9月3日，小紅書薯管家發佈“關於AI製作醫美、民宿等虛假內容治理公告”：

AI技術的發展，讓普通人也能創作出一條製作精良的內容，但也讓編一段沒發生過的經歷變得容易。

近期平臺發現，部分賬號利用AI生成虛假體驗筆記，用AI生成或拼接的圖片僞造實景，杜撰探店、住宿、就醫、美容等使用體驗等內容，誤導用戶決策。

小紅書積極響應主管部門相關管理要求，切實履行平臺主體責任，已將AI製作發佈虛假內容納入常態化治理。平臺從三方面加大治理力度：

一是細化管控重點，以AI生成圖片僞造實景、AI批量生成同質化體驗筆記、虛構親歷經歷爲高風險場景重點識別，文旅住宿、醫療醫美、教育、房產等品類優先覆蓋；

二是聚焦存量清理，從筆記、評論、賬號等多環節清理歷史虛假內容；

三是增補策略嚴控新增，同步強化未標識AI內容的識別能力，對同一圖片或視頻跨地域、跨賬號重複使用的情形加強檢測。

今年6-8月，平臺清理處置AI製作發佈的虛假筆記近12萬條。典型案例如下：

1.用戶泥*吧，發佈AI虛假醫美體驗，平臺已下架相關內容，並對違規賬號予以封禁處置。

2.用戶吹*風，發佈AI虛假民宿圖文，虛構住宿體驗，平臺已下架相關內容，並對違規賬號予以禁言處置。

3.用戶心*閣，發佈AI虛構家庭背景及教育經驗，銷售教輔材料，平臺已下架相關內容，並對違規賬號予以封禁處置。

平臺鼓勵創作者使用 AI 輔助創作；也請在發佈涉及 AI 生成內容時，使用平臺AI內容聲明功能予以標註。

真誠分享源於真實體驗。希望各位小紅薯們合理使用AI，不虛構未曾到訪的地點、未實際使用的產品或未親身經歷的事件，一起守護社區的真實與信任。

平臺將持續優化AI治理工作，與每一位真誠的創作者攜手，打造用戶分享真實生活的清朗空間。薯管家也在此呼籲：如發現疑似AI編造的虛假內容，歡迎通過筆記右上角的"舉報"入口反饋。

▷信息來源：小紅書署管家