四川網警依法查處10起AI造謠典型案例
近年來，隨着人工智能技術（AI）的高速發展，AI在各個領域的應用極大地豐富了我們的生活和工作。其中，AI的文本、圖像生成功能，被一些不法分子用來編輯虛假信息，降低了不法人員造謠、傳謠的門檻，大幅提升了謠言的數量級和傳播力，可能促使網絡謠言“定製化”生成、“精準化”傳播、“智能化”擴散，滋生出“AI類網絡謠言”，極易擾亂網絡生態和社會秩序。對此，四川網警積極行動，嚴厲整治涉AI類網絡謠言，現公佈10起AI造謠典型案例。
1. 利用AI軟件編造“山體滑坡致8人遇難”網絡謠言
▲圖源“四川網警”微信公衆號
2024年1月23日，有網民在某平臺發佈文章稱：“雲南山體滑坡災害 已致8人遇難”。經查，違法行爲人楊某某爲獲取流量牟利，蒐集網絡上的相關信息後，利用AI軟件生成了“雲南山體滑坡災害 已致8人遇難”的虛假新聞信息，併發布在網絡平臺上，造成不良社會影響。目前，四川廣元公安機關已依法對楊某某進行行政處罰。
2.利用AI軟件編造“喜德縣地震”網絡謠言
▲圖源“四川網警”微信公衆號
2024年6月9日，有網民在某視頻平臺發佈視頻稱，“5月27日，四川省涼山彝族自治州發生5.0級地震，震中位於喜德縣，地震波以每小時80公里的速度傳播。地震造成了大量房屋損壞和人員傷亡，災情嚴重”。經查，5月27日涼山發生5.0級地震，震中位於木裏縣，無人員傷亡，部分房屋受損，違法行爲人羅某某爲吸引眼球、獲取流量，利用AI軟件生成虛假地震災情圖片，並在某短視頻平臺散佈不實信息。目前，四川涼山公安機關已依法對羅某某進行行政處罰。
3.利用AI軟件編造“巴中警民對峙”網絡謠言
▲圖源“四川網警”微信公衆號
2024年5月18日，有網民在某平臺發佈文章稱：“巴中市最近上演了一場令人驚心動魄的事件，一輛運鈔車遭到踢爆，警民雙方展開了一場激烈的對峙”。經查，4月30日上午9時許，在四川巴中的一輛運鈔車因在公交車站牌處佔道停留，交警發現後請運鈔車駛離。違法人員尚某某在網上獲悉相關圖片後，爲吸引眼球，獲取流量和利益，帶着僥倖心理，在未經覈實的情況下使用“AI千文”生成標題爲《一場驚心動魄的“鈔票大戰”巴中市警民對峙引發轟動誰將成爲勝利者》的虛假信息併發布，誤導網民，引發社會恐慌，擾亂公共秩序。目前，四川巴中公安機關已依法對尚某某進行行政處罰。
4.利用AI軟件編造“九旬老人遭兒女遺棄”網絡謠言
▲圖源“四川網警”微信公衆號
2024年6月24日，有網民在某平臺發佈一則題爲成都市新都區大豐街道“九旬老人遭兒女遺棄，流浪乞討多年成‘皮包骨’”的文章。經查，文章中的圖片來源於某外國博主救助外國流浪老人的視頻，而文章中的這位“李老頭”也遠在大洋彼岸，違法行爲人張某爲了吸引流量、博取關注，在家中藉助AI程序，結合自己的“所思所想”編造併發布了這篇虛假文章。目前，四川成都公安機關已依法對張某進行行政處罰。
5.利用AI軟件編造“4月大女嬰被遺棄”網絡謠言
▲圖源“四川網警”微信公衆號
2024年1月12日，有網民在某平臺發佈文章稱：“一則令人心痛的新聞在貴州省貴陽市花溪區傳開，一個僅僅4個月大的女嬰被遺棄在超市角落”。經查，違法行爲人周某開發了可自動編撰文章的“翠綠筆墨”AI工具和配套管理系統，並招募志願者創建工作羣，要求志願者提供平臺賬號，由其開發的管理系統代爲登錄賬號，周某再利用AI工具自動生成相關文章，通過管理系統自動保存到志願者平臺賬號的“草稿箱”中，通過工作羣發佈任務，由志願者通過手機從“草稿箱”中手動發佈，2023年11月以來，周某通過招募獲取相關賬號300餘個（均已關停），利用AI工具編造信息約42萬餘條（均已清除）。目前，四川達州公安機關已依法對周某進行行政處罰。
6.利用AI編造“成都公交車失控”網絡謠言
▲圖源“四川網警”微信公衆號
2023年11月20日，有網民在某平臺發佈文章稱：“四川成都公交車失控衝入河中”。經查，違法行爲人陳某看到“重慶公交車失控墜河10死2傷”的新聞後，爲吸引眼球、博取流量，通過AI軟件合成，將內容篡改爲“成都龍泉驛公交車失控墜河10死2傷”後發佈到互聯網，產生不良社會影響。目前，四川成都公安機關已依法對陳某進行行政處罰。
7.利用AI軟件編造“地下熱管道破裂”網絡謠言
▲圖源“四川網警”微信公衆號
2023年12月27日，有網民在某平臺發佈文章稱：“西安市鄠邑區地下湧出熱水、疑是地下熱管道破裂引發”。經查，違法行爲人王某、柳某爲賺取平臺獎勵，利用AI軟件自動生成“西安鄠邑區地下熱管道破裂”的文章，並與河南省商丘網發佈的“商丘一熱管道破裂”圖片進行嫁接，發佈在網絡平臺上，引發大量網民關注，造成不良社會影響。目前，四川綿陽公安機關已依法對王某、柳某進行行政處罰。
8.利用AI編造“建築工地事故”網絡謠言
▲圖源“四川網警”微信公衆號
2023年11月28日，有網民在某平臺發佈文章稱：“成都龍泉驛區一工地上，四名工人使用腳手架高空作業觸碰高壓線不幸身亡”。經查，違法行爲人朱某在互聯網看到“四川達州渠縣使用腳手架高空作業觸碰高壓線造成四人死亡”的新聞後，爲吸引眼球、博取流量，通過AI軟件合成，將事故地點篡改爲成都龍泉驛區後發佈到互聯網，產生不良社會影響。目前，四川成都公安機關已依法對朱某進行行政處罰。
9.利用AI軟件編造“嫖娼突發心臟病死亡”網絡謠言
▲圖源“四川網警”微信公衆號
2024年5月11日，有網民在某平臺發佈文章稱：“涼山西昌有一男子因嫖娼突發心臟病死亡，其家屬向兩名賣淫女和賓館老闆尋求賠償”。經查，違法行爲人吉某某爲吸引流量通過AI工具“智普清言”炮製該虛假文章併發布，造成不良影響。目前，四川涼山公安機關已依法對吉某某進行行政處罰。
10.利用AI軟件編造“虛假橫幅”網絡謠言
▲圖源“四川網警”微信公衆號
2024年4月，有網民在某平臺發佈“成都市郫都區德源鎮某某開發區奠基儀式”的視頻。5月，該網民又發佈一掛有“讓全村都懷上二胎，是村支書不可推卸的責任”橫幅的圖片視頻。經查，以上視頻爲AI編輯生成，均爲不實信息。目前，四川成都公安機關已依法對王某進行行政處罰。
對在互聯網上編造、發佈虛假信息，蓄意歪曲事實、捏造傳播謠言、擾亂公共秩序的行爲，公安機關將堅決依法嚴格處理。希望大家引以爲戒，做到不造謠、不信謠、不傳謠，攜手共建清朗網絡空間。
▷信息來源：“四川網警”微信公衆號
