當網絡謠言遇上AI……

（題圖漫畫：潘紅宇）

“廣州限制外賣配送”“河南信陽市中心體育館驚險崩塌”“甘肅紅十字會收取160萬元暖手袋管理費”……這些所謂“有圖有視有真相”的重磅“消息”，曾在網上廣泛傳播，引起大量網民關注。

令人大跌眼鏡的是，警方事後的調查發現，這些聳人聽聞的“消息”，是不法分子使用AI製作的網絡謠言！儘管警方緊急闢謠、澄清事實，可謠言已經領跑真相一大截，讓很多人信以爲真，給當事方帶來極大困擾。

AI加持下的互聯網，給人們生活場景的豐富、生產效率的提升帶來了全新機遇。但當謠言披上AI的外衣時，謠言和真相更難辨認，造謠的門檻和成本極大降低，傳播的效率和產生的影響成倍增加，成爲亟需治理的一道網絡新課題。

1

近日，多地警方通報了一批利用AI造謠的典型案例。

去年12月，甘肅積石山發生6.2級地震，張某某利用AI軟件，編造了“甘肅紅十字會採購暖手袋，收取160萬元管理費”“甘肅執法隊扣押救災貨車”等不實信息，並通過多個網絡平臺進行發佈，對當地抗震救災工作造成嚴重影響。

今年2月，杜某利用AI技術，編造了“某著名女星命運多舛、含恨離世”的短視頻，上傳網絡後引起廣泛傳播，嚴重影響了當事人的生活和聲譽。

一份近期審結案件的材料顯示，不法分子利用AI技術，以熱點新聞和隨機網絡視頻爲素材，短時間內就製作出約1萬條虛假視頻新聞，其中發佈出去的20多條視頻，涉及多個省份，瀏覽量超過百萬。

清華大學新聞與傳播學院新媒體研究中心今年4月發佈的一份報告顯示，經濟領域已成AI謠言的高發地，餐飲外賣、快遞配送等民生行業是AI謠言的重災區。

2

當網絡謠言遇上AI，後者低成本、高效率、操作簡單的特點，使謠言視頻的批量化生產成爲可能。AI謠言的視頻形態，也契合了部分網民“有圖有視頻就有真相”的認知，使得AI謠言常常一經上網，就能迅速傳播。

從查獲的典型案例來看，“吸睛引流”“變現牟利”等，是不法分子屢屢提及的高頻詞。

自媒體時代，“注意力經濟”爲很多人提供了發家致富的機遇。但一些人信奉“流量至上”，爲了流量，什麼技術都敢用、什麼手段都敢使，甚至把衝撞道德底線、踐踏法律紅線當作“流量密碼”，獵奇、八卦、低俗、編造假新聞等等，都成爲追求流量的工具。

AI造謠更衍生出一條條黑灰產業鏈。

去年國慶假期，“4歲女童海邊走失”發生後，上海警方發現十餘個散佈“走失女童曾被丟棄”等虛假信息的自媒體賬號，並在進一步偵查中打掉一個“水軍”團伙。該團伙藉助AI技術，批量製造不實帖文，大量轉發炒作，非法獲利4萬餘元。

前述清華大學的研究報告，以80餘件涉AI謠言案例進行統計，發現涉案所受處理當中，佔比最大的是行政處罰，包括罰款和行政拘留，約佔一半；而實施刑事拘留和判刑的，不足兩成；其餘則是封禁賬號、信息清理、批評教育等。 

同謠言造成的破壞相比，不少網友認爲，懲處造謠的力度還不夠剛硬。只有進一步完善法律法規，實施更強有力的懲處，才能發揮震懾作用，遏制AI謠言黑灰產業蔓延勢頭。

AI謠言傳播的相關網絡平臺，也不能忘記平臺的主體責任。加大人力、財力、技術等多方面投入，在內容甄別、謠言攔截、防止擴散等方面展現更多主動作爲，堅決阻斷謠言傳播鏈條，切實肩負起社會責任。

走好羣衆路線，發動廣大網友，激發網友參與舉報AI謠言的熱情，共同築起防範AI謠言傳播的銅牆鐵壁。

唯有如此，AI這種新生產工具才能揚長避短，不爲謠言生產、傳播助紂爲虐，而爲社會發展進步貢獻更多正向力量。（記者 魯暢）

來源：新華社