“科技與狠活”滲入造謠詐騙——近期AI濫用典型案例掃描與警示

春節期間，一條“春運綠皮車嚴重超員”的視頻在網絡發酵，最終被證實系AI拼接歷史畫面炮製而成。事實上，這起事件並非孤例，在AI技術加速普及的當下，利用AI造謠、敲詐、詐騙的案例正呈現多發態勢。從僞造病歷敲詐商家，到生成虛假火災視頻博取流量，再到AI擬聲冒充親屬詐騙老人——AI正在被異化爲新型“違法工具”，其低成本、高迷惑性的特點，對社會治理和公衆安全構成嚴峻挑戰。

今年2月，上海楊浦區一烤肉店負責人唐先生報警，稱顧客楊某以“喫壞肚子”爲由索賠2000元，並出示醫院就診記錄。唐先生轉賬後察覺異常，懷疑被敲詐遂報案。經覈實，楊某的相關病歷及發票均系僞造，據其到案後供述，其利用AI軟件篡改他人就診記錄，僞造姓名、日期及金額，他還利用僞造的材料向市場監督管理局、12315等渠道進行多次投訴舉報，並以此逼迫商家賠付。目前，楊某因涉嫌敲詐勒索罪已被依法採取刑事強制措施。

從敲詐勒索到造謠傳謠，AI濫用的場景正在快速蔓延。2月16日除夕當晚，一條“四川綿陽三臺縣發生火災”的視頻在抖音傳播。經當地公安調查，李某刷手機看到外地房子着火的視頻後，截取截圖通過AI生成虛假火災畫面，並將位置篡改爲“三臺縣·水觀音”發佈。由於發佈時間正值除夕當日，部分網友信以爲真，紛紛轉發導致謠言擴散。目前，李某因故意虛構事實擾亂公共秩序已被公安機關行政處罰。

更爲惡劣的是，AI技術還被用於針對弱勢羣體的精準詐騙。最高法2月26日發佈的典型案例中，披露了一起AI擬聲詐騙案。詐騙分子針對獨居老人，利用AI擬聲換音技術冒充其孫子，通過電話實施詐騙。因老年人轉款不便，吳某濤配合詐騙分子上門收取贓款，從3名老人處騙取現金共計6萬元。人民法院對吳某濤依法判處刑罰，從司法層面斬斷電詐贓款變現“最後一公里”。

透視這些案例，可以發現AI濫用正呈現出一系列值得警惕的傳播特徵與風險隱患。

首先是造謠成本低。過去，造謠需要實地拍攝、複雜剪輯；敲詐需要真實證據；詐騙需要面對面。如今，AI一鍵生成、批量炮製、深度僞造，讓違法成本大幅降低。去年，江西公安機關查處的一起MCN機構造謠案中，當事人通過AI工具日均發佈4000到7000條信息，日收入超過1萬元。

其次是情緒煽動性強。AI通過抓取網絡熱詞和視覺符號，精準狙擊公衆在特定時期的集體記憶與潛在擔憂。除夕夜的虛假火災視頻、春運期間的“綠皮車超員”謠言，均選擇在公衆情緒敏感期發酵，極易激發公衆焦慮情緒，實現跨圈層病毒式傳播。

再次是識別難度顯著增加。AI生成的畫面在光影、細節上日益逼真，加之混剪真實素材，其欺騙性遠超以往的謠言呈現形態。辦案民警指出，這類犯罪“迷惑性強、隱蔽性高”，普通網友僅憑肉眼很難辨別真僞。

這些傳播特徵相互疊加，共同放大了AI濫用的社會危害。當低成本的造假工具遇上高傳播性的社交平臺，再輔以真假難辨的技術僞裝，AI濫用的風險便從單純的個案蔓延爲系統性挑戰。

從內容層面看，複合型謠言真假難辨。AI混剪歷史畫面與生成內容，真假交織，增加覈實門檻，對公衆信息甄別能力提出挑戰。在“綠皮車超員”謠言中，AI將歷史資料畫面與生成內容拼接，普通網友難以辨別真僞。

從應用場景看，技術濫用形式多樣。從僞造病歷、生成虛假視頻，到AI擬聲詐騙、盜用明星形象，AI濫用已滲透到敲詐勒索、造謠傳謠、電信詐騙等多個領域。演員王勁松2月26日發文稱，其形象被AI盜用生成視頻，“聲音、口型完全看不出來真假”，連家人都難以分辨。這種深度僞造技術對個人肖像權、名譽權的潛在威脅不容小覷。

從侵害對象看，針對重點人羣精準作案。獨居老人成爲AI擬聲詐騙的重點目標；春節返鄉羣體成爲春運謠言的情緒靶點；餐飲商家成爲AI僞造病歷敲詐的受害者。這種精準化作案模式，讓防範難度進一步加大，也讓社會信任感受到侵蝕。

從上海餐廳的AI假病歷，到綿陽除夕的AI假火災，再到針對老年人的“AI假孫子”——這些近期密集曝出的案例，勾勒出一幅幅令人憂心的圖景：AI技術正在被異化爲新型“違法工具”。當“眼見爲實”被顛覆，當“親屬來電”也可能造假，公衆的安全感受到挑戰，社會治理面臨全新課題。

國家對AI技術濫用的“零容忍”：中央網信辦在全國範圍內開展“清朗·整治AI技術濫用”專項行動，在春節期間開展“清朗·2026年營造喜慶祥和春節網絡環境”專項行動，明確將“利用AI生成傳播‘數字泔水’等垃圾信息”列爲整治重點。公安機關對多起AI濫用案件快速查處，最高法發佈典型案例釋放“詐騙必受懲”的強烈信號。

然而，技術迭代永不停歇，治理手段必須跑在違規作惡前面。對於平臺而言，不能僅滿足於事後下架，更需建立事前防範——給AI生成內容打上不可篡改的水印，對高迷惑性內容強化算法審覈。對於公衆而言，在這個“有圖未必有真相”的時代，需要建立新的信息接收習慣：多一分警惕、多一次質疑、多一步覈實。

AI是工具，向善還是作惡，取決於使用它的人。當技術被用於敲詐勒索、造謠詐騙、侵犯權益，它就不再是進步的階梯，而是違法的加速器。讓AI迴歸“輔助人類”的本位，需要法律利劍高懸、平臺守土有責、公衆擦亮雙眼——三者合力，方能織密防護網，讓“數字泔水”無處潑灑。

▷信息來源：四川舉報闢謠、央視網、光明網、人民政協報、新京報、極目新聞