當面臨AI說謊 網警教你如何守護真實的信息邊界！
網絡安全與日常生活緊密相連，從智能助手、精準醫療到自動駕駛，AI的進步讓社會運轉更高效、生活更便捷，但技術往往利弊共生，AI快速發展也暗藏風險：AI造謠 、AI詐騙正成爲亟待應對的嚴峻挑戰，我們在擁抱AI便利的同時，必須高度警惕這些潛在危害。
AI造謠
今年3月初，一則關於“華山醫院前院長”因病客死他鄉的消息在互聯網廣泛傳播，也引起衆多網友關注。然而經上海警方覈查卻發現，華山醫院壓根就沒有名爲“張明遠”的前院長，也沒有同名員工。經上海公安網安部門迅速調查，最終成功偵破這起利用AI造謠案，將犯罪嫌疑人王某某、郭某某、石某某抓獲歸案。而令人喫驚的是，犯罪嫌疑人在發佈該假消息前，甚至都不知道有華山醫院這家醫院，更不知道所謂的“張明遠”這個人。
經查實，王某某、郭某某、石某某等3人，通過控制500餘個自媒體賬號，設置社會熱點、明星緋聞、爆款推薦等關鍵詞策略，利用AI工具自動生成併發布不實帖文30餘萬條，造成惡劣社會影響。
近年來， 隨着AI技術的快速發展，尤其是自然語言處理和深度僞造技術的成熟，AI造謠呈現出更隱蔽、難辨別的特點，利用ai工具合成技術編造謠言，甚至生成逼近真實的圖片、音視頻，顛覆了“有圖就有真相”的常規認知，讓人難辨真假。
AI造謠的主要形式
1生成逼真的假新聞、僞造的社交媒體帖子或惡意評論。
2通過Deepfake技術合成名人、政客的虛假影像或語音。
3結合社交機器人和AI，在社交媒體上大規模擴散謠言，製造虛假輿論。
辨別AI造謠
僞造熱點事件、捏造名人言論、炮製僞科普、嫁接虛假證據，都在引 你“入坑”……當造謠已經用上AI工具，教你怎麼來辨別！
保持懷疑態度
對於任何看起來過於完美或者與常識相悖的信息，都應該持有一份謹慎的態度。不要輕易相信未經覈實的消息來源。
查證信息真僞
當遇到疑似使用AI技術修改過的內容時，可以通過搜索引擎查找原始資料進行對比驗證。同時也可以利用一些專門用來檢測圖像編輯痕跡的工具來輔助判斷。
增強個人隱私保護意識
防止個人信息泄露也是抵禦AI謠言的重要一環。因爲很多時候，詐騙者正是利用了受害者的私人數據來進行精準攻擊。定期更換強密碼、謹慎分享位置信息等措施都有助於降低被惡意利用的風險。
關注官方渠道
權威機構發佈的信息通常更爲可靠。因此，在接收到不確定的消息後，優先參考政府機關、知名媒體等正規途徑發佈的聲明或報道。
積極參與網絡環境淨化
如果您發現自己成爲了某條虛假消息的傳播者，請立即停止轉發並向相關平臺舉報該內容。每個人的小小努力匯聚起來就能形成強大的正能量，共同維護健康的網絡空間。
AI詐騙
2024年8月，市民劉先生報案稱其在2個月前通過一則短視頻結交了網友“焦女士”，接觸後感覺十分投緣。不久，“焦女士”稱在外出遊玩時爲他請了一串手串，劉先生深受感動，兩人迅速發展爲戀人關係。隨後，“焦女士”又稱剛盤下一家服裝店，希望劉先生能爲她預訂花籃支持開業，劉先生未多想就轉賬給了對方推薦的“花店老闆”。接下來的一個月內，“焦女士”故伎重施，以家屬生病、進貨需要資金等理由，陸續向劉先生索要了近20萬元。接報後，上海警方抽絲剝繭，逐步明確了一個以楊某爲首的交友詐騙團伙。隨着調查深入，民警發現該團伙組織嚴密且有明確分工，如在短視頻平臺上架視頻的引流人員，與潛在被害人聊天的業務員，以及僞造相關聊天內容的“修圖”人員，採取“流水化”詐騙作業。
“AI詐騙” 成功率極高，因爲騙子利用的是人類最原始的情感：對親友的信任和對權威的畏懼。傳統電信詐騙靠“話術”，而AI詐騙靠的是“技術”。它不再僅僅是“猜猜我是誰”，而是讓你親眼看到、親耳聽到“你認識的人”，欺騙性呈指數級上升。
AI詐騙常見套路
1聲音合成
騙子通過騷擾電話錄音等來提取某人聲音，獲取素材後進行聲音合成，從而可以用僞造的聲音騙過對方。
2AI換臉
騙子首先分析公衆發佈在網上的各類信息，根據所要實施的騙術，通過AI技術篩選目標人羣。在視頻通話中利用AI換臉，騙取信任，從而實施詐騙。
3轉發語音
騙子在盜取社交賬號後，便向其好友“借錢”，爲取得對方的信任，他們會轉發之前的語音，進而騙取錢款。
4AI程序篩選受害人
騙子利用AI來分析公衆發佈在網上的各類信息，根據所要實施的騙術對人羣進行篩選，在短時間內便可生產出定製化的詐騙腳本，從而實施精準詐騙。
AI技術能讓違法犯罪分子輕鬆“換臉變聲”，請注意“眼見”未必爲實，教你如何辨別AI詐騙。
動作驗證法
當視頻中對方（尤其是涉及轉賬、借錢等敏感要求時）顯得有點“怪”，別急着答應。請對方做一個連貫的轉頭動作，或者用手掌完全遮住臉再快速移開。目前的AI技術在模擬這些複雜的面部遮擋和光影變化時，容易出現卡頓、模糊或扭曲。
聲音細節辨真僞
注意聽語音細節。AI生成的語音有時會缺乏自然的呼吸停頓、情感起伏，或者帶有輕微的機械感、背景雜音異常。如果對方聲音聽起來“不像平常”，務必提高警惕。
多渠道覈實身份
這是最核心的一招！無論視頻、語音多麼逼真，涉及金錢交易或敏感信息時，務必通過其它可靠途徑二次確認。比如，掛斷後直接撥打對方常用且你熟悉的電話號碼（不要回撥可疑來電號碼），或者通過你們共同認識的第三人進行側面覈實。
核心口訣
“視頻語音莫輕信，動作驗證多核實！”——對可疑的視聽信息保持警惕，堅持多渠道覈實身份。
網警提醒
面對紛繁複雜的網絡信息，須持續提升辨別意識。涉及金錢往來的各類交易，應始終保持高度警惕，不向陌生賬戶轉賬、不被 “高收益”“急用錢” 等說辭迷惑。守好信息安全與財產安全，共同防範網絡風險，營造一個真實可信的信息環境。
▷信息來源：“公安部網安局”微信公衆號、上海網警
