“崩老頭”屹立在 AI 風口之上-辟謠-漫步新聞-陪你看看

一個好久沒聯繫的親友突然管你借錢，你怎麼判斷是不是本人？

通話？視頻？以前也許行，但如今，最保險應對只有拒絕。

圖源：EJTech

2500 美元的致富之路

來自 404media 的 Joseph Cox 花了幾個星期，混進了一個銷售電詐工具的 Telegram 羣。賣家稱，這款叫“昊天 AI”的軟件可以在WhatsApp、Microsoft Teams、Zoom、TikTok、Instagram 和 YouTube 等視頻軟件裏實時換臉。

來買臉的人可以選現成的，也可以花錢定製。

遊戲捏人界面+PS UI 的結合體｜昊天 AI

Cox 第一次和技術人員打視頻，就被嚇了一跳。電話接通，屏幕那邊出現的是“華仔”。那張臉不只長得像，還能說話、眨眼、切換表情。“假華仔”用手捂住嘴、蓋住眼睛、又摸了摸下巴，臉部一點兒沒錯位散架。

AI 劉德華邀請您激情開麥｜昊天 AI

過了一會兒，對方又把自己換臉成了一個美女。

“付費！立馬付費！”，然後 Cox 把自拍發給了對面，當天他的臉就做好了。Cox 撥通視頻，屏幕對面的的“Cox”挑起一邊眉毛，笑着揮了揮手，接着又是捏臉、捂鼻子、摸下巴。“Cox”甚至還原了他本人的胡茬和眼袋。

Cox 這才意識到，任何人都可以在電話另一端頂着他的臉，招搖撞騙。他對着屏幕連喊兩遍，“Oh My God！（你嚇到我啦～）”。

左真右假，“老鼠老虎傻傻分不清楚”｜404 Media

甚至，識別準確率能達 89.1%的深度僞造檢測模型 Xception，判定這套 AI 模型生成的視頻時，將幾乎所有樣本都判爲“真實視頻”。

不過，這套模型仍然存在目前多模態上的一些問題，比如局部變化引發整體崩壞，模型缺乏對三維空間嵌套關係的顯式理解，所以人物手指一張開，五官就可能跟着變形，眼球甚至會突然鼓起來。（所以下次你懷疑網戀對象是 AI 換臉的，就讓他把手舉到臉前，和你剪刀石頭布。）

今年 4 月，這家公司推出了一項新服務，幫騙子客戶繞過刷臉驗證。把頭型相似的人換臉後，就能通過眨眼、點頭、轉頭的刷臉認證——這套下來，連銀行都喫不消。

昊天 AI 接的“照片定製單”｜TikTok

東南亞的電詐園區光聽着就讓人瑟瑟發抖。有些園區爲了冒充公務機關，會專門搭出一間假辦公室，牆上掛國旗，穿制服的騙子正襟危坐。現在，這些拙劣表演直接省去。這套換臉系統實現讓騙子在 WhatsApp 裏冒充警察。

這可以說是從電詐園區走出來的技術流代表。上述這家公司總部就設在柬埔寨，生意做得相當完整，安裝有人遠程操作，要求電腦性能足夠，至少 RTX 4080 及以上的顯卡，版本跟着 AI 模型更新。在柬埔寨部分地區，客戶甚至可以預約上門安裝。

軟件（臉庫調用）年費 1998 美元，專門定製人臉額外 498 美元，而且只支持加密貨幣 TRON 付款。

從 2023 年 10 月開始，這家公司的加密貨幣錢包已經入賬超過 400 萬美元，相當於有近 2000 人購買了服務。

安全人員拆包了軟件，發現裏面有大量的開源工具。有技術含量的事情就是將各種開源工具整合成一個平臺，幫客戶調試和安裝。年費裏最貴的那部分，其實是服務和信息差——搞詐騙的也風風火火地擁抱了 AI。

根據聯合國毒品和犯罪問題的辦公室統計，在東南亞的 Telegram 灰產市場裏，專門向電詐團伙賣深度僞造軟件的供應商已經超過了 10 家。

昊天 AI 的相關羣組，用戶數已破萬｜Telegram

一類換臉軟件要求屏幕背後必須有一個人，而且這個人的“大模樣”不能和目標差太遠。

更爲先進的一類 AI 實時視頻模型，連人都省了。給它一張照片，屏幕裏就能出現一個完整的 AI 角色。視頻接通後，這個人會看着你說話，表情、眼神、語氣和手勢跟着聊天變化。甚至還能實時生成場景。

假如你問，“提了什麼新車，給我看看實力。”AI 騙子一邊和你聊天，一邊走到車旁，拉開車門。

今年，OpenAI 檢測到一個位於柬埔寨波貝的詐騙網絡，這個網絡用 ChatGPT 生成過假護照、法律通知、股票購買確認單、博彩平臺頁面和加密貨幣交易界面。

騙子用 ChatGPT 生成的交易圖｜OpenAI

視頻裏的金融騙子，西裝革履，言之有據，豪車傍身，拿得出履歷證明。

幾經掙扎，你終會徹底上鉤。

精挑細選的受害者

當你要求開視頻驗人，還慶幸自己很警惕的時候，殺豬盤通常已經進行到後半段了。

在此之前，騙子篩選並定位目標，花上幾天幾個月通過各種方式建立起信任。這工作量可比換個臉多太多了。

一名叫 Safeer 的印度男子被販運到緬甸的一座電詐園區。園區給他安排的新身份，是一名28歲的新加坡女性，名叫 Ella。

任務十分艱鉅。四天之內讓接觸對象愛上自己，而且對象不止一個。

一個月內，Safeer 接觸了大約 5 萬名目標，來自至少 17 個國家。裏面有德國的油漆工、土耳其的糕點師、俄羅斯的工程師，還有庫爾德地區一名喪偶的裁縫。

Safeer 並不懂 17 國語言，也記不住上百個目標的喜好，他每個班次要同時操作幾十個賬號，和一百多人聊天，完全是靠一套叫“控天智能拓客（簡稱 KT）”的軟件。

圖源：KT 智能拓客

KT 接入十幾種主流社交平臺，同時管理多個賬號和聊天對象，聊過什麼也會留下記錄。

利用內置的 GPT、Gemini 等模型，將“新加坡 28 歲女性 Ella”的職業、語氣、經歷和性格等等人設在聊天中發揮到極致。

Safeer 需要做的就是在消息和 AI 生成的回覆之間粘貼和發送。

另一名被困在緬甸 KK 園區的肯尼亞男子，靠着 ChatGPT 冒充德州的牧場主和阿拉巴馬州的大豆種植戶。這個人從沒在美國種過一天地，照樣能陪人聊牲畜、收成和農場生活。OpenAI 發現，詐騙網絡還會專門輸入指令，要求模型回覆時，不要用破折號這種“一眼 AI”的寫法。（真是不怕騙子說假話，就怕騙子有文化。）

針對如此繁瑣的“獲客”流程，也有貼心的“上游”公司開發了“電詐套裝”，名叫 007TG（太地獄了）。

打開 007TG 的官網，第一眼可能會以爲這是一家服務跨境電商的正常公司。網站上有 Slack、Trello、AWS，也收錄了代理 IP、批量社交賬號、虛擬手機號、短信接碼、瀏覽器指紋檢測、USDT 地址查詢和虛擬支付卡。