火爆網絡的AI捏臉，竟然藏着這些危險

最近，“AI捏臉”視頻在社交平臺上頗爲流行——一雙手捏住各種立體人像，慢慢用力，把人像捏扁、捏爆、捏碎，被捏的對象既有發佈者本人，也有各種影視劇人物乃至虛擬人物。不少發佈者表示“AI捏臉非常解壓”，並鼓勵他人嘗試。

其實，實現AI捏臉並不複雜。簡單來說，就是應用人工智能技術，先將照片、視頻等裏的人物進行3D建模，然後經技術處理，用捏臉模版中的“雙手”將3D模型捏扁、捏爆。

社交平臺的各種“捏臉”“捏物”視頻都是AI合成的

調查發現，“AI捏臉”效果起初來自一款海外AI工具軟件，隨着相關視頻走俏，國內平臺上也出現了類似的應用軟件。但上海闢謠平臺試用發現，這些應用雖說能實現“AI捏臉”效果，但在保護個人信息、不濫用個人信息上做得並不夠。對使用者來說，無異於主動將人臉等隱私信息拱手送上，安全風險極大。

根據一名主播的推薦，記者搜索到一款聲稱免費提供“AI捏臉”效果的小程序，但發現啓用該小程序時，不時彈出廣告，必須手動關閉。就連記者閱讀小程序的用戶協議、隱私條款時，也被廣告打擾。可見，該小程序雖說是免費的，但實際是利用“AI捏臉”功能招攬用戶，提高使用量和瀏覽量，以增加廣告收入。

而且，從該小程序的算法公式、隱私條款和服務方式看，它也讓人不太放心。其在“算法公示”中稱，基本原理是將人臉圖片的面部特徵轉移到視頻素材中的特定人物上，但並未表示哪些視頻素材不能用、哪些場景不適合合成。“隱私條款”表示，小程序會收集用戶的暱稱、頭像、性別、地區、相冊、設備信息等個人信息，這些信息的存儲地點和期限非常模糊，前者是“境內”，後者是“小程序停止運營後即使刪除”。至於該小程序的服務內容，除了用AI技術爲用戶實現捏臉等效果外，還收費提供各種換臉、換背景的照片、視頻產品。

以上種種顯示，“AI捏臉”並非看起來那麼簡單有趣。它背後不僅有部分小程序、平臺、主播的推廣、拉流量等營銷之舉；而且在具體服務中，對個人信息索取、使用、保管等也存在瑕疵。進一步調查還發現，很多提供“AI捏臉”等效果的小程序、網站等，都有類似問題。

要知道，將個人照片等發送給不明來歷的應用程序、平臺等，風險極大。此前，多地警方披露過犯罪分子使用AI換臉、換聲等技術實施敲詐勒索案件，作案的基礎就是受害人的頭像等個人信息有過泄露。

例如，深圳市民吳先生收到陌生手機號碼發送的彩信，裏面是他與一名陌生女子在酒店房間的不雅照片，以及敲詐勒索。吳先生選擇報警。深圳警方偵查後發現，全市有同樣遭遇的不止吳先生一人，犯罪嫌疑人的敲詐勒索方式如出一轍。警方調查發現，背後是一個犯罪團伙，內部分工明確，有人負責尋找作案目標，有人負責修圖，有人負責發短信打電話敲詐勒索。最終，警方成功抓獲10多名犯罪嫌疑人，並在他們的電腦裏發現大量經過合成換臉後的不雅照片。

網絡安全專家表示，隨着AI技術的發展，一張照片、一段語音、一段視頻，都有可能成爲不法分子犯罪工具。他們利用AI技術，不僅能把人物的靜態照片合成到各種背景中，而且能變成動態視頻；同樣的，獲得一定量的音頻信息後，AI技術可以模擬聲音，製造更多的語音文件，從而實施詐騙等犯罪行爲。

要預防這類犯罪，保護好個人隱私信息至關重要。但眼下，部分網民還不瞭解隨意上傳個人照片、聲音的隱患，從而讓犯罪分子有機可趁。

眼下，部分網民有“曬”的習慣，會通過社交平臺曬出身份證、結婚證、房產證、孩子的出生證等各種證件照片；還有的習慣拿着這類證件拍照，或拍攝手持圖畫、報紙等造型的照片。殊不知，各種證件照片包含了個人隱私信息，很容易被不法分子利用，包括辦理信用卡、網貸等金融業務。手持圖畫或報紙的照片，則容易被篡改爲手持身份證等照片，用在驗證身份上，從而被不法分子用於製作假證件或進行網絡詐騙。

網絡安全專家提醒，公衆在日常上網和使用各種AI工具及應用時，要有保護個人隱私、個人信息的意識，不隨意上傳人臉、照片、聲音等個人信息。在朋友圈等社交平臺分享個人生活時，也要避免那些含有敏感信息，或容易被不法分子偷樑換柱的照片。

微信編輯：何夕

還原事實，洞悉真相。

歡迎關注，留言舉報！