最近，有網友發來一段視頻詢問，“張文宏是不是帶貨了？”視頻中在賣一種蛋白棒，家裏的老人信以爲真已經下單，還轉發了很多羣。記者覈實發現，這個賬號名爲“般畫234”，在視頻中，“張文宏”反覆介紹一種產品，口型是他的，聲音也是他的，但稍微懂點AI的小夥伴們，一眼就能分辨，這是AI合成的視頻！但是老年人哪裏懂甄別啊？記者發現，這段視頻已在該賬號內不可見，但商品櫥窗內，還保留着蛋白棒售賣的頁面，並顯示已售出1266件。這和此前“假靳東”騙得無數阿姨砸錢一事，有異曲同工之處。今年11月，江西一位老人來到銀行辦理銀行卡，但手續不全又不肯離開，警方到現場後，老人表示要到銀行貸款200萬元給自己的男朋友“靳東”拍戲。“我是在短視頻平臺上認識的‘靳東’，‘靳東’向我表白了，並用兩人合照發佈了短視頻，現在他拍戲需要200萬元，我要去幫助他。”老人略顯激動的說道。民警隨即拿起老人的手機進行查看，發現老人所謂的大明星“靳東”是騙子冒充的，其所發佈的視頻也是由電腦AI合成，但老人對網絡知之甚少，對於騙子所說所做深信不疑。隨即，民警向老人進行耐心勸導，但老人對假“靳東”仍然深信不疑，於是民警一邊繼續開展勸解工作，一邊通知老人孫子前來共同勸解。最終，民警通過向老人展示網絡上一些冒充“靳東”詐騙的新聞和現場利用AI合成照片等方式，老人才幡然醒悟過來，表示不會再相信網絡上的“靳東”，對民警連連道謝，並放棄了開卡貸款的念頭。螞蟻集團天璣實驗室安全算法專家朱凱建議，通過遮擋結合“動起來”的方式，來識別到底是真人還是“數字人”——比如，在摁鼻子或摁臉的同時左右搖晃頭部，這就是“動起來”的一種方式。目前很多“AI換臉”的基礎是被模仿者的照片，照片是平面的，所以生成的“數字人”以正面、平面爲主。當人臉動起來時，會呈現出臉部的三維結構，算法只能基於平面的照片推測三維結構，按照現有的技術手段，推測結果大多不太理想，從而讓人發現漏洞。此外，可以要求對方在臉部揮手、用手指比數字等。真人做這些動作時，臉部表情、手部動作都很自然；如果是“數字人”，很可能出現問題。雖然現有的AI技術有能力生成臉部被部分遮擋的靜止畫面，但“揮手”“比數字”意味更多的動作，目前技術還沒辦法實時生成完美效果，從而出現破綻。值得注意的是，以上鑑別方式都是基於現有算法的侷限性。未來隨着AI技術的發展，“動起來”“揮手”“比數字”等有可能難不倒新技術，“數字人”同樣能順利完成以上動作，從而更加具備迷惑性。所以，防範AI詐騙，還是要從自己出發，做好信息保護，提高警惕。例如，不要泄露個人信息，尤其要注意圖像、聲音、指紋等生物信息的保護。“AI換臉”的數據基礎是被模仿人的照片、視頻等，個人公開在外的照片、視頻越多，意味着AI算法參考的數據越多，生成的“數字人”會更真實。同時，在涉及資金交易等場景下，需要多留心眼，不輕易相信視頻、聲音。很多時候，傳統的識別方式要比技術識別更有效。例如，可以詢問對方只有當事人之間知道答案的問題、共同經歷的事情等。
微信編輯：耳月
綜合自：儂好上海微信公衆號、上觀新聞、@晏秋秋視頻號、大皖新聞
還原事實，洞悉真相。
歡迎關注，留言舉報！
