能點頭會眨眼卻不是真人 誰在幫AI深度偽造“假人臉”通過驗證?
點頭、眨眼、搖頭——這套動作是很多App刷臉驗證時會要求用戶進行的固定操作。杭州市中級人民法院日前公布的一起典型案例,引發了用戶對人臉識別的擔憂:兩名不法分子用網上收集來的照片,通過AI生成點頭眨眼的動態視頻,再通過虛擬相機應用等手段,非法登錄個人賬號。
法院一審認為,上述行為侵害眾多不特定社會主體的個人信息權益,損害相關領域社會公共利益,構成侵權。那么不法分子是如何通過AI生成內容騙過識別系統的?針對這種情況,該怎樣做好預防措施,保護個人信息安全?
杭州市中級人民法院公布的案件中,張某、王某為牟利,從境外某社交軟件通過某種途徑獲取他人手機號碼、頭像照片、身份信息等,并利用“AI換臉”技術制作虛假活體驗證視頻,強制登錄他人購物平臺賬號,將收貨地址、購物車信息售賣給第三方,同時還有償替人虛假實名認證。
杭州市中級人民法院知識產權審判庭法官助理 葉永青:傳統侵權泄露的是信息,這個案子當中攻破的是身份驗證這一重要防線,受害者可能面臨的不再是單條信息的泄露,而是賬戶被接管、財產被轉移、身份被冒用等一系列連鎖風險,法院對此的態度也很明確,生物識別信息應當受到最嚴格的保護,對這類行為的評判不能停留在個體損失層面。
與身份信息、照片泄露不同,身份驗證突破難度更大。某大型銀行工作人員告訴記者,銀行的遠程人臉核驗,并不是單純看一段動態視頻。除了畫面里的張嘴、搖頭等動作,后臺還設置了多層反偽造校驗。系統可能會檢測畫面的成像噪聲、光影一致性、紋理、3D深度信息等,此外還要通過活體檢測算法的檢驗。那么AI生成內容是如何騙過識別系統的?
復旦大學發展研究院青年副研究員張曉寒介紹,偽造手段主要分為面部信息盜取和活體模擬兩部分。
該案中,張某、王某利用“AI換臉”技術通過深度學習算法,識別目標人物照片并提取人臉信息,隨后不斷利用這些信息進行訓練建模,實現換臉的效果。二人除了制作虛假的人臉認證視頻,還通過在手機中植入虛擬相機應用程序替換本地相機,這樣一來,當平臺調取攝像頭進行人臉識別驗證時,屏幕中的人臉就自動替換成了這段合成視頻。
過去換臉等入侵手段需要專業團隊,然而現在只需開源工具和一部手機就能作案,AI侵權呈現低門檻化趨勢。人臉認證等手段還可靠嗎?張曉寒表示,需要增強個人信息安全意識,但也不必過度恐慌。
張曉寒:我們國家其實相繼出臺了一系列政策法規和國家標準。但另一方面生成視頻的能力確實越來越強,所以對于公眾來說,一方面要做好個人隱私的保護,另一方面可以在App里開啟多因素認證或者雙因素認證方式。這樣除了校驗人臉,還會去校驗手機驗證碼等。
葉永青介紹,法律層面仍在不斷更新,為個人信息安全提供保障。
葉永青:民法典、個人信息保護法和新修改的網絡安全法都有對人臉信息或生物識別信息作出相關規定。除此之外,最高人民法院也專門發布了《關于依法審理涉人工智能糾紛案件的意見》,進一步明確了涉人工智能案件的司法裁判規則。當前,我國正在推動人工智能領域的專門立法進程。
監制丨李行健
記者丨馬靖宇 于晨 王殿甲
社會新聞精選:
- 2026年11月17日 16:35:38
- 2026年11月17日 16:33:10
- 2026年11月17日 12:14:44
- 2026年11月17日 12:14:14
- 2026年11月17日 10:42:47
- 2026年11月17日 08:31:58
- 2026年11月16日 22:12:30
- 2026年11月16日 20:02:05
- 2026年11月16日 16:06:18
- 2026年11月16日 15:51:31














































京公網安備 11010202009201號