警惕“AI換臉”成為竊取個人隱私新手段

  近期，浙江杭州警方偵破一起利用“AI換臉”突破相關互聯網平臺人臉識別認證機制侵犯公民個人信息案件，抓獲犯罪嫌疑人4名，查獲一批被非法強制登錄的網絡賬號。

  涉案人員利用生成式人工智能深度合成技術偽造“AI人臉”，突破平臺人臉識別認證機制，非法竊取公民個人隱私數據。

  該案中，犯罪團伙利用某即時通訊平臺招攬生意，宣稱可以承接互聯網平臺特定用戶數據的“查細”業務。

  接單后，團伙成員偽造受害者人臉驗證視頻，突破相關頭部平臺登錄認證，強制登錄受害者賬號竊取信息。

  該案中，犯罪團伙、互聯網平臺、個人信息買家均需根據具體行為承擔刑事、行政及民事責任。

  一是實施犯罪的團伙利用“AI換臉”突破互聯網平臺認證機制，非法獲取公民個人信息并出售的行為，涉嫌非法獲取計算機信息系統數據罪、侵犯公民個人信息罪，情節特別嚴重的，可處三年以上七年以下有期徒刑，并處罰金；

  二是互聯網平臺未采取有效措施保護注冊用戶個人信息，導致用戶個人信息泄露，可能面臨連帶的行政處罰和民事賠償；

  三是買家出于各種目的非法購買他人信息的行為，可能涉嫌非法獲取公民個人信息、侵犯公民個人隱私的違法行為。

  當前，互聯網平臺的登錄認證方式主要有賬號密碼登錄、手機驗證碼登錄、第三方平臺授權登錄三種。

  此外，為保證用戶體驗，平臺還會開通了人臉登錄方式，其應用場景主要為當用戶忘記賬號密碼，且手機遺失、收不到驗證碼，或無法使用前三種登錄方式時啟用。此時，用戶可以通過輸入賬號綁定的姓名、身份證件號碼及人臉校驗來完成平臺的身份核驗，登錄平臺中的個人賬號。

  那么，互聯網平臺現有的認證方式存在哪些風險呢？

  一是公民個人信息的泄漏。過往公民個人信息的泄露導致基于“姓名+身份證件號碼+人臉”的認證機制更易被犯罪團伙突破，同時，互聯網平臺為開展身份認證大量收集公民個人信息的行為也進一步增加了個人信息泄露的風險。

  二是深度偽造技術的沖擊。隨著生成式人工智能的快速發展，深度偽造技術的更新迭代遠超安全防護升級節奏，視頻生成工具制作出的動態人臉視頻的生物特征不斷接近真人，導致人臉識別認證的安全性降低，被技術破解繞過認證的風險極大提升。

  三是第三方授權登錄平臺的潛在風險。互聯網黑灰產團伙已形成完整的犯罪生態鏈，一旦頭部互聯網平臺出現認證漏洞，即可通過第三方授權登錄其他平臺，短時間內即會造成大量無法挽回的損失，嚴重危害公民的個人信息安全。

  綜上所述，隨著互聯網技術的發展，現有互聯網平臺身份認證體系在技術對抗、隱私保護、系統防護等方面均存在結構性風險，平臺鑒權、身份認證機制遭到反復突破，給網絡犯罪及黑灰產團伙提供了可乘之機，對國家經濟、社會發展構成重大威脅，各互聯網平臺應當深刻認識個人信息保護工作的重大意義，主動采取更加有效的技術措施防范網絡犯罪及黑灰產團伙的持續性攻擊，實現企業健康發展和社會效益共建雙豐收。