警惕“AI換臉”成為竊取個人隱私新手段

  近期，浙江杭州警方偵破一起利用“AI換臉”突破相關(guān)互聯(lián)網(wǎng)平臺人臉識別認(rèn)證機(jī)制侵犯公民個人信息案件，抓獲犯罪嫌疑人4名，查獲一批被非法強(qiáng)制登錄的網(wǎng)絡(luò)賬號。

  涉案人員利用生成式人工智能深度合成技術(shù)偽造“AI人臉”，突破平臺人臉識別認(rèn)證機(jī)制，非法竊取公民個人隱私數(shù)據(jù)。

  該案中，犯罪團(tuán)伙利用某即時通訊平臺招攬生意，宣稱可以承接互聯(lián)網(wǎng)平臺特定用戶數(shù)據(jù)的“查細(xì)”業(yè)務(wù)。

  接單后，團(tuán)伙成員偽造受害者人臉驗證視頻，突破相關(guān)頭部平臺登錄認(rèn)證，強(qiáng)制登錄受害者賬號竊取信息。

  該案中，犯罪團(tuán)伙、互聯(lián)網(wǎng)平臺、個人信息買家均需根據(jù)具體行為承擔(dān)刑事、行政及民事責(zé)任。

  一是實施犯罪的團(tuán)伙利用“AI換臉”突破互聯(lián)網(wǎng)平臺認(rèn)證機(jī)制，非法獲取公民個人信息并出售的行為，涉嫌非法獲取計算機(jī)信息系統(tǒng)數(shù)據(jù)罪、侵犯公民個人信息罪，情節(jié)特別嚴(yán)重的，可處三年以上七年以下有期徒刑，并處罰金；

  二是互聯(lián)網(wǎng)平臺未采取有效措施保護(hù)注冊用戶個人信息，導(dǎo)致用戶個人信息泄露，可能面臨連帶的行政處罰和民事賠償；

  三是買家出于各種目的非法購買他人信息的行為，可能涉嫌非法獲取公民個人信息、侵犯公民個人隱私的違法行為。

  當(dāng)前，互聯(lián)網(wǎng)平臺的登錄認(rèn)證方式主要有賬號密碼登錄、手機(jī)驗證碼登錄、第三方平臺授權(quán)登錄三種。

  此外，為保證用戶體驗，平臺還會開通了人臉登錄方式，其應(yīng)用場景主要為當(dāng)用戶忘記賬號密碼，且手機(jī)遺失、收不到驗證碼，或無法使用前三種登錄方式時啟用。此時，用戶可以通過輸入賬號綁定的姓名、身份證件號碼及人臉校驗來完成平臺的身份核驗，登錄平臺中的個人賬號。

  那么，互聯(lián)網(wǎng)平臺現(xiàn)有的認(rèn)證方式存在哪些風(fēng)險呢？

  一是公民個人信息的泄漏。過往公民個人信息的泄露導(dǎo)致基于“姓名+身份證件號碼+人臉”的認(rèn)證機(jī)制更易被犯罪團(tuán)伙突破，同時，互聯(lián)網(wǎng)平臺為開展身份認(rèn)證大量收集公民個人信息的行為也進(jìn)一步增加了個人信息泄露的風(fēng)險。

  二是深度偽造技術(shù)的沖擊。隨著生成式人工智能的快速發(fā)展，深度偽造技術(shù)的更新迭代遠(yuǎn)超安全防護(hù)升級節(jié)奏，視頻生成工具制作出的動態(tài)人臉視頻的生物特征不斷接近真人，導(dǎo)致人臉識別認(rèn)證的安全性降低，被技術(shù)破解繞過認(rèn)證的風(fēng)險極大提升。

  三是第三方授權(quán)登錄平臺的潛在風(fēng)險。互聯(lián)網(wǎng)黑灰產(chǎn)團(tuán)伙已形成完整的犯罪生態(tài)鏈，一旦頭部互聯(lián)網(wǎng)平臺出現(xiàn)認(rèn)證漏洞，即可通過第三方授權(quán)登錄其他平臺，短時間內(nèi)即會造成大量無法挽回的損失，嚴(yán)重危害公民的個人信息安全。

  綜上所述，隨著互聯(lián)網(wǎng)技術(shù)的發(fā)展，現(xiàn)有互聯(lián)網(wǎng)平臺身份認(rèn)證體系在技術(shù)對抗、隱私保護(hù)、系統(tǒng)防護(hù)等方面均存在結(jié)構(gòu)性風(fēng)險，平臺鑒權(quán)、身份認(rèn)證機(jī)制遭到反復(fù)突破，給網(wǎng)絡(luò)犯罪及黑灰產(chǎn)團(tuán)伙提供了可乘之機(jī)，對國家經(jīng)濟(jì)、社會發(fā)展構(gòu)成重大威脅，各互聯(lián)網(wǎng)平臺應(yīng)當(dāng)深刻認(rèn)識個人信息保護(hù)工作的重大意義，主動采取更加有效的技術(shù)措施防范網(wǎng)絡(luò)犯罪及黑灰產(chǎn)團(tuán)伙的持續(xù)性攻擊，實現(xiàn)企業(yè)健康發(fā)展和社會效益共建雙豐收。