警惕“AI換臉”成為竊取個(gè)人隱私新手段

  近期，浙江杭州警方偵破一起利用“AI換臉”突破相關(guān)互聯(lián)網(wǎng)平臺(tái)人臉識(shí)別認(rèn)證機(jī)制侵犯公民個(gè)人信息案件，抓獲犯罪嫌疑人4名，查獲一批被非法強(qiáng)制登錄的網(wǎng)絡(luò)賬號(hào)。

  涉案人員利用生成式人工智能深度合成技術(shù)偽造“AI人臉”，突破平臺(tái)人臉識(shí)別認(rèn)證機(jī)制，非法竊取公民個(gè)人隱私數(shù)據(jù)。

  該案中，犯罪團(tuán)伙利用某即時(shí)通訊平臺(tái)招攬生意，宣稱可以承接互聯(lián)網(wǎng)平臺(tái)特定用戶數(shù)據(jù)的“查細(xì)”業(yè)務(wù)。

  接單后，團(tuán)伙成員偽造受害者人臉驗(yàn)證視頻，突破相關(guān)頭部平臺(tái)登錄認(rèn)證，強(qiáng)制登錄受害者賬號(hào)竊取信息。

  該案中，犯罪團(tuán)伙、互聯(lián)網(wǎng)平臺(tái)、個(gè)人信息買家均需根據(jù)具體行為承擔(dān)刑事、行政及民事責(zé)任。

  一是實(shí)施犯罪的團(tuán)伙利用“AI換臉”突破互聯(lián)網(wǎng)平臺(tái)認(rèn)證機(jī)制，非法獲取公民個(gè)人信息并出售的行為，涉嫌非法獲取計(jì)算機(jī)信息系統(tǒng)數(shù)據(jù)罪、侵犯公民個(gè)人信息罪，情節(jié)特別嚴(yán)重的，可處三年以上七年以下有期徒刑，并處罰金；

  二是互聯(lián)網(wǎng)平臺(tái)未采取有效措施保護(hù)注冊(cè)用戶個(gè)人信息，導(dǎo)致用戶個(gè)人信息泄露，可能面臨連帶的行政處罰和民事賠償；

  三是買家出于各種目的非法購(gòu)買他人信息的行為，可能涉嫌非法獲取公民個(gè)人信息、侵犯公民個(gè)人隱私的違法行為。

  當(dāng)前，互聯(lián)網(wǎng)平臺(tái)的登錄認(rèn)證方式主要有賬號(hào)密碼登錄、手機(jī)驗(yàn)證碼登錄、第三方平臺(tái)授權(quán)登錄三種。

  此外，為保證用戶體驗(yàn)，平臺(tái)還會(huì)開通了人臉登錄方式，其應(yīng)用場(chǎng)景主要為當(dāng)用戶忘記賬號(hào)密碼，且手機(jī)遺失、收不到驗(yàn)證碼，或無(wú)法使用前三種登錄方式時(shí)啟用。此時(shí)，用戶可以通過(guò)輸入賬號(hào)綁定的姓名、身份證件號(hào)碼及人臉校驗(yàn)來(lái)完成平臺(tái)的身份核驗(yàn)，登錄平臺(tái)中的個(gè)人賬號(hào)。

  那么，互聯(lián)網(wǎng)平臺(tái)現(xiàn)有的認(rèn)證方式存在哪些風(fēng)險(xiǎn)呢？

  一是公民個(gè)人信息的泄漏。過(guò)往公民個(gè)人信息的泄露導(dǎo)致基于“姓名+身份證件號(hào)碼+人臉”的認(rèn)證機(jī)制更易被犯罪團(tuán)伙突破，同時(shí)，互聯(lián)網(wǎng)平臺(tái)為開展身份認(rèn)證大量收集公民個(gè)人信息的行為也進(jìn)一步增加了個(gè)人信息泄露的風(fēng)險(xiǎn)。

  二是深度偽造技術(shù)的沖擊。隨著生成式人工智能的快速發(fā)展，深度偽造技術(shù)的更新迭代遠(yuǎn)超安全防護(hù)升級(jí)節(jié)奏，視頻生成工具制作出的動(dòng)態(tài)人臉視頻的生物特征不斷接近真人，導(dǎo)致人臉識(shí)別認(rèn)證的安全性降低，被技術(shù)破解繞過(guò)認(rèn)證的風(fēng)險(xiǎn)極大提升。

  三是第三方授權(quán)登錄平臺(tái)的潛在風(fēng)險(xiǎn)。互聯(lián)網(wǎng)黑灰產(chǎn)團(tuán)伙已形成完整的犯罪生態(tài)鏈，一旦頭部互聯(lián)網(wǎng)平臺(tái)出現(xiàn)認(rèn)證漏洞，即可通過(guò)第三方授權(quán)登錄其他平臺(tái)，短時(shí)間內(nèi)即會(huì)造成大量無(wú)法挽回的損失，嚴(yán)重危害公民的個(gè)人信息安全。

  綜上所述，隨著互聯(lián)網(wǎng)技術(shù)的發(fā)展，現(xiàn)有互聯(lián)網(wǎng)平臺(tái)身份認(rèn)證體系在技術(shù)對(duì)抗、隱私保護(hù)、系統(tǒng)防護(hù)等方面均存在結(jié)構(gòu)性風(fēng)險(xiǎn)，平臺(tái)鑒權(quán)、身份認(rèn)證機(jī)制遭到反復(fù)突破，給網(wǎng)絡(luò)犯罪及黑灰產(chǎn)團(tuán)伙提供了可乘之機(jī)，對(duì)國(guó)家經(jīng)濟(jì)、社會(huì)發(fā)展構(gòu)成重大威脅，各互聯(lián)網(wǎng)平臺(tái)應(yīng)當(dāng)深刻認(rèn)識(shí)個(gè)人信息保護(hù)工作的重大意義，主動(dòng)采取更加有效的技術(shù)措施防范網(wǎng)絡(luò)犯罪及黑灰產(chǎn)團(tuán)伙的持續(xù)性攻擊，實(shí)現(xiàn)企業(yè)健康發(fā)展和社會(huì)效益共建雙豐收。