近日，F(xiàn)BI發(fā)布了一則公告，揭露了有人利用Deepfake技術(shù)，在遠(yuǎn)程應(yīng)聘中假扮成他人的情況。近兩年由于疫情的影響，國(guó)內(nèi)外都采用了居家辦公的模式。美國(guó)聯(lián)邦調(diào)查局刑事投訴中心表示，最近收到許多企業(yè)雇主的投訴，稱求職者在招聘過(guò)程中使用Deepfake技術(shù)參與遠(yuǎn)程面試。
據(jù)悉，這些職位涉及信息技術(shù)、計(jì)算機(jī)程序、數(shù)據(jù)庫(kù)和軟件相關(guān)領(lǐng)域，一些求職者試圖利用他人的背景和專業(yè)知識(shí)獲得工作，并通過(guò)deepfake技術(shù)偽造視頻。如果僅僅謀職還是小問(wèn)題，但如果是黑客，一旦他們成功簽約，就能夠成功進(jìn)入企業(yè)內(nèi)部，接觸到機(jī)密數(shù)據(jù)。
Deepfake技術(shù)簡(jiǎn)單來(lái)說(shuō)就是AI換臉技術(shù)，國(guó)內(nèi)一款A(yù)PP也可以通過(guò)AI技術(shù)，讓普通人“成為”影視主角，不過(guò)這款A(yù)PP才上線幾天，因隱私和安全問(wèn)題被工信部約談?wù)摹?/span>
通常類似的換臉app都需要用到人臉特征信息。因此就有人擔(dān)心，如果唯一的人臉信息被采集后泄露或被盜，可能會(huì)威脅到自己的財(cái)產(chǎn)安全和人身安全。迫于輿論壓力和相關(guān)部門(mén)的監(jiān)督，該APP不得不修改相關(guān)隱私規(guī)定，并強(qiáng)調(diào)使用加密存儲(chǔ)等安全措施來(lái)保護(hù)用戶信息的安全。
AI換臉技術(shù)這么牛？
確實(shí)很牛！Deepfake利用生成對(duì)抗網(wǎng)絡(luò)（GAN）強(qiáng)大的圖像生成能力，可以將任意現(xiàn)有圖像和視頻組合疊加到源圖像和視頻上，并且可以記錄人臉的細(xì)節(jié)。經(jīng)過(guò)多年的發(fā)展，Deepfake技術(shù)已經(jīng)能夠?qū)崟r(shí)換臉，而且毫無(wú)違和感，這就是人工智能的強(qiáng)大之處??！
但是，Deepfakes也還有一些缺陷的，合成視頻動(dòng)畫(huà)要么從不眨眼，要么眨眼過(guò)于頻繁或不自然，并且音頻和虛擬圖像也不會(huì)自然地配合。因此，這種視頻持續(xù)10秒就會(huì)讓人產(chǎn)生懷疑。而且整個(gè)面試過(guò)程很長(zhǎng)，也容易暴露破綻。
AI應(yīng)用的數(shù)據(jù)安全風(fēng)險(xiǎn)
現(xiàn)在AI人臉識(shí)別技術(shù)的應(yīng)用真的很多。隨著人臉識(shí)別技術(shù)的進(jìn)一步升級(jí)和應(yīng)用門(mén)檻的降低，很多場(chǎng)合都開(kāi)始接入AI人臉識(shí)別技術(shù)，一些娛樂(lè)應(yīng)用也融入了很多AI應(yīng)用，很多普通用戶可能不經(jīng)意間就交出了自己的“人臉信息”。
除了人臉信息，隨著各種智能設(shè)備（如智能手環(huán)、智能音箱）和智能系統(tǒng)（如生物識(shí)別系統(tǒng)、智能醫(yī)療系統(tǒng)）的普及，人工智能設(shè)備和系統(tǒng)對(duì)個(gè)人信息的采集越來(lái)越多。人工智能必然會(huì)引入網(wǎng)絡(luò)連接，而人工智能技術(shù)本身也可以提高網(wǎng)絡(luò)攻擊的智能化水平，進(jìn)而進(jìn)行智能數(shù)據(jù)竊取和數(shù)據(jù)勒索攻擊或自動(dòng)生成大量虛假威脅情報(bào)對(duì)分析系統(tǒng)進(jìn)行攻擊。
主要的攻擊方式包括：繞過(guò)攻擊、推斷攻擊、后門(mén)攻擊、模型抽取攻擊、歸屬推斷攻擊木馬攻擊、模型逆轉(zhuǎn)攻擊、反水印攻擊、重編程攻擊。
因此我們必須清醒地認(rèn)識(shí)到，人工智能時(shí)代的數(shù)據(jù)安全也面臨著許多新的挑戰(zhàn)，保護(hù)人工智能安全、數(shù)據(jù)安全已成為企業(yè)的重中之重。