如今,人臉識別技術(shù)被認為是一項有爭議的技術(shù)。IBM、谷歌、微軟等IT巨頭紛紛表示將暫停人臉識別技術(shù)的開發(fā)和商業(yè),直到相關(guān)規(guī)則的正式出臺。
一方面,人臉識別技術(shù)會影響人們的隱私。另一方面,它的的確確有助于預(yù)防或檢測潛在的威脅?,F(xiàn)在,鑒于全球新冠病毒大流行,人臉識別技術(shù)還有助于阻止冠狀病毒的傳播。
盡管如此,像其他任何技術(shù)一樣,人臉識別也不是無懈可擊,但也存在許多漏洞,可以繞開系統(tǒng)。正如最近發(fā)現(xiàn)的那樣,有可能制造出旨在規(guī)避人臉識別的太陽鏡。
應(yīng)用于大多數(shù)這些人臉識別的深度學(xué)習(xí)算法容易受到不同類型的攻擊,這些攻擊會影響安全性的三個目標(biāo):機密性,完整性和可用性。
人臉識別包括兩個巨大且多樣化的應(yīng)用。一種旨在檢測人,目前被用于各種公共安全監(jiān)視應(yīng)用中,例如閉路電視攝像機。另一種方法是確保人被成功識別,這涉及到生物識別應(yīng)用,例如手機解鎖或智能家居中智能鎖應(yīng)用。
因此,有兩種不同類型的攻擊。第一種允許攻擊者使用各種形式的偽裝來騙過攝像機。第二個更復(fù)雜,可以進行面部更改,繞過與生物特征識別系統(tǒng)有關(guān)的安全認證,因此可能導(dǎo)致的家庭被入侵。
目前存在哪些類型的人臉識別解決方案?
我已經(jīng)提到了入侵人臉識別的兩個主要目標(biāo)。除了它們,人臉識別還包含許多機器學(xué)習(xí)算法。每個都有自己的功能、屬性和安全漏洞。以下是人臉識別解決方案中常用的機器學(xué)習(xí)算法列表。
人臉識別解決方案可以是物理的也可以是數(shù)字的。它們可以在互聯(lián)網(wǎng)和媒體平臺上實現(xiàn)以跟蹤照片,并且可以將相同的解決方案帶入現(xiàn)實世界并放置在攝像機中。接下來,我們看一看能夠應(yīng)用人臉識別和所使用算法的行業(yè)。
1、公共安全
人臉識別技術(shù)最初是用于專業(yè)目的。執(zhí)法部門實施了讓人臉識別網(wǎng)絡(luò)參與識別城市街道上犯罪者的想法。
2、銀行業(yè)務(wù)
自動取款機可以通過生物學(xué)特征識別持卡人,這有助于更好地保護交易并防止欺詐。
3、互聯(lián)網(wǎng)搜索引擎
圖像搜索引擎也基于該技術(shù)。人臉識別原理被應(yīng)用于社交網(wǎng)絡(luò),以幫助找到具有用戶提供圖像的人。
4、自助付款系統(tǒng)
人臉識別技術(shù)可以使付款過程變得更加容易。不久前,全家超市連鎖店實施了該系統(tǒng),使人們無需出納員即可付款。2019年3月,深圳大都會還推出了基于人臉識別的支付方式。
5、機場和海關(guān)
機場和海關(guān)應(yīng)用人臉識別技術(shù),可以幫助解決人員永無休止的問題和持久的控制措施的問題。
6、智能家居
智能家居解決方案可以使用人臉識別作為生物識別系統(tǒng)來檢查人員是否可以進入該設(shè)施。
上述行業(yè)并不是使用人臉識別來保護敏感數(shù)據(jù)的唯一領(lǐng)域。為了防止對這些系統(tǒng)的任何攻擊,只有適當(dāng)且及時的人臉識別安全才可以是有效的解決方案。
如何進行攻擊?
目前,有近100篇研究論文描述了在人臉識別中繞過AI算法的方法 可以使用所有這些工具來開發(fā)實用的 工具,并發(fā)起間諜、破壞或欺詐攻擊。
實際上,攻擊方法取決于目標(biāo)應(yīng)用。例如,如果目標(biāo)應(yīng)用是數(shù)字的(例如在社交網(wǎng)絡(luò)上上傳的在線照片),則 可能會使用各種技術(shù)對負責(zé)某些語義區(qū)域的像素進行不可感知的更改。如果攻擊者的目標(biāo)是破壞物理人臉識別,則他們可能會嘗試在某些面孔上貼上補丁。這些貼片可能具有看似現(xiàn)實的不同形式(太陽鏡、頭巾和創(chuàng)可貼) 有時會將帽子或照片投影在一張臉上,使其看起來像另一張臉。
人臉識別安全是一個復(fù)雜的過程,涉及對不同安全區(qū)域的分析。
AI基礎(chǔ)設(shè)施:對硬件、平臺、應(yīng)用和架構(gòu)的攻擊。
AI模型安全性:對AI算法的攻擊,例如中毒、后門等。
AI隱私評估:針對專注于隱私的基礎(chǔ)架構(gòu)和算法的攻擊,例如模型提取、隸屬推斷等。
現(xiàn)在很清楚,IoT設(shè)備應(yīng)該沒有軟件或硬件漏洞。人們只關(guān)心硬件、軟件或無線安全性,而對算法安全性的關(guān)注卻不夠。因此,機器學(xué)習(xí)和深度學(xué)習(xí)算法仍未解決。
保護人臉識別中的深度學(xué)習(xí)模型很復(fù)雜,但是至少應(yīng)遵循一些步驟。必須確定特定AI解決方案的主要威脅和問題,進行白盒或黑盒AI安全評估,然后犯罪分子利用你的安全問題之前,采取保護措施。