面部識別技術(shù)已經(jīng)越來(lái)越普遍地被用在我們的生活中。
每天,我們刷臉解鎖手機,翻看相冊里已根據人臉?lè )诸?lèi)好的照片,甚至在上傳圖片到社交網(wǎng)絡(luò )上時(shí)也不用自己填寫(xiě)人名,因為AI已經(jīng)識別出你圖片中人物的名字了。
但如果有一天,AI也能欺騙AI,以假亂真呢?
外媒VentureBeat報道稱(chēng),近日,Facebook的人工智能實(shí)驗室Facebook AI Research(FAIR)開(kāi)發(fā)出一種“去識別”系統,該系統可以欺騙面部識別系統,例如,讓面部識別系統將你識別為一位女明星。

圖源:the verge
盡管,2015年Facebook才被起訴違反了《伊利諾伊州生物識別信息隱私法案》。該法案要求,公司在收集和存儲包括面部掃描在內的生物識別數據時(shí),需要制定公共政策。而Facebook在其“標簽建議”功能中使用了生物識別技術(shù),卻并沒(méi)有制定相關(guān)政策。
但FAIR此次開(kāi)發(fā)的“去識別”技術(shù)卻是反人臉識別的。該技術(shù)通過(guò)機器學(xué)習,能夠實(shí)時(shí)地改變視頻中人臉的關(guān)鍵面部特征。它可以用在視頻,甚至是實(shí)時(shí)視頻中。
事實(shí)上這種“去識別”技術(shù)過(guò)去已經(jīng)存在,許多公司已經(jīng)擁有了對靜態(tài)圖像“去識別”的技術(shù),如初創(chuàng )公司D-ID。該公司聲稱(chēng),其技術(shù)能改變一張人臉圖片中的生物信息,使圖片無(wú)法被人臉識別算法識別,但兩張圖片看上去仍是一樣的。

圖源:D-ID
還有一種被稱(chēng)為對抗圖案(Adversarial Example) 的圖形,它利用電腦視覺(jué)軟件在訓練識別特定特征時(shí)的漏洞,讓識別系統產(chǎn)生誤判。例如,有一副印有對抗圖案的墨鏡,能夠使面部識別系統誤認為你是女演員Milla Jovovich。
過(guò)去的技術(shù)通常應用于從監控攝像頭等渠道獲得的照片、靜止影像,或是已事先計劃好利用對抗圖像欺騙人臉識別系統。現在,FAIR的研究針對實(shí)時(shí)影像和視頻腳本,FAIR稱(chēng)這項技術(shù)成果是行業(yè)首例,且它足以抵抗精密的面部識別系統。
“面部識別可能會(huì )導致隱私的丟失,并且可能有人使用面部替換的技術(shù)來(lái)制作誤導性視頻。”一篇解釋該技術(shù)的論文稱(chēng),“最近,世界上關(guān)于人臉識別技術(shù)的發(fā)展和濫用,激起了人們了解反人臉識別技術(shù)的需求。我們的研究成果,是唯一適用于包括實(shí)時(shí)視頻在內的所有視頻文件的技術(shù),并且呈現的效果遠遠超過(guò)理論值。”
據VentureBeat報道,Facebook并不打算在任何商業(yè)產(chǎn)品中使用這個(gè)反人臉識別技術(shù),但這項研究可能會(huì )對未來(lái)的個(gè)人隱私保護工具產(chǎn)生影響。并且,就像該研究在“誤導性視頻”中所強調的那樣,它能夠防止個(gè)人肖像被用于制造偽造視頻。
目前,Deepface等偽造視頻的問(wèn)題嚴重,用于制作Deepface的工具也日益精密。AI行業(yè)正在努力攻克這些問(wèn)題。Facebook此次的研究成果,便提供了一種可行的方法。
同時(shí),立法機關(guān)與科技公司也正在嘗試著(zhù)推出類(lèi)似的可檢測視頻是否造假的工具,并著(zhù)力于推出限制偽造視頻、影像等傳播的相關(guān)監管政策。本文來(lái)自界面新聞