疫情后，“AI+”成為時代主旋律。然而，在隱秘的角落，由AI所引發(fā)的安全風(fēng)險和“黑灰產(chǎn)”問題正與日俱增。尤其是人臉識別，作為AI技術(shù)落地廣泛的場景之一，所面臨的安全、倫理和道德等挑戰(zhàn)愈發(fā)嚴(yán)峻。
經(jīng)過近些年的快速發(fā)展，人臉識別已和智能硬件解鎖、支付，以及公共服務(wù)等身份驗證直接綁定在一起。因面部信息的性，以及作為個人隱私中敏感、重要的組成部分，一旦出現(xiàn)問題，將會對個人隱私、公共安全造成巨大威脅，故對技術(shù)的安全要求和標(biāo)準(zhǔn)相對更高。
2017年，一位名為deepfakes的網(wǎng)友將電影中演員的臉替換成好萊塢女星，并將合成視頻在Reddit網(wǎng)站上發(fā)布，引發(fā)熱議，遭到大眾對技術(shù)濫用的質(zhì)疑。這也為AI“換臉”技術(shù)吸引了一波關(guān)注，DeepFake(深度偽造或深度合成)就此成為該技術(shù)的代名詞，同名算法也在Github上開源，導(dǎo)致合成視頻片段大量涌現(xiàn)。
無*偶，2019年國內(nèi)AI換臉工具“ZAO-逢臉造戲”APP。上傳一張照片，就能把諸多明星塑造的角色換成自己的臉，漫威系列的“緋紅女巫”，《泰坦尼克號》中小李子扮演的“杰克”，或是《喜劇》里的“柳飄飄”。
只需幾秒，便可跨越AI換臉的高難技術(shù)門檻，實(shí)現(xiàn)和偶像互動飆戲的美夢，如APP宣傳語所說，“只需一張照片，出演天下好戲”，很難不讓人心動。
DeepFake技術(shù)濫用，引發(fā)擔(dān)憂，也為人臉識別技術(shù)的應(yīng)用推廣帶來了巨大風(fēng)險。據(jù)稱，2019年底，硅谷人工智能公司Kneron曾使用DeepFake技術(shù)成功欺騙了支付寶和微信支付，并且順利通過機(jī)嘗火車站等自助終端檢驗！
為此，各國紛紛加強(qiáng)了監(jiān)管措施，譬如，美國政府公布了《禁止惡意深度偽造法案》、《2019年深度偽造責(zé)任法案》、《2019年深度偽造報告法案》，旨在通過限制DeepFake合成技術(shù)，打擊虛假信息的傳播。
不過，凡事都有兩面性。盡管早期的Deepfake以*搞、炫技為主要目的，但發(fā)展著發(fā)展著，就被別有用心的群體盯上，以假亂真地制作名人視頻，引發(fā)誤會。
對此，微軟出手打造了視頻鑒真工具，可以讓經(jīng)由Deepfake處理的偽造視頻原形畢露。鑒真工具可進(jìn)行逐幀分析，以驗證圖像有無存在篡改。工具中基于Azure的組件還允許視頻創(chuàng)作者對圖像添加數(shù)字散列和證書。隨著AI算法的精進(jìn)，工具不可避免地要被淘汰。
技術(shù)是中立的，也是雙向發(fā)展的，不會因為懼怕風(fēng)險而停滯不前。對深度偽造的內(nèi)容不能一竿子打死，很多深度偽造的合成媒體內(nèi)容具有存在的正當(dāng)性，而對影響安全、公共安全、政治的虛假信息才需要加強(qiáng)監(jiān)管和規(guī)制。
我們應(yīng)當(dāng)正確看待深度偽造的功能，監(jiān)督引導(dǎo)其正確規(guī)范使用，而深度偽造只是人工智能的其中很小的一個分支，不能代表人工智能，而深度偽造使用者是人，其本身是無對錯。對于愈加復(fù)雜的信息網(wǎng)絡(luò)，閉門造車，自掃門前雪的方式顯然是不經(jīng)濟(jì)的，引導(dǎo)AI對抗技術(shù)的商業(yè)化落地，是加強(qiáng)網(wǎng)絡(luò)安全的重要途徑之一，也是促進(jìn)AI技術(shù)應(yīng)用和推廣的安全保障。
原標(biāo)題：人臉識別是AI技術(shù)落地的濫用？
網(wǎng)站客服
我來評論
昵稱 驗證碼 請輸入正確驗證碼
所有評論僅代表網(wǎng)友意見，與本站立場無關(guān)。