新興技術(shù)給人們的生活帶來便利的同時,也帶來了隱患。有犯罪團(tuán)伙利用AI技術(shù)制作虛假視頻騙取錢財(cái),不法分子將女明星的臉換到色情視頻上出售,經(jīng)典影視劇片段被隨意換臉篡改……利用AI技術(shù)“惡搞”甚至違法實(shí)例屢見報(bào)端,讓不少人蒙受錢財(cái)、名譽(yù)損失。
針對可能出現(xiàn)的風(fēng)險(xiǎn),國家有關(guān)部門及時作出部署。2019年11月,國家互聯(lián)網(wǎng)信息辦公室、文化和旅游部、國家廣播電視總局聯(lián)合印發(fā)了《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》,要求利用新技術(shù)新應(yīng)用制作、發(fā)布、傳播非真實(shí)音視頻信息的,應(yīng)當(dāng)以顯著方式予以標(biāo)識;網(wǎng)絡(luò)音視頻信息服務(wù)提供者發(fā)現(xiàn)使用者利用基于深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等的虛假圖像、音視頻生成技術(shù)制作、發(fā)布、傳播謠言的,應(yīng)當(dāng)及時采取相應(yīng)的辟謠措施。該規(guī)定已于今年1月1日正式實(shí)施。
2019年12月,國家互聯(lián)網(wǎng)信息辦公室印發(fā)《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》,明確網(wǎng)絡(luò)信息內(nèi)容服務(wù)使用者和網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者、網(wǎng)絡(luò)信息內(nèi)容服務(wù)平臺不得利用深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等新技術(shù)新應(yīng)用從事法律、行政法規(guī)禁止的活動。此新規(guī)將于今年3月1日正式實(shí)施。
那么,如今AI換臉技術(shù)是否還在被濫用呢?《法制日報(bào)》記者對此進(jìn)行了采訪。
換臉軟件備受歡迎
法律風(fēng)險(xiǎn)不容忽視
據(jù)了解,自從去年換臉軟件“火”了之后,如今的常用換臉App已經(jīng)有10多種。
《法制日報(bào)》記者發(fā)現(xiàn),在安卓商店中最受歡迎的某款換臉App,其下載量已過億。多數(shù)用戶表示很好用很有意思,不過一些照片和視頻不能去除水印,而去除水印或者開通更多功能則需要收費(fèi)。同時,也有用戶指出廣告太多,甚至?xí)霈F(xiàn)白屏、閃退、卡頓等問題。還有用戶稱,一些換臉軟件拍出來的照片不真實(shí),或者很模糊。
為了更深入地了解換臉App,《法制日報(bào)》記者嘗試下載了兩款A(yù)pp。在使用XX變臉秀時,《法制日報(bào)》記者發(fā)現(xiàn),該款軟件操作簡單,只需簡單注冊就可以開始在圖片或視頻中輕易換臉,不過無法去除水印。
而另一款曾經(jīng)名聲大噪的App,在注冊成功后,系統(tǒng)會要求上傳一張本人正臉清晰的照片,然后再進(jìn)行肖像驗(yàn)證。一旦系統(tǒng)確認(rèn),就可以在模版中找一個自己喜歡的明星進(jìn)行換臉。操作時,可以選擇用手機(jī)拍照或者從相冊選擇照片,然后點(diǎn)擊替換,只需要幾秒鐘便可制作完成。
據(jù)上海恒衍達(dá)律師事務(wù)所律師王艷輝介紹,現(xiàn)階段AI技術(shù)日趨成熟,開始運(yùn)用于方方面面,AI技術(shù)娛樂化也是必然趨勢。在此情形下催生了換臉App,伴隨著智能手機(jī)的普及,這些App快速走紅。
“我們歡迎新事物,但是也要注意新事物伴隨而來的新問題,換臉App非法濫用和隱私泄露情況頻繁被報(bào)道,對于軟件的經(jīng)營者,要注意民事的索賠、刑事控告、行政處罰的風(fēng)險(xiǎn),軟件的使用者可能面臨隱私泄露、財(cái)產(chǎn)受損的風(fēng)險(xiǎn)�！蓖跗G輝說。
“換臉App是數(shù)字時代數(shù)字技術(shù)運(yùn)用的具體方式,但在激發(fā)大眾創(chuàng)造力和滿足自我娛樂的同時,其負(fù)面作用更應(yīng)當(dāng)引起重視�！敝醒胴�(cái)經(jīng)大學(xué)法學(xué)院副教授朱曉峰認(rèn)為,換臉軟件存在著過度收集個人信息以及侵犯肖像權(quán)、名譽(yù)權(quán)和著作權(quán)的風(fēng)險(xiǎn),利用換臉軟件可以輕易綁架或盜用他人的身份,讓人“言”所未言、“行”所未行,以假亂真。
朱曉峰說,該軟件還可能成為實(shí)施色情報(bào)復(fù)、商業(yè)詆毀、敲詐勒索、網(wǎng)絡(luò)攻擊和犯罪等非法行為的新工具。例如,利用AI換臉技術(shù)制作虛假的色情視頻,以達(dá)到污蔑或報(bào)復(fù)他人的目的;制作、散播關(guān)于商業(yè)競爭對手的深度偽造信息,損害其商譽(yù)等;借用合成的虛假內(nèi)容對他人實(shí)施敲詐勒索或施加精神壓力;借助該軟件破解人臉識別等驗(yàn)證系統(tǒng),非法盜刷他人支付賬戶、獲取他人個人信息或從事其他冒名的違法活動;同時也給法院鑒別聲音、視頻等證據(jù)材料的真?zhèn)螏硖魬?zhàn),甚至危害國家安全等。“應(yīng)當(dāng)通過法律手段嚴(yán)格監(jiān)管換臉App的運(yùn)營,對相應(yīng)的違法犯罪行為依法予以嚴(yán)懲�！�
切實(shí)保護(hù)用戶權(quán)益
避免淪為犯罪工具
《法制日報(bào)》記者發(fā)現(xiàn),如今換臉技術(shù)已經(jīng)被許多主播廣泛應(yīng)用于短視頻制作以及直播中。比如,某位知名主播曾在直播時換不同明星的臉,天天不重樣。而在短視頻制作上,換臉的應(yīng)用更為普遍,大多是惡搞經(jīng)典影視劇片段或者演唱會,把本來的演員換成一些喜劇演員甚至非同一風(fēng)格的演員,以達(dá)到吸引眼球的目的。
朱曉峰認(rèn)為,這種換臉技術(shù)應(yīng)用的行為,主要涉及電影作品的著作權(quán)保護(hù)問題。軟件方在其首頁推薦經(jīng)典電影作品的片段,屬于使用他人享有著作權(quán)的作品的行為,如果該營利性使用行為未經(jīng)電影作品著作權(quán)人許可或者授權(quán),則侵犯了電影作品著作權(quán)人的相關(guān)權(quán)利。
從軟件的用戶角度看,用戶制作并上傳換臉后的視頻,使用了他人電影作品的片段,軟件作為內(nèi)容或服務(wù)提供商傳播了用戶上傳的換臉視頻,則可能與制作并上傳換臉視頻的用戶一起構(gòu)成共同侵權(quán)。不但侵犯了電影作品著作權(quán)人的財(cái)產(chǎn)權(quán),而且侵犯了著作權(quán)人的著作權(quán)。
“用戶將他人的肖像通過換臉軟件更換惡搞視頻中的有關(guān)人物,如果達(dá)到侮辱他人的程度從而貶損他人的名譽(yù),就會構(gòu)成對他人名譽(yù)權(quán)的侵犯�！敝鞎苑逭f。
在王艷輝看來,如果使用明星的照片未獲得授權(quán),涉嫌侵犯肖像權(quán)、隱私權(quán)等合法權(quán)益;如果使用的影視作品、音樂作品未獲得授權(quán),則涉嫌侵犯著作權(quán)、版權(quán)。
對于規(guī)范換臉App,王艷輝建議,換臉App應(yīng)配合相關(guān)部門管理,遵守法律法規(guī),加強(qiáng)風(fēng)險(xiǎn)防控;對于App使用的音樂、影視劇等,要有版權(quán)意識;對于用戶的數(shù)據(jù)加強(qiáng)保密,切實(shí)保護(hù)用戶合法權(quán)益,特別是數(shù)據(jù)安全,避免換臉軟件成為侵權(quán)乃至犯罪的工具。
據(jù)了解,換臉App在用戶注冊時都會有一些需要用戶同意的協(xié)議和隱私條款,而在這些條款里,通常會規(guī)定“完全免費(fèi)、不可撤銷、永久可轉(zhuǎn)授權(quán)和再許可”等“霸王條款”。
“換臉軟件方不能通過用戶協(xié)議把可能發(fā)生的責(zé)任全部轉(zhuǎn)嫁給用戶,而應(yīng)當(dāng)加強(qiáng)自己的監(jiān)管。其中許多條款規(guī)定并不符合網(wǎng)絡(luò)安全法中關(guān)于信息收集正當(dāng)性原則的要求,存在過度收集用戶個人信息的問題�！敝鞎苑逭f,這種情況并不是個例,用戶往往不會逐條閱讀軟件提供的用戶協(xié)議,在勾選了“同意”的情況下,會造成軟件對于個人信息的過度和不當(dāng)收集。
用戶在使用AI換臉技術(shù)制作發(fā)布視頻、圖片時,需要注意哪些問題?
朱曉峰認(rèn)為,首先應(yīng)避免侵犯肖像權(quán)和名譽(yù)權(quán),相關(guān)平臺對此也有審查的義務(wù);其次,避免侵犯著作權(quán)。在對一些影視劇經(jīng)典鏡頭進(jìn)行換臉操作時,要注意自己行為是否侵犯了知識產(chǎn)權(quán)。除此之外,相關(guān)平臺也要進(jìn)行審查,甚至可以要求用戶在上傳視頻的同時提供相應(yīng)的授權(quán)證明文件,或者在接到權(quán)利人告知的侵權(quán)通知后,及時進(jìn)行核查并按照法律的規(guī)定采取相應(yīng)措施。
來源：法制日報(bào) 責(zé)任編輯：聶明鏡
