8月28日晚,刘昊然工作室发文称近日有大量用户通过网络传播使用AI换脸技术对刘昊然进行侮辱的视频、视频截图以及含有侮辱诽谤言论的聊天记录。为维护刘昊然的合法权益,现已向警方报案。消息传出引起网友一致谴责恶意造谣者。
AI换脸技术最早源自2017年12月,一名外国网名为deepfakes的程序员在reddit上发布一则将《神奇女侠》主演盖尔·加朵的脸替换到有色视频中获得超高点击率,随后又制作大量其他女明星换脸的污秽视频,不到两个月时间该网友就拥有了15000多粉丝。
此类视频火后,其他网友也纷纷效仿用女明星或素人女性AI换脸制作视频。其中被换脸的女明星不乏大牌明星,如艾玛·沃特森、娜塔莉·波特曼、黑寡妇斯嘉丽·约翰逊等。
制作出来的视频大部分都不是什么好的视频内容,于是深受其扰的斯嘉丽·约翰逊怒斥此行为,但最后却无能为力发文说:“把我的头像或任何人的头像剪切粘贴到别人身上这件事,根本没办法阻止”。
随着外网AI换脸流行传到国内,一开始有些网友只是特换成影视剧中的角色,但也有部分别有用心之人制作污秽视频谋取利益。
现在AI换脸技术愈发成熟,任何人在网上下载一个APP就可以随意操作,但随之而来的风险也增大。
另外网上还出现了大量恶搞换脸,例如欧巴马玩滑板、欧巴马愤然离场、奥巴马演讲等都是假的,所以以后大家网上所看到的视频未必是眼见为实。
刘昊然被AI换脸制造侮辱视频在今年1月份时工作室就已经发现,并澄清和发声明希望网友不造谣,不传谣。但仍有别有用心之人继续不断贩卖视频和截图的情况,引起了更大范围的传播,给刘昊然造成了极大的恶劣影响。
因这些视频一般都是通过聊天软件进行传播,客观上很难取证。因此,刘昊然工作室为维护自身合法权益选择报警。
网上有一句话“造谣一张嘴,辟谣跑断腿”,这还是在明星有公关团队的情况下。而AI换脸技术是可以对任何人进行造谣,如若被有心人利用将很难挽回。
现在很多年轻人喜欢自拍AI换脸自娱自乐,或者影视剧因某位艺人犯错也可以利用AI换脸,原本是为了丰富娱乐,促进影视事业的技术,却成了居心不良的人非法牟利手段,成为了互联网上的一颗定时炸弹实属不应该。