极速手机网

ZAO火爆却注定短命背后:换脸攻击一直都存在?

今天小编给大家带来ZAO软件相关资讯。一夜间,从爆火到众多质疑、甚至厌恶,互联网圈已经很久没出现这个盛况了。

8月30日晚,一款主打视频换脸功能的、名为“ZAO”的APP“点燃”社交网络。其操作十分简单,用户只需上传一张照片,用AI换脸功能,就可将照片上的脸“换”到张柏芝、王祖贤等各大明星的身上,然后分享朋友圈,甚至“可以和自己的偶像同框”。

经过一夜发酵,到8月31日早上9点过,#Zao AI 换脸# 话题快速登上微博热搜榜第7位,iOS商店内的App下载量也在当日下午超越爱奇艺、腾讯视频两大国民级应用,攀升至娱乐类第二位——ZAO服务器也因此数次崩溃。

不过,伴随刷屏的,是业内外无数人士的质疑,甚至厌恶和反感——引起巨大争议用户隐私保护条款背后,是我们的脸早就被滥用,甚至攻击都一直存在。

ZAO或将步前辈短命后尘

ZAO火爆却注定短命背后:换脸攻击一直都存在?

ZAO火爆却注定短命背后:换脸攻击一直都存在?图一

其实,因攻陷用户朋友圈及多个社交媒体平台而一夜爆火的ZAO,并不是第一个搭载“换脸”技术的平台。

早在今年5月,Snapchat就已经推出了一款“变性滤镜”,这让它一度爬升至总榜第三位。但随着用户新鲜感的丧失,现在Snapchat已跌至总榜1000名之外。

无独有偶,今年7月,俄罗斯的AI换脸产品FaceApp曾一度位居App Store总榜第2名、摄影与录像榜第1名。它复制了Snapchat的崛起之路,不仅能将人脸进行转化,还能在此基础上实现男性变女性、哭脸变笑脸、老年变青年等更为复杂的操作。可惜的是,FaceApp的火热并没有因此得到延续,截至目前,FaceApp在App Store总榜排名已跌至600名开外。

就拿以上两个案例来说,“AI换脸”技术虽然为平台带来了流量,但都好景不长。

目前来看,当红的ZAO正在进行引流工作,那么它能不能将这流量转换为实打实的长久用户?

围绕“AI换脸”技术,ZAO目前只有视频换脸、视频分享朋友圈及表情制作三大功能。很显然,如Snapchat和FaceApp一样,这些简易功能通常难以让用户的热情持续下去。

而根据其设置,用户直接上传照片就可以将平台上多个知名影视剧片段中原来人物的脸替换成照片人物的脸,毫无疑问,对用户来说极大的降低了使用门槛。但它对照片高清晰度的要求又带来了新门槛:若是照片不符合平台要求则不能进行“换脸”操作,这必然会让用户丧失一定的体验感。

相较于内置功能是否能够留住用户的不确定性,ZAO带来的风险是现在就能看到的。

首先,ZAO用户协议中包含的多项条款都有着巨大的法律风险。而使用ZAO换脸功能后(必须同意用户协议后才能使用),ZAO不光借此免费获得了上传资料中所包含肖像信息的使用权和转授权,还将侵权的风险转嫁给了用户。

ZAO火爆却注定短命背后:换脸攻击一直都存在?

ZAO火爆却注定短命背后:换脸攻击一直都存在?图二

ZAO用户协议中的多个条款备受争议

知名法律博主“法山叔”表示,ZAO涉嫌过度攫取用户授权,让用户在无形中将自己的肖像权拱手让人,“以后你的脸将完全有可能被别人随意使用,变换”。

其次,ZAO上有大量国内外影视综艺内容片段,还能支持用户自主上传素材,这些海量素材也带来了版权隐患。

总的来说,虽然目前ZAO是一个免费应用,但不论是从用户体验角度,还是出于使用风险考虑,ZAO都不会是用户长久使用的必选项。

绕过人脸识别并不难?

值得关注的是,无论ZAO是否一款短命火爆产品,其背后却是一个严重问题:我的脸还好吗?

央行科技司司长李伟上个月就曾表示,“人脸是非常敏感的个人信息,一旦泄露会带来非常大的影响。”

“AI换脸”已形成黑色产业链

有网友表示,ZAO这次之所以引起如此大的关注,是因为以往的换脸视频,对技术有着比较高的门槛要求,而ZAO一下子把门槛降到了最低,普通手机用户都可以玩了。

其实,这背后还有一个难以否认的事实是——目前,“AI换脸”已经形成一个非法牟利的地下黑色产业链。

此前新京报就有报道称,互联网上大量出现通过“AI换脸”实现的由知名女艺人“主演”的不雅视频,在百度贴吧、闲鱼等主要网络平台均有出售。

有的商家不仅提供成品的视频,还接受买家的订制,只要买家提供20张照片,就可以制作出任何人的“小电影”。还有的商家“授人以渔”,售卖教学视频供人学习,出示学生证还能打七折。

而据“智东西”此前报道,目前AI换脸黑产已经形成了完整的产业链,从下游成品情色视频、中游定制视频到上游软件及教程都有提供,有的卖家甚至提供全产业链产品和售后服务。

根据锌刻度最新了解的情况来看,这种情况并未得到好转。比如,在浏览器搜索“换脸教程”,有多个教程详述制作细节,足够教会用户如何使用“换脸”技术;在淘宝、咸鱼等平台搜索“换脸”,大部分商家显示可售卖成品照片及提供定制服务,部分商家还售卖软件和教程;至于在deepfake吧里,则可以找到明显带着暗示性字眼的资源帖。

ZAO火爆却注定短命背后:换脸攻击一直都存在?

ZAO火爆却注定短命背后:换脸攻击一直都存在?图三

换头换脸成本不高

这些不法商家之所以如此明目张胆,与早前监管的缺失不无关系。值得庆幸的是,相关监管部门已经注意到了“AI换脸”技术带来的危害性。

今年4月,民法典人格权编草案和物权编草案的二审稿新增了这样一条规定:任何组织或者个人,不得以利用信息技术手段伪造的方式侵害他人的肖像权。

国家网信办会同有关部门在5月底发布的《数据安全管理办法(征求意见稿)》中也提到,“网络运营者利用大数据、人工智能等技术自动合成新闻、博文、帖子、评论等信息,应以明显方式标明"合成"字样;不得以谋取利益或损害他人利益为目的自动合成信息。”

但由于人工智能技术所具有的高度的不确定性、创新性和复杂性,面对千变万化的应用场景,目前想要所有乱象得到根治也绝非易事。

毕竟技术本无罪,全看使用技术的人想拿它做什么。目前来看,更重要的是相关AI企业应该坚守自身底线。著名学者吴伯凡就认为,科技本身是不能向善的,应该是让科技向善,人在使用技术的时候一定要有初心,让科技向善。“之前的技术没有自主性和主动权,比如火、核能都不能自主做事,但人工智能是有自我学习能力的,是非常特殊的,就一定要解决向善的问题。”

相关下载

下载Fakeapp

Fakeapp

大小:1 KB

相关文章

相关软件

大家都在找