换脸app叫什么?“换脸”App爆火 狂欢背后的隐患

02.09.2019  07:31

近日,一款主打“仅需一张照片,出演天下好戏”的换脸App——“ZAO”大火。该App使用AI技术,用户只需要一张正脸照,就可以替换为影视作品或者小视频中的人物,生成以自己为主角的视频片段。这让“戏精”上身的网友一夜之间刷屏朋友圈。

天眼查信息显示,ZAO所属公司为长沙深度融合网络科技有限公司,法定代表人为陌陌联合创始人兼游戏业务部总裁雷小亮,由海南猫咖网络科技有限公司100%控股。而后者由雷小亮和陌陌董事、总裁及COO王力各持股50%。

争议

1.“换脸视频”收集的面部信息,是用户最核心的个人信息

由于换脸后需要进行眨眼、抬头等各种验证,与刷脸支付采集的脸部信息类似,同时注册平台需要手机号码,不少用户担心脸部数据被泄露会引发一系列问题。专家指出,此类软件的确存在隐私泄露风险。

中国政法大学传播法研究中心副主任朱巍分析,在这个过程中,可能存在核心个人信息泄露的风险,“首先,换脸技术,包括在搜集信息过程中转动脸部、眨眼,本质是搜集了你面部的识别信息,这个是用户最核心的个人信息。个人信息一旦被比对之后,如果落到坏人的手里,有可能涉及财产安全和人身安全的问题。”

2.“换脸视频”中,涉及影视剧著作权、知识产权

在软件内置可供选择的影视剧片段中,有包括《延禧攻略》《长安十二时辰》《还珠格格》在内的多部热门国内电视剧,也有石原里美、莱昂纳多·迪卡普里奥等国外明星的影视剧片段,还有大量热门的综艺片段。

对此,朱巍指出:“换脸技术要把人脸放到影视剧里面去,影视剧本身涉及著作权、知识产权。突然间把脸换了,是不是构成合理使用?这个可能跟知识产权法有密切关系。”

3.App的用户协议太霸道

这款软件的用户协议写道,使用这款软件的换脸功能,需要同意授予这款软件及其关联公司全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利,包括但不限于:人脸照片、图片、视频资料等肖像资料中所含的肖像权利人的肖像权,以及利用技术对肖像权利人的肖像进行形式改动。

北京岳成律师事务所律师岳屾山指出:“我授权给你以后,你不能把我的照片用于其他的非法用途,或者把我的照片进行修改、丑化、恶搞,这对我授权给你使用肖像权的目的存在一定偏差。这个时候其实对于上传照片的App用户来讲,可能构成的是名誉上的侵权,或者导致他的社会评价降低等,这也有可能构成侵权。”

8月31日晚,该款软件“用户协议”中,“您的必要授权”这一项内容与此前相比进行了较大幅度的修改,去掉了关联公司相关表述等内容。

回应“不管换得多逼真,都无法突破刷脸支付”

“目前,网上各类换脸软件有很多,但不管换得有多逼真,都是无法突破刷脸支付的。”8月31日中午,蚂蚁金服官方回复21世纪经济报道记者时说。此外,在进行人脸识别后,部分用户还需要输入与账号绑定的手机号进行校验,进一步提高了安全性。同时,支付宝还会通过各种安全风控策略确保账户安全。

一位国有大行网络金融部负责人表示,其团队今年年初找权威机构做过人脸识别相关的检测,“在活体检测、视频攻击等方面存在一定风险;后台算法升级会使防控效果有一定提升,但是类似换脸的攻击威胁会一直存在。”

观点“科技向善”应该成为我们的底线

在2019世界人工智能大会上,在以“科技有道,择善而行”为主题的分论坛上,该App引起了嘉宾们的讨论。

英特尔副总裁陈伟提到,如果一些技术用得不当,可能会造成不良后果,“技术能决定你走多高,向善能决定你走多远”。

腾讯董事会主席兼首席执行官马化腾在2019世界人工智能大会开幕式演讲时说,这也再次提醒人们思考如何探索人与AI的正确相处之道。“在AI的治理方面,以科技向善引领全方位治理,确保AI可知、可控、可用、可靠。这个‘四可’的原则,是我在去年大会上提出的。观察这一年来的情况,我们发现AI治理的紧迫性越来越高。”

腾讯优图实验室总经理吴运声说,这个技术不仅仅涉及视频,还有声音。“科技向善确实应该成为我们的一种底线。我们要不断地去思考:我们技术的底线在什么地方?”

思考 人工智能进行“换脸”门槛逐渐降低,安全隐患增加

其实,人工智能进行“换脸”的技术数年前已经出现。2017年,国外一个论坛用户首先将自己制作的“换脸”视频发布在网络上,利用这一技术,他将国外女明星的照片与色情影片合成,几乎以假乱真,一度引发巨大争议。今年年初,有国内用户在网络上发布一段合成的“换脸”视频,将一段电影片段中朱茵的脸换成了杨幂,也曾引起争议。随着如今这款软件的爆红,视频“换脸”门槛进一步降低。

AI换脸软件所引发的争议表面上是围绕隐私保护,但在本质上却反映了一个全社会甚至全人类必须面对的新课题:人类技术在飞速进步,在不断进入新的领域,它不仅给人类带来更高品质的生活,同时也会引发大量创造性破坏。这对人类现有制度体系、运行机制、法律规则和社会秩序等都将造成前所未有的挑战。(据央广网、上游新闻、新京报、澎湃新闻、第一财经、21世纪经济报道)

【责任编辑:张怡 】 【内容审核:李敏雪 】 【总编辑:甄慧敏 】