横幅通用100% x 90px

最前线 | Snapchat也推出换脸功能,但监管仍是红线

Snapchat一直想打造基于AI技术的“爆款”应用。

据TechCrunch报道,Snapchat正准备推出 “换脸”功能Cameo,目前该功能还在内测阶段,法国为其首个测试点。

新功能操作起来非常简单,用户只需要上传个人照片,选择性别,剩下的事情交给Snapchat即可。通过AI技术,Snapchat可以创建不同的面部反应,替换视频中人物的面孔,生成GIF或视频。听起来是不是和前不久爆红的Zao一模一样?

​最前线 | Snapchat也推出换脸功能,但监管仍是红线

图源:TechCrunch

不过Snapchat这一功能,无论是国内还是国内,都有相仿者。

早在2017年,俄罗斯应用团队就推出了基于Deepfake技术的应用软件 “FaceApp”,它可以修改照片的面部表情、改变性别和年龄,该应用发布后仅两周就获得了超过一百万的下载量。

陌陌前不久推出的Zao,其功能几乎与Cameo一模一样。虽因隐私问题被火速下架,但据陌陌创始人、CEO唐岩透露,陌陌不打算放弃这个项目。而据TechCrunch报道,Cameo可能会被指控抄袭Zao。

通过AI技术不断叠加新功能,Snapchat延续了近年来一贯的产品开发逻辑。包括“婴儿脸”( baby face)、 “老年脸”( old age)以及两者的强化版本 “时间机器”( time machine)几乎都与AI技术相关,后者可以模拟一个人在人生各个阶段的面貌,并以视频的形式展现。这些探索让Snapchat摆脱了用户流失的困局, 2019年该应用新增用户超过2000万。

不过,换脸软件正处于风口浪尖。

无论是FaceApp 还是Zao都面临着侵犯用户隐私的指责,换脸技术的大众化源头“Deepfakes社区”也早已被Reddit以传播色情内容为由封杀。

指责集中在法理和伦理两方面。换脸技术可能成为黑产工具协助诈骗、色情视频制作等,即使不以盈利为目、不存在主观恶意且没有实现大规模盈利,恶搞视频也存在侵犯肖像权、版权的问题。

面对这些潜在风险,在国外相关政府部门的敦促下,Twitter、Facebook、亚马逊谷歌等科技巨头纷纷加入“打假”队伍,助力Deepfake 检测挑战赛,打造合成语音视频数据集,用于支持虚假音频视频检测。11月11日,推特正式发布了首个反 Deepfake 策略草案。国内的配套法律机制也正在搭建过程中,11月底,国家网信办牵头发布了国内第一个关于“AI换脸术”的监管措施,旨在打击AI 技术制作的虚假音视频的传播。

Snapchat向TechCrunch表示,一旦在美国上线,Cameo将被内嵌到Snapchat原有功能中。那么,监管趋严下Snapchat要想走得平稳,就不得不制定更完善的保密条款,付出更高的用户隐私维护成本,花费更多精力打假。

这无疑在考验Cameo的耐力。此外,用户心态对Cameo的影响尚不可知。

一方面,用户的数据安全意识逐步提升,知道上传照片这一举动实在将自己的面部数据拱手交给社交平台,这必然会引发部分用户的抵触心理。另一观点认为,就换脸软件本身而言,Zao、Cameo无谓善恶,甚至可作为 “防骗教育”的一种。

2017 年底,deepfake 首次亮相后出现了很多开源 deepfake 生成方法,最初的deepfake作品创作是有一定的技术门槛的,社交平台推出AI功能相当于高级技术转民用的阶段,扩展了影视制作之外的应用场景,催生了更多的UGC内容。​最前线 | Snapchat也推出换脸功能,但监管仍是红线

图源:TechCrunch

从Cameo的演示视频可以看出,现下的“换脸”效果破绽百出,不用学编程就能掌握的换脸APP并不能臻于完美。

“不完美”的换脸软件正好可以释放部分技术成果,让公众意识到“换脸技术”的存在和其强大的造假能力,在面对类似视频信息的时候,公众会更警醒。

不管怎么说,如何提高用户对应用的信任度,是包括Snapchat在内的一众社交平台引入AI技术时都应该面对的问题。

(封面图片来自Pexels)

猜你喜欢:

最新文章