9月6日消息,脸书(Facebook)的首席技术官Mike Schroepfer发布博客宣布,脸书正和微软联合来自麻省理工、牛津等大学的研究者,通过置办“Deepfakes鉴别挑战赛”,探索如何通过数据集和基准测试检测Deepfake换脸视频。


Deepfakes技术可以利用GAN(生成式对抗网络)将视频中的人脸换掉,且十分逼真。近期国内大火的“ZAO”App被就疑似使用了该技术,用户只需要在App中上传一张照片,就能将自己的脸替换成视频中“小李子”“周润发”“白展堂”等人的脸,几乎可以以假乱真。


当ZAO很快地火起来后,人们敏锐地察觉到视频换脸中的隐私问题,而后“ZAO”换脸App被责令整改。但是,除了隐私问题,其中的信息误导问题同样值得关注,甚至有过之而无不及。


“Deepfake”技术能够利用AI将视频中的人脸逼真地换掉,这使它很容意被用于伪造信息、误导舆论,甚至被不法人士拿来制作色情短片、实施金融诈骗等违法犯罪行为。然而,行业内还没有很好的数据集或基准来检测辨别它们。


Facebook联合微软和麻省理工打击假视频


现在,美国科技巨头脸书打算对AI视频换脸技术下手了,计划出资1000多万美元,从数据集、经费、奖金等多方面支持“Deepfake鉴别挑战赛”,以寻找能够准确鉴别AI生成视频的工具。


一、扎克伯格也被换脸,联合产学界搞鉴别研究


其实,早在2017年12月,国外某ID名为“Deepfakes”的Reddit九九热视频精品在线用户首次将自己制作的AI换脸视频发布在了网络上,后来,Deepfakes将这项技术开源,并被大家命名为“Deepfakes”,立刻风靡全球。


Facebook联合微软和麻省理工打击假视频


“Deepfakes”技术背后的来源是一种名为GAN(生成式对抗网络)的AI模型。在GAN中,G和D是两种相互博弈的算法,一种生成图像,另一种比较判定图像与源图像的差别。博弈的理想结果是G成为了能够“以假乱真”的图像生成模型。


AI换脸真正在国内火起来还要说今年初,B站UP主“换脸哥”将一段94版射雕英雄传视频中的朱茵的脸换成了杨幂。AI换脸技术已经蓬勃爆发,却也被一再恶意使用,AI换脸黑产甚至已经在国内形成了完整的产业链。(参见智东西深度报道:AI换脸黑产:100元打包200部换脸情色片,5张照片就可定制视频)


Facebook联合微软和麻省理工打击假视频


▲朱茵的脸被换成了杨幂


今年6月,脸书首席执行官马克?扎克伯格的一段被篡改过的视频被广泛传播,之后,扎克伯格向观众讲述了脸书正在考虑制定应对Deepfakes的政策。


今天,脸书宣布将在数据集和基准测试层面促进亚洲黄色三级的研究,以开发出更好的开源工具来检测Deepfake。脸书将联合微软、麻省理工大学等业界和学界的伙伴共同置办“Deepfake检测挑战赛”(DFDC)。


Facebook联合微软和麻省理工打击假视频


二、大赛目标:研发通用的AI换脸视频检测工具


数据集和基准测试已成为加速AI发展的相当有效的工具。目前深度学习技术的复兴一定程度上得益于ImageNet基准;GLUE和SuperGLUE基准加速了自然语言处理的最新进展。


据称,“Deepfake鉴别挑战赛”的目标是,找到一款能检测视频是否被换过脸的工具,并且它能被每个人便捷操作。大赛旨在促使行业创建新的检测方法,以防止AI生成的视听内容误导大众,比如,在2020年大选之前找到亚洲黄色三级的伪造视频,以免成年人免费三级电影误导选民。


“这是一场猫鼠游戏,如果我设计一个Deepfakes检测器,我就直接给了这些黑客一个新的模拟器进行反测试。”纽约大学Tendon学院计算机工程助理教授Siddharth Garg表示。


三、将为参赛者提供数据集和经费,请第三方监督


在“Deepfake鉴别挑战赛”中,会务组会为参赛者提供一个数据集和经费,还会用排行榜展示参赛者的成绩,并设奖金奖励。人工智能和成年人免费三级电影诚信新指导委员会(Partnership on AI’s new Steering Committee on AI and Media Integrity)将对挑战赛进行全程监督和管理。


为此,脸书正在调试一个现实的数据集,该数据集来自脸书付费找来的参与者。参赛者可以成人免费网站在线视频使用大量数据,几乎没有使用限制。脸书强调,此数据集中不会使用脸书的用户数据。


同时,脸书还会资助研究经费和奖项奖金,以鼓励亚洲黄色三级人参与。据称,脸书会为此投入1000多万美元。


据了解,相关数据集和挑战参数将在今年10月的国际计算机视觉会议上,以供专门的技术工作委员会测试,进而确保其质量。完整的数据集和DFDC将于今年12月召开的神经信息处理系统会议(NeurIPS)上发布。


结语:防止AI视频换脸滥用,还需用技术反制


近日,我国企业公开发布的“ZAO”换脸App被相关部门责令整改,这体现了监管对Deepfakes等AI换脸技术的约束作用。但是在暗处,Deepfakes作为被开源的技术,仍然可能被拿来滥用,利用技术进行反制就显得格外重要。


当Deepfakes被用于伪造信息,甚至被不法人士拿来制作色情短片、实施金融诈骗等违法犯罪行为时,我们如果能通过基准数据等工具进行检测辨别,可以大大的降低损失。另外,除了算法技术,区块链等技术未来也可能被用于鉴别伪造的视频。


视频、报道等媒介内容营造的媒介环境极大地影响着人们的主观世界,并通过对人们主观世界的作用影响客观环境。如果任由虚假的视频信息蔓延在网络世界,这种媒介环境的混乱将可能造成人类真实世界的混乱。


“我们必须更好地区分真实与虚假,奖励可信内容而不是不受信任的内容。这需要产业、大学、非政府组织等共同合作,以开发出能够快速准确地鉴别真实内容的技术。”加州大学伯克利分校的Hany Farid教授评价“Deepfake鉴别挑战赛”说。


我来说几句

不吐不快,我来说两句
最新评论

还没有人评论哦,抢沙发吧~