Facebook联合微软和麻省理工打击假视频

  • 时间:
  • 浏览:5
  • 来源:甘肃快3_甘肃快3网投平台_甘肃快3投注平台_甘肃快3娱乐平台

9月6日消息,脸书(Facebook)的首席技术官Mike Schroepfer发布博客发表声明,脸书正和微软联合来自麻省理工、牛津等大学的研究者,通过置办“Deepfakes鉴别挑战赛”,探索如保通过数据集和基准测试检测Deepfake换脸视频。

Deepfakes技术时会 利用GAN(生成式对抗网络)将视频中的人脸换掉,且十分逼真。近期国内大火的“ZAO”App被就疑似使用了该技术,用户只前要在App中上传一张照片,就能将此人 的脸替去掉 视频中“小李子”“周润发”“白展堂”等人的脸,几乎时会 以假乱真。

当ZAO调快地火起来后,亲戚亲戚一些人敏锐地察觉到视频换脸中的隐私问题图片报告 ,而后“ZAO”换脸App被责令整改。但会 ,除了隐私问题图片报告 ,其中的信息误导问题图片报告 同样值得关注,甚至有过之而无不及。

“Deepfake”技术时会 利用AI将视频中的人脸逼真地换掉,这使它很容意被用于伪造信息、误导舆论,甚至被不法人士拿来制作色情短片、实施金融诈骗等违法犯罪行为。然而,行业内还这样很好的数据集或基准来检测辨别它们。

现在,美国科技巨头脸书打算对AI视频换脸技术下手了,计划出资100多万美元,从数据集、经费、奖金等多方面支持“Deepfake鉴别挑战赛”,以寻找时会 准确鉴别AI生成视频的工具。

一、扎克伯格也被换脸,联合产学界搞鉴别研究

其实,早在2017年12月,国外某ID名为“Deepfakes”的Reddit论坛用户首次将此人 制作的AI换脸视频发布在了网络上,但是,Deepfakes将这项技术开源,并被亲戚亲戚一些人命名为“Deepfakes”,立刻风靡全球。

“Deepfakes”技术眼前 的来源是三种名为GAN(生成式对抗网络)的AI模型。在GAN中,G和D是三种相互博弈的算法,三种生成图像,另三种比较判定图像与源图像的差别。博弈的理想结果是G成为了时会 “以假乱真”的图像生成模型。

AI换脸真正在国内火起来前要说今年初,B站UP主“换脸哥”将一段94版射雕英雄传视频中的朱茵的脸去掉 了杨幂。AI换脸技术但会 蓬勃爆发,却也被一再恶意使用,AI换脸黑产甚至但会 在国内形成了删改的产业链。(参见智东西深度报道:AI换脸黑产:100元打包100部换脸情色片,5张照片就可定制视频)

▲朱茵的脸被去掉 了杨幂

今年6月,脸书首席执行官马克•扎克伯格的一段被篡改过的视频被广泛传播,前一天,扎克伯格向观众讲述了脸书正在考虑制定应对Deepfakes的政策。

今天,脸书发表声明将在数据集和基准测试层面能够更多的研究,以开发出更好的开源工具来检测Deepfake。脸书将联合微软、麻省理工大学等业界和学界的伙伴一起置办“Deepfake检测挑战赛”(DFDC)。

二、大赛目标:研发通用的AI换脸视频检测工具

数据集和基准测试已成为加速AI发展的相当有效的工具。目前深度学习技术的复兴一定程度上得益于ImageNet基准;GLUE和SuperGLUE基准加速了自然语言补救的最新进展。

据称,“Deepfake鉴别挑战赛”的目标是,找到一款能检测视频是是否是被换过脸的工具,但会 它能被每此人 便捷操作。大赛旨在能够行业创建新的检测土法律法律依据,以补救AI生成的视听内容误导大众,比如,在2020年大选前一天找到更多的伪造视频,以免媒体误导选民。

“这是一场猫鼠游戏,如保我能 设计三个 多多Deepfakes检测器,我能 直接给了哪几个黑客三个 多多新的模拟器进行反测试。”纽约大学Tendon学院计算机工程助理教授Siddharth Garg表示。

三、将为参赛者提供数据集和经费,请第三方监督

在“Deepfake鉴别挑战赛”中,会务组会为参赛者提供三个 多多数据集和经费,时会用排行榜展示参赛者的成绩,并设奖金奖励。人工智能和媒体诚信新指导委员会(Partnership on AI’s new Steering Committee on AI and Media Integrity)将对挑战赛进行全程监督和管理。

为此,脸书正在调试三个 多多现实的数据集,该数据集来自脸书付费找来的参与者。参赛者时会 免费使用絮状数据,几乎这样使用限制。脸书强调,此数据集中我不要 使用脸书的用户数据。

一起,脸书时会资助研究经费和奖项奖金,以鼓励更多人参与。据称,脸书会为此投入100多万美元。

据了解,相关数据集和挑战参数将在今年10月的国际计算机视觉会议上,以供专门的技术工作委员会测试,进而确保其质量。删改的数据集和DFDC将于今年12月召开的神经信息补救系统会议(NeurIPS)上发布。

结语:补救AI视频换脸滥用,还前要技术反制

近日,我国企业公开发布的“ZAO”换脸App被相关部门责令整改,这体现了监管对Deepfakes等AI换脸技术的约束作用。但会 在暗处,Deepfakes作为被开源的技术,仍然但会 被拿来滥用,利用技术进行反制就显得格外重要。

当Deepfakes被用于伪造信息,甚至被不法人士拿来制作色情短片、实施金融诈骗等违法犯罪行为时,亲戚亲戚一些人但会 能通过基准数据等工具进行检测辨别,时会 大大的降低损失。另外,除了算法技术,区块链等技术未来也但会 被用于鉴别伪造的视频。

视频、报道等媒介内容营造的媒介环境极大地影响着亲戚亲戚一些人的主观世界,并通过对亲戚亲戚一些人主观世界的作用影响客观环境。但会 任由虚假的视频信息蔓延在网络世界,三种媒介环境的混乱将但会 造成人类真实世界的混乱。

“亲戚亲戚一些人前要更好地区分真实与虚假,奖励可信内容而都有不受信任的内容。这前要产业、大学、非政府组织等一起合作协议者,以开发出时会 快速准确地鉴别真实内容的技术。”加州大学伯克利分校的Hany Farid教授评价“Deepfake鉴别挑战赛”说。

进入“机器视觉”首页,浏览更多精彩内容 >>