沟通咨询
提交成功

关上Deepfake的潘多拉魔盒,我们做到了!

2019.12.06
公司动态

诞生之初,Deepfake是一项有趣的图像处理技术,仅仅带来搞笑和娱乐视频,但殊不知,潘多拉魔盒就此被打开,催生出色情黑产、恶搞政客“操纵”民意,Deepfake正逐步进化为一种新型“病毒”,人类伦理道德的“遮羞布”也被无情揭开。

 

图:Saturday Night Live中凯特·麦金农换脸伊丽莎白·沃伦

 

面对因新技术而引发的公众恐慌,相关监管机构加快采取行动,出台“打假”策略,旨在打击Deepfake虚假内容,控制“造假病毒”的传播。

 

11月29日,国家网信办正式发布《网络音视频信息服务管理规定》,指出自明年1月1日起,AI造假视频不得随意发布。新规定中关于AI造假音视频的规定主要有四条:“按照国家有关规定开展安全评估”、“以显著方式予以标识”非真实音频信息、不得利用AI造假技术发布虚假新闻、部署AI造假音视频鉴别技术和健全辟谣机制等。

 

不难发现,为了有效抑制Deepfake虚假内容的传播需要“两手抓”,除了利用法律法规严控“别有用心者”作恶,更要从源头加强安全评估能力,借助技术手段提前布局,在鉴别检测方面领先一步。近日,RealAI正式发布了一款Deepfake视频检测工具,可一键实现对深度伪造(Deepfake)视频进行自动精准识别

 

一键换脸到一键“打假”

 

目前大规模应用的“打假”方法面临诸多困难。

 

Deepfake的开源技术让AI换脸的操作门槛降低到手机美颜、P图的水平,一键换脸带来了“造谣”成本的降低、爆炸式的传播,但市面上缺乏标准化的检测工具,人工鉴别的专业性要求高且效率低,所以,无论对于个人、平台还是第三方机构而言,打假辟谣的时间窗口很短,难度却很高。

 

图:雷佳音(左)换脸郭德纲(右)

 

另外,更严重的问题在于,很多情况下Deepfake“以假乱真”的程度极高,人眼难以察觉。加之Deepfake 的算法目前还无法建模分析,检测技术的研究被严重影响,而造假方的适应速度却很快,新技术日益迭代。

 

RealAI基于第三代AI技术推出的Deepfake视频检测产品通过采用“数据增广”的方式,用伪造视频训练出一个新的模型,从而让模型能够更好的识别出伪造痕迹,分辨出造假视频,可谓“魔高一尺,道高一丈”。该产品支持图像、视频内容鉴别,用户基于API接口将待检测的图片、视频上传,一键即可反馈真伪。

 

虽然早已有团队在开展针对Deepfake的“打假”研究,但相关的成果仅停留在算法层面,更多的是为学术研究提供使用,无法应对真实环境下大范围传播的虚假内容,所以,RealAI推出的这款标准化自动检测工具可以说给规模化的“打假”行动带来了新希望。

 

准确率高达90%,Deepfake在劫难逃

 

作为清华大学人工智能研究院的核心孵化企业,RealAI在AI安全与攻防技术领域拥有业界领先优势。在今年刚结束的GeekPwn2019国际安全极客大赛中,RealAI与清华大学联合战队一举获得“CAAD CTF 图像对抗样本挑战赛”以及“CAAD 隐身挑战赛”两项比赛的冠军。

 

 

深厚的技术积累让RealAI安全研究团队对“造假方”的攻击原理有着更深刻的理解,能够更有针对性地开发检测工具。

 

RealAI推出的这款Deepfake视频检测产品操作简单,原本高难度的检测过程被大幅简化,只需接入SDK即可实时检测,调用简单快捷

 

Deepfake视频检测产品流程图

 

与目前市面上已有的检测技术相比,RealAI的Deepfake视频检测工具利用深度学习算法、大量数据集训练模型,能够检测出绝大多数AI换脸假视频,准确率高达90%以上。面对Deepfake换脸效果越来越逼真的情况,RealAI的研发团队也在集中研发新型的检测算法,不断迭代和更新检测算法库。

 

更值得注意的是,该产品适用于复杂视频内容检测,支持多人脸检测,最高可支持10人以上同屏

 

Deepfake的潘多拉魔盒终将被关上

 

随着Deepfake技术被滥用,传统意义上“真实”与“虚假”的界限被模糊,这对于社会生活的影响之大或许此前我们并未预想到,但如今技术作恶所带来的负面影响正全面爆发。

 

● 面对网络上肆意传播的视频、图片内容,内容平台传统的审核机制无法辨别Deepfake生成内容,若采用人工审核,需要投入额外的时间、人力成本;

● 面对个人被编造虚假信息在社交平台上广泛传播,处于舆论中心的当事人由于找不到能够证实“谣言”是捏造的有效途径,个人声誉因此受损;

● 面对案件调查、法庭辩论中涉及的视频、图像等证据材料,警察、律师无法单凭肉眼识别证据是否基于Deepfake伪造,需要专业工具鉴定真伪;

● 面对事故中真伪难辨的影像资料,保险公司的审查人员缺乏Deepfake造假认知以及不配备专业鉴别能力,存在诈骗理赔的风险。

 

“人人都怕换脸术”的恐慌让反Deepfake的检测需求变的异常迫切,RealAI推出这款Deepfake视频检测产品可谓适逢其时。

 

通过与内容平台、执法部门、保险公司等机构开展合作,该产品能够在虚假内容甄别、线上资料审核以及影像物证真实性检验等实际应用场景中发挥作用,帮助机构与个人更好的进行信息管控与风险预警。

 

在这场AI军备竞赛中,Deepfake将持续演化,RealAI也将持续迭代技术、打磨产品,我们相信未来AI必然是安全可控的AI,一键“打假”终将超越一键换脸的速度,Deepfake的潘多拉魔盒也终将被关上。