/**/
沟通咨询
提交成功

GeekPwn2020完美落幕,清华-RealAI联合战队斩获虚假人脸AI识别大赛冠军

2020.10.28
公司动态

10月24日,国际安全极客大赛GeekPwn 2020在上海完美落幕。本次大赛聚焦云、AI、5G等前沿技术,结合社会热点安全话题,发起首届CAAD虚假人脸AI识别大赛,RealAI与清华大学计算机系联合战队TSAIL以绝对比分优势拿下该赛目的冠军。

 

AI遇上假脸傻傻分不清楚?近年来,“AI换脸”风靡一时引发社会广泛关注,从最初的侵犯肖像权,到近期犯罪分子使用AI假脸实施犯罪,“AI 换脸”正带来一系列紧迫现实问题:电信诈骗、财产盗刷、伪造色情视频……

 

虽然人眼难辨真假,但通过AI技术却可以对虚假人脸进行识别,这也成为了现阶段计算机视觉领域竞相研究的热点。为此,在今年重磅开启的赛程中,GeekPwn发起首届CAAD虚假人脸AI识别大赛,深入挖掘人脸识别现实安全威胁。

 

比赛中,主办方为进入决赛的五组选手提供真假混合的视频、图片数据,要求选手利用开发的AI 检测方法,快速识别出图像以及视频中的虚假人脸。

 

CAAD虚假人脸AI识别比赛现场

 

相比于此前Facebook发起的Deepfake挑战赛,主办方在换脸视频、图像之余,还考察参赛选手识别“无中生有”视频、图像的能力,检测虚假生成的、真实世界中不存在的人脸,提升了任务的难度。

 

同时为了增加比赛的对抗性,主办方在决赛中设计了攻防环节:每队选手既要用自家的 AI 模型识别出其他队伍的假脸,又要用假脸骗过其他队伍的 AI 模型,这样的设置同时考察了选手利用AI技术识别和造假的能力。经过激烈的比赛,TSAIL联合战队最终以1450分斩获第一名,战胜中科大、蚂蚁金服等团队。

 

 

清华计算机系与RealAI组成的联合战队TSAIL

 

作为这次联合战队的代表成员,RealAI安全算法负责人萧子豪表示,随着AI技术在视听资料领域的快速发展跟普及,“AI换脸”的门槛变得越来越低,普通人也可以上手,而且生成的内容逼真,伪装性强、欺骗性高,背后的安全隐患不容忽视。

 

就如GeekPwn主办方希望通过实战演练的方式推动更加快速、高效的虚假人脸检测方法出现,RealAI依托自身积累,深入研究深度伪造内容和真实内容的表征差异性辨识、不同生成途径的深度伪造内容一致性特征挖掘等问题,于此前推出DeepReal深度伪造内容检测平台,能够快速、精准地对多种格式与质量的图像与视频进行真伪鉴别。

 

在萧子豪看来,换脸检测本质上也是“魔高一尺、道高一丈”攻防不断升级的过程,DeepReal基于大规模的真实和伪造的图像素材进行训练,创建大容量神经网络,简单来看,通过生成大量更逼真的换脸素材来训练出更高准确率的检测技术。整体来看,DeepReal平台目前具备三大优势:

• 训练数据量达到千万级,覆盖公开算法生成的伪造数据和自研算法生成的伪造数据两大数据形式;

• 高准确率,在学术数据集和ZAO等主流方式生成的数据集中达到99%以上的准确率;

• 高检测效率,每张图片和每秒视频的检测时间为毫秒级别。

通过降低虚假内容检测的技术门槛,DeepReal平台能够帮助用户更好的应对深度伪造带来的一系列挑战。除了预防利用AI换脸实施诈骗等犯罪行为,DeepReal平台还可以协助公安、司法等执法部门鉴别图片、视频等物证真伪,以及辅助视频网站、社交媒体等第三方内容平台实时检测虚假信息内容。

 

凭借在伪造生成与检测领域的领先优势,RealAI在顶级会议与期刊中发表该领域论文十余篇,近年来也频频现身国内外多个顶级安全挑战赛,多次获得优异成绩。包括GeekPwn大赛是RealAI长期关注并参与的赛事,去年联合清华团队斩获“CAAD CTF 图像对抗样本挑战赛”以及“CAAD 隐身挑战赛”两个赛道的冠军。

 

当下,深度伪造技术的治理工作仍是一个长期的斗争过程,作为安全AI领域的代表企业,RealAI将继续深耕深伪检测技术的研究,同时针对不同落地场景优化差异化能力,形成完善可靠的治理工具,保障人脸相关应用的安全,引导人工智能产业健康可控发展。