沟通咨询
提交成功

瑞莱智慧亮相2021安博会,为智能化产业构筑安全底座

2021.12.26
公司动态

12月26日,第十八届中国国际社会公共安全博览会(简称“CPSE安博会”)在深圳福田会展中心隆重召开。在新基建的浪潮下,人工智能正成为推动数字经济高质量发展的重要动力,但算法漏洞、技术滥用等新型风险的出现却带来严峻挑战,人工智能安全治理成为一项重要课题。

 

展会现场,瑞莱智慧RealAI携自主研发的人工智能安全攻防创新成果与系列产品亮相,现场演示了“数据驱动”的人工智能系统所存在的风险漏洞,以及展示了如何通过升级技术手段打造动态防御机制,构建安全可控的智能新底座,助力人工智能产业从高速发展迈向高质量发展的新阶段。

 


瑞莱智慧RealAI亮相2021深圳安博会

 

激流三部曲
抵御人工智能新型攻击风险

展区现场,一件“隐身衣”吸睛无数。正常情况下,广泛应用于安防场景的目标检测系统,能实时检测出摄像头前经过的人或物体。瑞莱智慧开发的这款特制T恤,衣服上印刷了特定的图案,能够让识别算法出错、捕捉不到目标,人一旦穿上便可以实现“隐身”。

 


AI版“隐身衣”演示

 

研发人员解释道,目标检测系统大多基于数据驱动的深度学习算法,存在不透明和不可解释等局限性,即便是开发者也难以理解其内在的运行逻辑,这一结构性漏洞可能导致系统遭受恶意攻击。衣服上看似奇怪的图案是针对算法漏洞生成的“对抗补丁”图案,能够误导识别算法使其出错。

 

随着人工智能技术在安防、交通、金融等关键应用场景的持续渗透,这也导致算法漏洞的威胁面不断延展,对城市治理产生影响。例如,不法分子恶意攻击视频监控、安检闸机等智能安防设备,躲避追踪、冒充他人、破坏公共安全;交通领域,自动驾驶汽车可能被干扰“致盲”,引发安全事故等。

 

在展台,瑞莱智慧展示了业内首个人工智能防火墙系统,通过集成多项国际领先的对抗防御算法,能够有效检测和抵御针对人工智能系统的新型攻击风险,实现人脸识别、目标检测等计算机视觉场景的安全加固升级,可用于安防门禁、人脸身份核验、人脸解锁等场景的安全防护,大幅提升人工智能系统的安全性。

 

AI换脸检测平台
有效防范大规模技术滥用

当前,火爆社交网络的“AI换脸”正成为人工智能技术滥用的重灾区。瑞莱智慧现场展示了一段将观众的脸“换”到恶搞舞蹈中的视频。研发人员表示,随着开源工具的普及,AI换脸的技术门槛越来越低,因此被大规模用于非法伪造公众人物肖像吸引流量牟利,甚至是色情宣传、操纵舆论、网络欺诈等违法犯罪行为。

 


DeepReal深度伪造检测平台

 

随着技术的不断升级,现有的“换脸”视频精度已经实现肉眼难以辨别的程度,传统人工审核团队束手无策。展会现场,瑞莱智慧展示了一款深度伪造内容检测平台DeepReal,支持快速、精准地对多种格式与质量的图像与视频进行自动化的真伪鉴别,能够应用于检测图像物证真实性、检测网络内容合规性、打击侵害个人声誉行为、提升人脸识别系统安全性等多个场景,为遏制和防范深度伪造技术的大规模滥用提供技术支撑。

 

据介绍,该平台在主流学术数据集和网络数据集中的检测准确率高达99%以上,产业应用中检测准确率和效率均达业界顶尖水平。瑞莱智慧在深度伪造领域拥有深厚技术积累,曾在国际安全极客大赛GeekPwn 2020 首届 CAAD 虚假人脸 AI 识别大赛上,以绝对优势夺得冠军;在国家网信办与公安部共同指导的第二届“中国人工智能•多媒体信息识别技术大赛”中,斩获“创新之星”奖以及深伪检测竞赛A类奖。

 

智能安全靶场
构建人工智能安全防御体系

新安全问题需要新解决方案,为应对人工智能新型安全风险需构建新一代安全体系。随着攻击形式的不断增加、安全问题的不断升级,对于未知威胁难以进行风险预判和策略调整,因此需打造动态升级、科学前瞻的防御机制。依托在人工智能安全攻防领域的丰富实践经验,瑞莱智慧创新性地提出了“攻防动态平衡”机制,以子之矛、攻子之盾,通过攻防对抗不断升级,针对性的演练防御技术,构筑人工智能安全新型防御体系。

 


DeepRange人工智能安全靶场

 

安博会现场,瑞莱智慧展示了业内首个人工智能安全靶场RealRange,包含攻击靶场、防御靶场、攻防演练三大功能,提供实战化、体系化的一站式人工智能攻防演练服务。类似于“演兵场”,该平台基于攻防实战演练将人工智能安全风险暴露前置,提前发现和适应瞬息万变的新型攻击和高级威胁,动态提升团队软实力,快速弥补技术水平与经验的不足,实现“让风险发生在靶场,让有效防御构建在安全事件之前”,全面提升人工智能时代新型安全威胁的应对能力。

 

瑞莱智慧副总裁唐家渝表示,伴随规模化建设和应用加速发展,保证人工智能“安全、可靠、可控”成为其未来发展最重要的趋势。凭借领先的科研成果和丰富的行业落地经验,瑞莱智慧推出了系列自研的安全可控新一代人工智能基础设施平台,为人工智能纵深赋能产业构筑安全基座,将推动整个智能化产业的安全可控升级。未来,瑞莱智慧也将持续加大核心技术和产品体系的研发力度,在保障人工智能安全的基础上助力其形成更全面、更深入的产业生态。