为深入开展2021年全民国家安全教育日宣传活动，4月28日上午，公安部第三研究所科技处组织了人脸识别算法安全性评估讲座与演示活动，科技处副处长杭强伟主持，瑞莱智慧RealAI副总裁唐家渝、算法研究员庞天宇受邀进行分享。
图1 公安部第三研究所科技处处长杭强伟主持活动
在讲座阶段，RealAI算法研究员庞天宇以人工智能中普及程度最广的人脸识别为切入点，讲解了对抗样本的风险及原理、如何构造对抗样本、以及防御对抗攻击、AI安全平台等内容。对抗样本攻击指攻击者通过添加人眼无法察觉的小扰动，可以使模型产生不正确的预测。
在演示交流环节中，物联网中心的研究员杨明和RealAI产品经理张旭东分别对采用基于对抗样本攻击算法生成的工具，制作安全评估道具，开展手机APP、手机解锁等应用中人脸识别算法的安全性演示。
图2 演示交流展示环节
会后，与会人员纷纷表示通过参加此次的讲座演示活动，更加了解到AI发展迅速发展中面临的潜在安全风险隐患，通过此次对对抗样本攻击、模型安全性加固等一系列技术的演讲和展示，提升了生物特征安全保护意识，也对开展相关的研究和测评工作提供了帮助。
作为依托清华大学人工智能研究院设立的AI企业，瑞莱智慧致力于建设安全可控AI应用生态，目前与公安部第三研究所在联合制定人脸识别算法安全评测标准、探索人脸识别安全性检测服务、推广人脸识别安全性加固产品及AI创新人才培训等方面正在开展深度合作。
