北京日报客户端 | 记者 孙奇茹
1月18日，国家工业信息安全发展研究中心主办的人工智能融合发展与安全应用研讨会上，国家语音及图像识别产品质量检验检测中心（以下简称“AI国检中心”）正式发布首批人脸识别系统安全测评结果，腾讯云、京东科技、商汤科技、旷视科技、海康威视、的卢深视成为首批通过测评的企业并获颁证书。
作为人工智能领域最具商业价值的技术方向，人脸识别在安防、金融、交通、教育等关键领域实现了广泛应用，但在技术层和应用层仍面临安全挑战，漏洞攻击、数据泄漏、技术滥用等问题，屡屡成为社会焦点。因此，作为人工智能领域的国家级第三方检验检测机构，AI国检中心就人脸识别系统安全启动测评工作，对市场主流人脸识别系统开展测试评估，规范人脸识别产业健康发展。
据悉，这是首个面向人脸识别系统安全性的国家级检测与评估，依据《信息安全技术人脸比对模型安全技术规范》《信息技术生物特征识别人脸识别系统技术要求》等现行和在研的有关国家和行业标准，通过呈现攻击、注入攻击等技术手段对人脸识别产品和服务进行全方面的测试，有效评估人脸识别安全风险。
国家工信安全中心人工智能所副所长刘永东介绍，人脸识别系统安全风险主要涵盖算法安全、数据安全和应用软件安全等维度。本次测评对人脸识别系统的安全风险提供明确的测试方法，包括算法层面的活体检测+假体攻击、对抗样本攻击等呈现和注入攻击检测。
目前，对人脸识别技术的规范和管理早已成为全球关注的重点。美国、欧盟相继推出《人脸识别和生物特征识别技术禁令法案》《通用数据保护条例》等监管政策，同时主导多项人脸识别国际标准。在全球共识下，我国重点提出发展与安全并重的理念，多措并举推进人脸安全应用，逐步牵头引领部分标准制订，在公安和金融等领域先行构建规范。本次测评工作将为进一步完善人脸识别标准体系、推动产业规范发展提供有力支撑，本次通过测评的企业也将参与后续的标准编制。
本次测评工作也存在一些待改善的内容。国家工信安全中心人工智能所图像检测室负责人朱倩倩表示，人脸识别系统的安全评估，不应用一个尺度来衡量，比如门禁闸机、手机登录、金融支付等身份认证场景对安全性要求不同，从技术角度，安全性判定规则也应加以区分，以及不同测试样本间的测试结果也存在差异。她建议，进一步打造更细化的评测体系，包括按照不同场景、不同功能、不同应用阶段划分安全等级，对测试样本分级分类，保证在同一基准上衡量安全能力。
从加强技术应对的角度，瑞莱智慧高级副总裁朱萌在研讨会上提出兼顾“主动”和“被动”的技术防御机制，被动防御是为人脸应用部署静态的安全能力，比如人脸AI防火墙，对外部访问、输入数据、行为决策等进行检测，提升人脸系统抵御攻击的能力。主动防御则是引入和强化安全团队力量，比如打造攻防演练靶场，帮助企业构建自适应、自生长的安全能力。
人脸识别具有高度的社会属性，应在法治框架下开展协同治理。在企业贯彻彻落实法规政策要求方面，朱萌认为，技术厂商可联手律师事务所，针对数字经济时代新场景下监管机构的合规要求，对内健全技术合规体系建设，对外输出应用合规咨询服务，比如培育数据安全咨询、数据保护设计与数据安全管理等服务，从技术流程和业务流程的角度提供完整的安全保障解决方案。
