/**/
沟通咨询
提交成功

最高法规范人脸识别应用,夯实安全还需技术加码

2021.08.19
公司动态

7月28日,最高人民法院发布司法解释,对人脸识别技术的“滥用和发展”划定边界,在为维护个人信息安全增添司法保障同时,亦指出人脸识别技术近年来在国境边防、公共交通、城市治安、疫情防控等诸多领域发挥着巨大作用。

 

图片

最高人民法院《规定》新闻发布会现场

 

人工智能时代,如何实现个人信息保护和数字科技发展之间的平衡,理应成为全社会共同探讨的课题。这一司法解释的发布,彰显了司法努力,也向行业企业、从业者指明了人工智能的发展目标和现实路径。

 

 

“脸安全”焦虑

 

400多万年来,我们的面部慢慢演化成今天镜子里的样子。而在近几十万年里,人脸都是识别人类身份信息最为显著的特征,同时也是生物识别信息中社交属性最强、最易采集的个人信息,具有唯一性和不可更改性。

 

近年来,随着计算机视觉技术的突飞猛进,人脸识别已逐渐成为了人们生活中的“标配”,刷脸支付、刷脸打卡、刷脸开门……在给生活带来便利的同时,人脸识别也为酒店住宿、机场、高铁站等提高了安检的速度和效率,同样也对维护社会治安起到了重要作用,如警方在张学友演唱会现场逮捕逃犯、在重庆机场逮捕弑母案凶手吴谢宇,都有人脸识别的功劳。

 

图片

仅2018年,超过60名逃犯在张学友演唱会举办地落网

 

然而,随着人脸识别技术方兴未艾的“野蛮”生长,也不难看到它的“滥用”和安全性问题正在引起公众的担忧和不安。

 

首先,人脸识别系统的技术盾牌并非牢不可破。2019年,一初中文化“00后”田某就曾攻破某银行App人脸识别技术,利用虚假身份信息,注册银行Ⅱ类账户76个,并通过网络售卖赚取22010元。

 

图片

 

其次,人脸数据存在泄露风险,且早有先例发生。一旦数据收集主体未能善加保护,将会导致大规模泄露的情况,对个人的人身和财产安全造成极大危害,甚至还可能威胁公共安全。2019年2月,某视频监控公司泄露了超过250万条个人信息,包括照片、身份证号码、地址、生日、雇主等信息,以及这些人过去24小时内经过的地点,合计约668万条记录。

 

 

法律规制,划清边界

 

加码人脸安全,刻不容缓。而最不可或缺的,就是法律的规制与保障,提高违法成本、划定惩戒红线。

 

中伦律师事务所合伙人陈际红律师在《最高人民法院关于审理使用人脸识别技术处理个人信息相关民事案件适用法律若干问题的规定》正式实施后撰文指出,对于人脸信息等个人信息的保护,我国目前存在民事、行政和刑事三种救济方式。

 

中伦律师事务所原创文章:《明晰人脸识别案件司法裁判规则,推动AI行业规范发展——最高院人脸识别司法解释解读》

 

我国过去长期以行政监管和刑事惩戒作为个人信息保护的主要规制手段,基于民事司法裁判的规制不清晰,原告举证责任难以实现等原因,导致以民事途径维护个人信息权益的司法实践并不顺畅。《规定》的出台,将激活人脸识别技术有关人脸信息保护案件的民事司法保护途径。

 

《规定》作为《民法典》人格权编配套的司法解释,其在规范逻辑上大体与《民法典》第一千零三十四条至第一千零三十八条相一致。同时,由于人脸信息本质上具有敏感个人信息的属性,故《规定》在为人脸识别技术划定司法边界时,与《网络安全法》以及即将出台的《个人信息保护法》等个人信息保护规则相互呼应,形成了具有体系一致性的司法裁判规则。

 

 

技术防范,“道高一丈”

 

法律缺口的补齐筑牢了事前震慑和事后惩戒的法治藩篱,然而遏止人脸识别无序生长以及不法分子利用人工智能技术作恶,不仅需要法律常态性亮剑,还应有技术来“道高一丈”。

 

中国科学院院士、清华大学人工智能研究院名誉院长、瑞莱智慧首席科学家张钹教授认为,人工智能与信息系统在安全性上有着显著区别,第二代人工智能的安全性问题主要来自深度学习算法本身的不安全,更加本质、更难克服。他明确指出,对人工智能进行治理,防止它被误用、制止它被滥用,应从技术创新层面发力去“治本”。

 

图片

中国科学院院士、清华大学人工智能研究院名誉院长、瑞莱智慧首席科学家张钹

 

张钹院士提出发展第三代人工智能技术,即融合了第一代的知识驱动和第二代的数据驱动的人工智能,利用知识、数据、算法和算力四个要素,建立新的可解释和鲁棒的AI理论与方法,发展安全、可信、可靠和可扩展的AI技术。

 

作为第三代人工智能技术的领军者和践行者,瑞莱智慧锚定“人工智能安全可控的高质量发展”目标,打造了一系列第三代人工智能原生基础设施。

 

图片

 

在功能安全层面,瑞莱智慧给出“模型安全检测+防御”解决方案,推出了世界首款企业级 AI 安全平台——RealSafe,先通过多种攻击方法对模型的安全风险类别和高低进行检测,并提供多种方案提升模型的安全性。在应用可控方面,瑞莱智慧推出的深度伪造内容检测平台DeepReal,能够高效、精准地判断视频、图片等内容素材中的人脸是否是AI伪造生成。

 

针对数据安全,瑞莱智慧推出业内首个编译级的隐私保护机器学习平台RealSecure,其核心模块「隐私保护AI编译器」能够自动将普通机器学习算法程序转换为分布式、隐私安全程序,可以实现人脸数据“可用不可见”,在保护人脸识别信息数据不外泄的基础上,实现数据价值的最大化挖掘。

 

图片

 

个体的生物特征,在如今世界都已成为“人体密码”。随着基于声纹、静脉、虹膜等更多智能识别技术的应用,类似的必要性和安全性要求,也会参照人脸识别技术进行规范。

 

 

伦理规范,凝聚共识

 

独行快,众行远。应对安全风险挑战,除了法律规制和技术防范,还少不了全行业甚至全社会的共识和努力。在不断锤炼底层技术的同时,瑞莱智慧也持续在行业发声。

 

8月3日,为了更好地推动人工智能技术创新和产业稳健发展,形成更完备规范的创新体系和产业生态,首个《人工智能产业担当宣言》在2021全球数字经济大会-人工智能产业治理论坛上正式对外发布。该宣言由瑞莱智慧联合北京智源人工智能研究院发起,百度、华为、蚂蚁集团、寒武纪、爱笔科技、第四范式、出门问问等人工智能行业的核心骨干企业、学术研究机构共同参与。

 

图片

 

7月9日,在2021世界人工智能大会-可信AI论坛上,中国人工智能产业发展联盟人工智能治理与可信委员会宣布成立,清华大学计算机系教授、瑞莱智慧首席科学家朱军受聘为专家委副主任。当天,论坛还面向全球发起《促进可信人工智能发展倡议》,瑞莱智慧亦是倡议联合发布单位。

 

图片

 

4月7日,由中国信通院举办的“可信人脸应用守护计划”启动会正式召开,来自公安部、中国人民公安大学、中国支付清算协会、中国信通院云大所、工商银行、招商银行、阿里、腾讯、百度、商汤、旷视、依图、华为等多家机构受邀出席。瑞莱智慧受邀参加并作为两家发言单位之一发表主题分享《可信人脸应用的探索与实践》,参与探索和实践人脸应用治理与发展的可信指引。

 

图片

“可信人脸应用守护计划”启动会合影

 

以人脸识别为代表的人工智能要想安全可控发展,必须加强前瞻预防与约束引导,最大限度降低风险、化解风险。而这一目标的真正实现,法治是不可或缺的坚实保障,技术是根本性制约的强有力支撑,而伦理规则和价值共识将为发展向度形成范导。