9月1日，2022世界人工智能大会-可信AI论坛在上海西岸美术馆报告厅召开，汇聚全球顶尖AI智脑，共同探索多元化的落地措施，进一步推动可信AI产业持续发展。
瑞莱智慧RealAI合伙人、高级副总裁朱萌受邀作主旨演讲，以《人工智能安全的实践探索》为题，深度诠释RealAI以“风险、治理、实践”三部曲，矢志践行第三代人工智能，力争实现人工智能高水平安全和高质量发展的良性互动。
瑞莱智慧RealAI合伙人、高级副总裁朱萌
第二代AI遭遇“天花板”，第三代AI探索“破局点”
人工智能自1956年达特茅斯会议诞生后，历经了两起两落，才步入到当前的快速发展时期。每一轮技术周期浪潮迭起往往与技术创新紧密相连，第一代人工智能是知识驱动的符号推理，在上世纪7、80年代呈现高潮；之后，人工智能步入低谷；第二代人工智能是数据驱动的深度学习，在本世纪第二个十年高歌猛进。
但学界普遍认为，从应用的角度来看，以数据驱动的深度学习，其技术潜力已接近“天花板”。原因是，深度学习的本质是利用没有加工处理过的数据用概率学习的“黑箱”处理方法寻找规律。这一方法本质上不可解释，非常脆弱，带来了新的风险和问题。如“对抗样本攻击”， 通过在输入数据中添加扰动，即可使系统作出错误判断。
朱萌以RealAI团队所做的研究成果举例：在自动驾驶场景中，通过修改锥桶的形状，就能让汽车感知模块失效，径直撞上去；通过在T恤上打印含特殊的花纹，就能让目标检测系统捕捉不到穿这件衣服的人，实现“隐身”；制作带有特制花纹的眼镜，刷开数十部商用手机的人脸解锁等。
2022世界人工智能大会-可信AI论坛现场
因此，在“信任危机”的笼罩之下，“安全、可信”已成为人工智能稳健发展的主要抓手，也将逐步成为行业规范化、技术商业化的关键助推器。
清华大学人工智能研究院名誉院长、RealAI首席科学家张钹院士提出“第三代人工智能”，持之以恒加强基础研究，综合运用知识、数据、算法、算力四个要素，在实现高水平安全的前提下，为人工智能高水平发展提供动力和支撑。
RealAI“三部曲”，消弭人工智能“信任赤字”
朱萌介绍，围绕“高水平安全赋能高质量发展”目标，RealAI正在力争奏好“三部曲”，致力于AI安全领域的三方面能力建设。首先是，发掘现有AI安全风险、预判AI潜在风险；二是针对风险建设治理体系，包括建立AI治理理论、构建治理运转机制、探索技术实践路径等；三是在治理体系框架下，重点探寻伦理法规的技术落地方案。
“人工智能当前的安全风险主要可以从‘系统’与‘人’两个视角来剖析。”朱萌认为，系统层面来看，以深度学习算法为核心的人工智能系统十分脆弱，其结构性漏洞致使“对抗样本攻击”不可避免，而其数据依赖性则使其存在“数据投毒”漏洞，出现“后门攻击”。从“人”的层面来评估AI的可信问题，主要风险来自人的滥用、恶意应用，最为典型的就是深度合成技术。它大幅降低了信息生成合成的难度，但其负向应用已产生实质危害，甚至存在“武器化”风险。
针对上述风险，RealAI于今年6月成立了人工智能治理研究院，探寻从伦理法规到技术落地的人工智能治理实践之路，主要开展四个方面工作：参与伦理规则建立、支撑立法工作、开展技术探索、建立从伦理法规到技术实践的映射模型。
落实到技术和产品实践中，RealAI搭建了安全可靠可控的新一代人工智能基础设施，该平台在数据可用、算法可靠、应用可控等方向上均有世界领先技术和独创功能，将从根本上增强人工智能的安全性、可靠性及可控性，且已在政务、金融、工业互联网等高价值场景中发挥了重大作用，成为AI纵深赋能的坚实基座。
此外，RealAI为推动AI安全发展，还主办了首届人工智能安全大赛，设置了深度伪造、自动驾驶、人脸识别三大专题赛道，并邀请了张钹、倪光南、沈昌祥、于全、吴建平共五位院士担纲主席。大赛现已有近350支队伍报名参赛，9月16日中关村论坛期间将展开决赛阶段较量角逐。朱萌说：“RealAI期待大赛能够实现“以赛促研、以赛促建”目标，破解现实场景中的AI安全问题，为人工智能行稳致远聚智聚力。”
