1月10日，由上海市经济和信息化委员会、上海市通信管理局指导，中国信通院主办，中国信通院华东分院承办的“2023中国信通院ICT+深度观察报告会华东分会场”在线上举行。报告会邀请了瑞莱智慧RealAI合伙人、高级副总裁朱萌等政产学研各界专家学者，围绕“共建可信生态，赋能数字未来”分享真知灼见。
瑞莱智慧RealAI合伙人、高级副总裁朱萌
直面 “科林格里奇困境”
英国技术哲学家大卫·科林格里奇在1980年出版的《技术的社会控制》一书中写道：我们不能在一种技术的生命早期阶段就预言到它的社会后果。然而，当我们发现其不好的后果时，技术通常已经成为整个经济与社会结构的一部分，以至于对它的控制变得极其困难。这就是对新技术进行控制的困境，也被称为“科林格里奇困境”。
“与其他通用目的技术一样，人工智能也面临这一困境，既充满希望，也隐含威胁。”朱萌指出，人工智能自身的两面性、复杂性，使得“安全可信”成为行业规范化、技术商业化的关键助推器。
朱萌介绍，RealAI主要围绕风险、治理、实践这“三部曲”来进行人工智能安全能力建设。
首先是挖掘人工智能的内生和衍生安全风险，提高风险预见、预判能力。朱萌以RealAI团队的研究成果举例：在自动驾驶场景中，通过修改锥桶的形状，就能让汽车感知模块失效，径直撞上去；通过在T恤上打印含特殊的花纹，就能让目标检测系统捕捉不到穿这件衣服的人，实现“隐身”；制作带有特制花纹的眼镜，刷开数十部商用手机的人脸解锁等。
通过张贴对抗样本补丁（中间车辆），使检测模型变成“睁眼瞎”
除了系统本身的问题，人工智能的“信任危机”还来自人的滥用、恶意应用。具体到人工智能的应用中来看，最为典型的代表就是深度伪造，2022年以来，使用该技术进行诈骗的案件已在全国发生多起。
高水平安全护航高质量发展
要有防范风险的先手，更要有应对和化解风险挑战的高招。RealAI基于上述风险挑战，成立了AI治理研究院并建立了AI治理框架，将持续致力于提出AI治理理论、构建AI治理机制、探索AI治理模型。
同时，围绕着应对人工智能风险的“前瞻性、整体性、协同性”三大基础原则，RealAI展开了一系列技术部署，构建了人工智能安全技术体系，探寻安全与发展动态平衡的“技术解”。
落实到具体实践中，RealAI走出了一条自己的技术和产品之路，打造了集成主流及独有的世界领先攻防算法的典型应用以及标准化产品，赋能全行业安全发展。
安全可靠可控新一代人工智能平台
“人工智能的发展要在安全保障下不断实现，而自身安全水平也应在发展的基础上持续提升。”朱萌说，唯有坚持长期主义，持续构建新安全格局，人工智能才能告别表面上的繁荣，静水深流、行稳致远，真正为万千行业场景注智赋能。
