12月8日，由清华大学人工智能研究院、阿里安全、北京智源人工智能研究院联合主办的AI与安全研讨会正式举办，瑞莱智慧RealAICEO田天应邀出席本次会议并参与交流讨论。
聚焦时下人工智能的应用趋势与安全需求，本次研讨会邀请到清华大学副校长薛其坤院士、清华大学人工智能研究院院长、RealAI首席科学家张钹院士、中国科学院徐宗本院士、国家工业信息安全发展研究中心副主任李新社在内的国内人工智能及安全领域十余位知名院士、专家与会，共同探讨安全AI大趋势下的新技术与新应用。
清华大学人工智能研究院院长、RealAI首席科学家张钹院士
会议伊始，张钹院士就在《AI安全与治理》的主题演讲中指出，目前谈的人工智能安全问题主要有两种，一是远虑，即担心机器有了意识或者智能全面超过人类之后而带来的危险，但这并不会很快发生；二是近忧，是指基于大数据的深度学习自身缺陷所带来的安全问题。张钹院士强调，相较于人工智能统治人类的远虑，现有AI“不安全、不可信、不可靠”的问题更值得引起重视。
为了保证未来AI发展的需要，张钹院士提出发展第三代人工智能的倡议，建立可解释和鲁棒的人工智能理论，发展可信、安全和可靠的人工智能技术，扩展人工智能应用的范围。
瑞莱智慧RealAI CEO 田天
在圆桌交流环节，RealAI CEO田天表示，“对抗样本”是当前导致人工智能犯错的重大隐患，即对数据样本添加轻微特殊的扰动即可让深度模型识别错误，反映当前主流AI算法存在安全盲点，可能引发AI系统无法检测有效目标、传统内容审查机制失效等安全问题。
除了人工智能自身隐患，另一个不容忽视的安全问题在于技术滥用引发的社会危害，比如火及一时的AI换脸风潮。田天指出，Deepfake技术的出现降低了内容伪造的门槛和成本，也为虚假内容的病毒式传播提供了“温床”，但相应的防伪技术却未得到及时完善，社会安全面临潜在威胁。
作为清华大学人工智能研究院孵化、国内首家致力于安全可控AI系统的人工智能公司，RealAI在AI安全与攻防技术领域拥有深厚积累，目前正加快开发人工智能安全攻击检测与防御系统与人工智能技术滥用识别取证平台等安全产品，帮助提升公共安全等领域智能系统安全性。“AI安全是一场攻防赛，双方的技术都在不断迭代更新，无论是AI科技企业还会最终企业用户，在推动各项应用落地的过程中都需加强对防御端的重视。”田天说道。
安全与发展是永恒的话题，在人工智能快速发展的今天，“安全AI”是不可避免的大趋势。作为国内首家致力于安全可控AI技术与应用研究的企业，RealAI专注技术升级的同时也着眼于更重要的社会责任。未来，RealAI将持续为更多AI落地场景“保驾护航”，为开创安全AI新局面注入新动能！
