田天：“善”用AI，用技术战胜技术

12月10日，由清华大学主办，清华大学人工智能国际治理研究院承办的第三届人工智能合作与治理国际论坛，以 “人工智能治理技术”为主题开启第二场主论坛讨论。

哥伦比亚大学常务副校长、计算机科学系教授周以真，中国工程院院士、鹏城实验室主任、清华大学人工智能国际治理研究院学术委员高文，清华大学智能产业研究院国强教授、首席研究员聂再清和瑞莱智慧RealAI首席执行官田天围绕人工智能研究与技术前沿进展作主旨发言，并通过圆桌对话深入探讨如何通过技术创新应对和解决人工智能带来的风险与挑战。清华大学人工智能研究院常务副院长、欧洲科学院外籍院士、ACL Fellow 孙茂松担纲主持。

人工智能作为一项渗透性、实用性极强的通用目的技术，具有技术属性和社会属性高度融合的特点，在加速应用推动社会生产力跃升的同时，也带来伦理和法律挑战。发展与安全的平衡、多元协同治理确保人工智能向善，逐渐成为社会关注的焦点和人工智能产业健康可持续发展的关键。

主旨发言环节，周以真教授以《Trustworthy AI》为题介绍了正在推动的“值得信赖的人工智能”研究议程，并指出：“一些人工智能系统可能是脆弱和不公平的，因此需要努力实现可信赖的人工智能。”

高文院士认为应从多个层面进行人工智能风险管控：在人的层面，应加强伦理教育；在模型算法层面，期望它可信、可控、可解释并且被正当使用；在数据层面，期望数据具有充足的系统防护保证其安全。

聂再清教授表示安全可信是人工智能治理的核心诉求，而安全可信的人工智能技术产品需要具备安全可控、数据资产和隐私保护、可解释性等条件。

RealAI：以技胜技、以技治技

面对“人工智能向善”的产业诉求，RealAI分享了作为人工智能安全领跑者的深度探索和实践。田天博士首先指出，人工智能正迈入从高速增长向高质量增长转变的全新发展阶段，这对其自身安全性和可靠性提出了更高要求。面对这一挑战，RealAI的解题思路是“用技术战胜技术”。

RealAI目前正通过“三步走”来持续探索人工智能安全的突围之道：一是持续发掘人工智能发展中的潜在安全风险；二是提出治理理论、构建治理机制、探索治理模型；三是围绕数据可用、算法可靠、应用可控三个目标，系统布局、打造人工智能安全基础设施，探索人工智能安全产业化发展之路。

田天博士认为，互联网之所以能服务于人类生产、生活的方方面面，离不开互联网安全公司、产品的助力。随着人工智能的发展，也应有专门人工智能安全的产品、基础设施来为之保驾护航，确保其始终走在服务于人类、有益于人类的向善道路上。

RealAI自2018年从清华大学人工智能研究院孵化成立以来，打造了一系列平台型产品，包括：隐私保护计算平台RealSecure、人工智能安全平台RealSafe、AI安全防火墙RealGuard以及深度伪造内容检测平台DeepReal等，并依托面向金融、政务等行业场景的解决方案，让真正安全可靠的人工智能服务于大众。

圆桌对话环节，田天博士针对“如何平衡人工智能发展与治理”、ChatGPT的“数据偏见”等线上观众最为关切的话题进行了回答。