在清华大学建校110周年校庆日即将来临之际,中共中央总书记、国家主席、中央军委主席习近平19日上午来到清华大学考察,先后视察美术学院、成像与智能技术实验室、重点教学科研成果展示、西体育馆,了解学校深化改革、人才队伍建设、教学科研创新和服务国家发展等情况。瑞莱智慧首席科学家、清华大学人工智能研究院张钹院士提出的“第三代人工智能理论框架”、朱军教授团队研发的“珠算”开源编程库以及北京瑞莱智慧(RealAI)团队的人脸安全研究成果位列其中。
早在2020年9月,张钹院士就在“纪念《中国科学》创刊70周年专刊”上发表联合署名文章,提出了“第三代人工智能理论框架”,得到了国内外科学家的广泛关注,张钹院士表示,人工智能至今已经过了两代发展,但前两代人工智能只能解决有限的问题,仍然存在着不安全、不可靠、不可信和不容易推广应用的缺点,为此需要建立鲁棒与可解释的人工智能理论,发展安全、可信、可靠与可扩展的第三代人工智能。同时,他提出,第三代人工智能的发展路径是融合第一代知识驱动和第二代数据驱动的人工智能,综合知识、数据、算法与算力四个要素,来构建比前代更强大的人工智能。
第三代人工智能的一个重要发展方向是研制第三代人工智能编程框架及基础算法库,“珠算”开源编程库就是其中的重要部分。“珠算”平台于2017年由朱军教授团队研制发布,不同于主流的为监督学习而设计的深度学习库,“珠算”平台是基于贝叶斯推断并支持多种生成模型的软件库,既可以训练神经网络,也可以做概率建模和概率推断,能够用于无监督学习、小样本学习、不确定性推理和决策、生成新的样本等。
提升人工智能的安全性也是第三代人工智能的重点研究方向。北京瑞莱智慧(RealAI)作为清华大学人工智能研究院的产学研机构,凭借独特的技术底蕴与科研背景,落地了系列产业研究,包括针对人脸应用的安全对抗攻防研究,通过检测和防御对抗样本攻击来提升人脸识别系统安全性,通过合成更逼真的深度伪造视频来提高检测精度。基于在安全攻防领域的持续研究,RealAI也于此前发布了首个企业级人工智能安全平台,能够提供模型安全测评及防御的端到端解决方案,大幅提升AI系统的安全性。