12月10日，以“熔炼•重铸”为主题的品玩TIC2021科技创新者大会在北京举办。大会邀请各个领域的科技创新者们，深度剖析创新精神、产业奥秘和未来布局。
瑞莱智慧RealAI副总裁唐家渝受邀出席大会，并以《人工智能时代的安全新风险与应对》为题进行了分享。
瑞莱智慧RealAI联合创始人、副总裁唐家渝
在希腊神话中，普罗米修斯帮人类盗来了天火，让人类从此吃上了熟食、夜里有了光明；但当火失控，就会带来灾难，将村庄、森林烧成灰烬。在技术诞生的那一刻，我们人类所创造的技术力量和控制技术的力量之间，就存在不对等。海德格尔的学生京特.安德斯将这种不对等称为“普罗米修斯差异”。
AI，正是智能时代的“火”。从21世纪第二个十年开始，AI深入各个行业场景，替代人类重复劳动、帮助人类降本增效。而AI的种种安全风险也随着AI的“野蛮生长”暴露出来，诸如：对抗样本攻击、隐私数据泄露、模型后门攻击、深度伪造攻击……
唐家渝在现场深入剖析了当前所面临的AI安全风险的根本原因：“目前最广泛使用的深度学习技术，是通过查看数据集中许多的示例进行学习从而建立出模型的。与人类不同，深度学习模型没有对先验知识进行合理利用，它们的判断取决于他们所学习的数据。因此，模型的分界和真实的分界并非完全吻合，很容易被欺骗和攻击。”
换言之，深度学习尽管最初受神经科学的启发，但其之所以获得成功，关键在于海量的大数据以及计算机算力的提高。即第二代人工智能是以数据驱动的，所以其模型自身的安全风险更加本质、难克服，存在着不安全、不可靠、不可信和不容易推广应用的天然缺陷。
因此，中国科学院院士、清华大学人工智能研究院名誉院长张钹提出：“发展安全、可信、可靠与可扩展的第三代人工智能”。
在此背景下，瑞莱智慧RealAI2018年从清华大学人工智能研究院正式孵化，由张钹院士、清华大学朱军教授共同担任首席科学家，志在探寻真正的人工智能，成为第三代人工智能的先行者、推进者和领军者，提供更加安全可控的AI产品和解决方案。
唐家渝介绍，瑞莱智慧RealAI基于第三代人工智能技术路线和“功能稳健可靠、数据可控可信、决策公平公正、业务逻辑可解释、安全时间可追溯、应用合法合规”的发展目标，围绕算法可靠、数据可用、应用可控三大方向打造了一系列的AI原生基础设施。
在算法可靠方面，瑞莱智慧RealAI先后推出了业内首个针对AI系统的防火墙、杀毒软件产品人工智能安全平台RealSafe以及业内首个实战化、体系化AI攻防演习支撑平台RealRange，全方位提升新型AI安全风险的应对能力。
在数据可用方面，瑞莱智慧RealAI基于安全多方计算、联邦学习、匿踪查询等技术打造了数据安全共享基础平台隐私保护计算平台RealSecure。区别于市场上众多的隐私计算产品，瑞莱智慧自主研发联邦AI编译器，实现了机器学习和分布式联邦学习生态的统一。
在应用治理方面，针对“AI换脸”等深度伪造技术滥用现象，瑞莱智慧RealAI推出深度合成内容检测平台DeepReal，支持对多种格式与质量的视频和图片进行一键真伪鉴别，检测准确率达业内顶尖。
截至目前，瑞莱智慧RealAI的第三代人工智能产品及解决方案已经在政务、金融、能源、互联网等领域落地，服务于中国石油、中国电建、国家电网、蚂蚁金服等在内的数十家大型企业机构。
唐家渝表示，瑞莱智慧未来还将持续加大第三代人工智能底层核心技术的研发力度，以“多元驱动”去替代第二代人工智能的“数据驱动”，为人工智能的高质量稳健发展注入安全可控的原动力。
