沟通咨询
提交成功

瑞莱智慧CEO田天:以创新力量解决AI安全可控刚

2022.07.19
公司动态

近日,第十一届吴文俊人工智能科学技术奖颁奖盛典暨2021中国人工智能产业年会成功举办。“吴文俊人工智能科学技术奖”素有“中国智能科学技术最高奖”之称,中国人工智能产业年会则是国内权威性高、规模较大、品牌力强、行业影响深远的年度人工智能标志性颁奖盛会。

 

本届大会以“创新赋能·科技自强”为主题,聚焦数字经济时代下产业创新,两院院士、部委专家、政府领导、顶尖学者、业界精英汇聚一堂,共襄盛举。

 

瑞莱智慧在本届大会上收获满满:

 

中国科学院院士、清华大学人工智能研究院创始院长、瑞莱智慧首席科学家张钹领衔的清华大学研究团队的重要成果“鲁棒高效的深度学习理论与方法”,荣获“吴文俊人工智能自然科学奖一等奖”

 

 
 

团队负责人、清华大学计算机系教授、瑞莱智慧首席科学家朱军(中)

瑞莱智慧首席执行官田天(左)在颁奖盛典上合影

 

凭借“安全可靠可控的新一代人工智能平台”取得的突出成果,瑞莱智慧首席执行官田天荣获“吴文俊人工智能优秀青年奖”,成为该奖项设立以来首位以企业研发人员身份获此殊荣的获奖者。

 
图片

瑞莱智慧首席执行官田天荣获“吴文俊人工智能优秀青年奖”

 

此外,清华大学、阿里安全、瑞莱智慧还在会上联合发布全新升级版AI安全对抗攻防基准平台,包含目前最强鲁棒性的AI模型,可让研究人员发现AI被攻击后产生的问题,为行业提供参考,并将AI学术研究引导至更贴近实际场景的应用研究中。

 

 
图片

 清华大学、阿里安全、瑞莱智慧在“2021中国人工智能产业年会-安全人工智能专题论坛”上联合发布全新升级版AI安全对抗攻防基准平台

 

在中国人工智能产业年会的安全人工智能专题论坛上,田天发表主题演讲,就人工智能安全的产业实践、新一代人工智能的技术研发等话题,与在场嘉宾和听众分享了瑞莱智慧的探索和创新

 

新时代的刚需:安全可控的人工智能

 

随着新一轮科技革命和产业变革的迅猛发展,作为重要的数字技术,人工智能将带动数字经济形态的变革,拓展数字经济发展的边界,在提升经济效益、增进民生福祉等方面,有着巨大的想象空间。但与此同时,人工智能的种种隐患和风险,也正在越来越多地显现出来。

 

图片

瑞莱智慧首席执行官田天在“2021中国人工智能产业年会-安全人工智能专题论坛”上发表演讲

 

田天表示,近年来,在大算力、大数据的共同驱动下,以深度学习为代表的人工智能技术得到了广泛应用。然而,以数据驱动的深度学习算法存在不透明、不可解释等局限性,即便是开发者也难以理解其内在的运行逻辑,这就使得目前应用于各个行业和不同场景中的人工智能技术,存在可靠性、安全性、可信性不足等问题。因此,一旦发生针对人工智能系统和应用的攻击事件,将引发严重后果与巨大损失

 

例如,不法分子利用监控识别系统中的漏洞,实现“人体隐身”,从而躲避追踪,冒充他人;自动驾驶汽车有可能被干扰“致盲”,引发安全事故;海量人脸数据被恶意采集滥用,导致用户隐私泄露;人脸照片在表情驱动算法下被生成伪造视频,用于攻破人脸核验系统;数据权益不受保护造成企业数据资产流失......“人工智能安全风险远不止于此,这些问题已成为人工智能进一步发挥应有价值的制约和阻碍。”

 

田天介绍说,安全可控的人工智能生态是新时代的“刚需”,是完整智能系统的重要组成。不同于传统软件平台的安全可控,人工智能由于数据驱动的特性,对算法可靠性、数据安全等方面有着很高的要求,需要从技术、场景、监管等各方面提升。目前,很多国家正在持续加大对安全可控人工智能的投入,相关技术与治理规范均在快速发展。

 

在国内,人工智能的安全可控同样受到国家层面的高度重视,主管部门、应用单位、研发机构、科技企业正在努力构建安全可控的人工智能新生态。作为清华大学人工智能研究院官方发起设立的人工智能企业,瑞莱智慧致力于第三代人工智能技术的研发,希望通过推动安全、可靠、可信、可扩展的相关应用落地,为高价值场景智能化升级提供安全可靠的一站式基础保障。

 

聚焦三大核心方向 打造AI新型基础设施

 

田天认为,安全可控的人工智能应包含三个方面:

 

一是算法可靠,技术本身具备安全对抗能力,能够抵御攻击、防范漏洞等;二是数据可用,保障人工智能应用过程中的数据安全和隐私保护,让更多高质量数据实现安全流通和共享;三是应用可控,在应用过程中,应避免算法歧视、防止技术被滥用。

 

围绕这三个方面,瑞莱智慧聚焦三大核心方向:

 

一是让第三方人工智能系统更加安全。基于世界领先的对抗攻防技术检测人工智能系统漏洞,并进一步打造人工智能防火墙;二是防止人工智能技术被滥用。通过研究人工智能合成内容检测、隐私计算等方法,防止人工智能合成、人脸识别等技术被滥用;三是提供更安全可控的人工智能。利用“数据+知识”双驱动的第三代人工智能技术打造安全、可解释的人工智能产品和解决方案。

 

田天在演讲中介绍说,瑞莱智慧在人工智能基础研究和底层原创技术方面,有着深厚积累,团队多次在各类国际测评和竞赛中斩获冠军,研发团队在ICML、NeurIPS、ICLR、CVPR等国际顶级会议上发表论文数百篇,技术能力得到了业界的广泛认可。团队还参与了20余项国际、国家及行业标准的制定工作,累计获得各项知识产权300余项,其中授权发明专利60余项。作为世界范围内最早从事安全可控人工智能领域研究的团队之一,瑞莱智慧布局算法攻防、数据安全、深伪检测等前沿赛道,推出了一系列人工智能新型基础设施。

 

持续加大研发投入 建设全新AI生态

 

田天介绍说,瑞莱智慧推出的人工智能新型基础设施,包括人工智能安全平台RealSafe、人脸AI安全防火墙RealGuard、隐私保护计算平台RealSecure、人工智能安全靶场RealRange、深度伪造内容检测平台DeepReal等,相关的产品和解决方案,目前已经在政务、金融、能源、制造、互联网等多个领域落地。

 

人工智能安全平台RealSafe是为解决人工智能安全隐患而生,它是世界首款商业化AI安全平台、业内首个针对人工智能模型的杀毒软件。RealSafe可提供模型安全性量化测评及安全性提升的端到端解决方案,用户在使用中无需任何编程操作。RealSafe支持针对对抗样本攻击、模型后门攻击两类安全风险的检测,提供被测AI模型的安全评分、风险报告,以及多种纵深防御方案。

 

人脸AI安全防火墙RealGuard是瑞莱智慧针对人脸识别安全问题研发,是业内首个全面加固任意人脸识别系统的产品。RealGuard能够有效防范物理世界对抗样本攻击、伪造视频攻击等新型安全风险,实时发现并拦截恶意人脸图像,对人脸识别的物理和数字世界进行全景式安全态势感知,提升人证核验、刷脸通行、人脸解锁等应用场景的安全性。

 

隐私保护计算平台RealSecure是瑞莱智慧研发的高性能数据安全融合基础设施,综合运用多方安全计算、联邦学习、可信执行环境等技术,让数据在“可用不可见”的前提下能够安全、合规、高效地被使用,并把隐私保护计算技术的适用范围和应用场景拓展到了人工智能领域,同时实现了性能、安全性与兼容性等方面的多重提升,具有多项领先的技术优势和独创的功能特点。

 

人工智能安全靶场RealRange是瑞莱智慧自主研发的新一代实战化、体系化AI攻防演习的支撑平台。RealRange提供实战化、体系化的一站式人工智能攻防演练服务,通过构造与现实AI系统相对应的场景模型,开展AI攻击与防御有效性评估及对抗攻防竞演,能够快速培训、提升人员AI安全能力,推动相关单位提升应对新型AI安全威胁的实战能力。

 

深度伪造内容检测平台DeepReal依托第三代人工智能技术,通过辨识伪造内容和真实内容的表征差异性、挖掘不同生成途径的深度伪造内容一致性特征,能够快速、精准地对图像、视频、音频内容进行真伪鉴别,有效打击财产诈骗、色情黑产、虚假宣传、证据造假等违法行为。

 

在演讲的最后,田天表示,瑞莱智慧将持续加大研发投入,不断升级产品服务体系,打造更多标杆性、示范性项目,“未来我们希望成为具有国际影响力的顶尖人工智能企业,与各方共同建设全新的人工智能生态,为用户提供安全、有保障的服务,让人工智能真正成为社会运转的支柱力量。”