沟通咨询
提交成功

《法人》丨瑞莱智慧:聪明的防御专家

2022.04.25
媒体报道

位于北京市海淀区成府路的清华科技园,从来不缺少振奋人心的创业故事。北京瑞莱智慧科技有限公司(下称“瑞莱智慧”)从一家校园孵化企业,经过短短三年多的时间,快速成长为具有世界影响力的人工智能公司。它如启明星般冉冉升起,令同行侧目。

 

图片

 

瑞莱智慧成立于2018年7月,由清华大学人工智能研究院孵化而来,是中国首家安全可控人工智能系统提供商。公司致力于将人工智能的不安全性降到最低,让人工智能变得安全、可靠、可信与可扩展。相比研发某一项人工智能产品,打造动态演化、科学调整的安全防御体系,更具挑战性。

 

2021年10月,瑞莱智慧迎来第四轮融资,累计融资额达数亿美元,估值数十亿元人民币,正式跻身“准独角兽”行列。近日,《法人》记者走进瑞莱智慧,试图了解这家企业快速成长的“密码”。

 

破壳而出,占尽天时地利人和

 

2月末的一个下午,记者走进瑞莱智慧新入驻的清华科技园办公区。公司的一面墙上,醒目地展示着公司的价值观:客户为先、可靠利他、追求完美、行胜于言。偌大的办公区中央,在一片城市街景的沙盘模型前,几位算法研究人员正在进行自动驾驶安全测试。

 

瑞莱智慧的破壳而出占尽天时地利人和。2017年7月,国务院颁布《新一代人工智能发展规划》明确提出,大力建设人工智能学科,完善人工智能领域学科布局,设立人工智能专业,推动人工智能领域一级学科建设。政策导向下,2018年国内多所科研强校——天津大学、南开大学、南京大学、上海交通大学、哈尔滨工业大学等陆续成立人工智能研究院,为人工智能领域人才储备续足势能。2021年,国家“十四五”规划纲要公布,全文65章,“智能”“智慧”字样出现了57处,为未来一段时期以人工智能为代表的新一代信息技术的长足发展擘画了蓝图。

 

瑞莱智慧成立三年来,取得的业绩和荣誉可圈可点。产品研发方面,公司不仅打造出全球首个针对AI系统的安全检测和防御加固产品,而且在隐私计算、深伪检测等方面,均有世界领先技术和独创功能。据不完全统计,几乎每一两个月,公司便会摘得某项行业殊荣。如今,瑞莱智慧是“专精特新”中小企业、北京市专精特新“小巨人”、福布斯高增长瞪羚企业,荣获“2021世界互联网大会全球领先科技成果奖”和CAAD 虚假人脸 AI 识别大赛冠军等。

 

迄今为止,瑞莱智慧团队多次在各类国际测评和竞赛中斩获冠军,在ICML、NeurIPS、ICLR、CVPR等国际顶级会议上发表论文数百篇,参与了20余项国际、国家及行业标准的制定工作,累计获得各项知识产权250余项,其中授权发明专利近60项。而90后的CEO田天凭借在学术与商业领域的杰出表现,获评“青年AI科学家”称号,2022年更是获评“吴文俊人工智能优秀青年奖”,成为该奖项设立以来首位以企业研发人员身份获此殊荣的获奖者。

 

图片

 

瑞莱智慧CEO田天在接受记者采访时,道出了公司快速发展背后的另一面。“外界看到的是瑞莱智慧的快速发展,但实际上,商业化之前,我们的研究人员已经坐了很多年冷板凳。”他表示,人工智能发展是一个长周期过程。在技术转化成果之前,他和早期团队成员已经在学校实验室做了多年科研工作。尤其在贝叶斯深度学习等技术领域,他的导师朱军教授带领团队已深耕数十年,其开发的“珠算平台”是最早的深度概率编程库之一,朱军教授也是目前国内在这一领域的领军人。

 

最高配置,构建结构性安全防御系统

 

2018年6月,清华大学人工智能研究院宣告成立。一个月后,由该研究院孵化而来的瑞莱智慧成立。彼时,公司只有5个联合创始人,他们在清华FIT楼的一间会议室里开启了创业之旅。

 

瑞莱智慧的团队成员可谓行业“最高配置”,即使在全球人工智能领域,也具有风向标意义。公司几位创始人都来自清华大学,联合创始人兼CEO田天是清华大学人工智能方向博士,曾获得清华大学学生最高荣誉“特等奖学金”与“西贝尔学者”称号,也是清华大学计算机系近10余年来第一位研究生清华特等奖学金得主。公司首席科学家由清华大学人工智能研究院名誉院长张钹院士、清华大学人工智能研究院基础理论研究中心主任朱军教授共同担任。

 

瑞莱智慧早期投资机构之一基石资本天使基金合伙人黄依群曾评价,瑞莱智慧作为清华大学人工智能研究院官方孵化的第一个项目,在人才储备、学术研究、科研项目和产业结合等方面非常领先。

 

早在2016年,中国科学院院士张钹就提出发展第三代人工智能。他认为,今后发展的方向是把第一代人工智能知识驱动方法和第二代人工智能数据驱动方法结合起来,发展安全、可信、可靠和可扩展的人工智能技术,从而推动人工智能的创新应用。

 

为此,瑞莱智慧团队一直致力于推动第三代人工智能理论成果的产业转化,打造基于第三代人工智能技术的基础设施平台,加速安全、可靠、可信的产业智能化升级。

 

“安全是最核心的基础能力。”田天对记者表示,当前人工智能技术基于深度学习算法,是个“黑盒子”,存在不可解释等结构性缺陷,将导致被恶意攻击风险。

 

瑞莱智慧工作人员在公司现场向记者演示:正常情况下,当人站在摄像头前,画面中出现一个目标框,会被实时检测出来。但如果在胸前放一件带有特殊花纹的T恤,再次站在摄像头前,目标框就消失了。

 

图片

 

对此,工作人员进一步解释:“这个特殊花纹被称为‘对抗样本’,能够使目标检测算法出错,让识别系统捕捉不到目标。这一漏洞,可能被不法分子用于恶意攻击视频监控、安检闸机等智能设备,躲避追踪、冒充他人。在交通领域,也可能被用于干扰自动驾驶汽车的视觉识别系统,引发安全事故等。”

 

瑞莱智慧工作人员还模拟了一种破解手机人脸解锁系统的场景:通过佩戴一副带有“对抗样本”花纹的眼镜,一台被锁定的手机成功被解锁。“实际上,很多人工智能场景都存在这样的漏洞,如果不及时填补,金融、政务、能源等高价值关键场景将面临极大风险。”田天介绍道。

 

为此,瑞莱智慧研发出人工智能安全平台RealSafe。这是业内首个业务级的人工智能安全平台,可自动化高效评估AI系统安全风险,通过搭载的攻击算法对系统进行模拟攻击,评估系统表现,综合给出安全性评分。之后,用户再通过搭载的防御算法,针对性地进行加固提升,类似于人工智能时代的“杀毒软件”。

 

“安全的本质是攻防不断升级,攻击的目的是为了更好地防御。我们通过先于黑客找到系统漏洞,提前研发防御技术,有效应对新型安全风险。”田天解释道。

 

智能“向善”, 防范技术滥用

 

目前,人工智能在新基建东风下正逐步迈入深度产业融合阶段,但随之带来的算法漏洞、隐私泄露、技术滥用等安全隐患正在加剧。

 

图片

 

“应促使人工智能不断向‘善’的方向进化,完善的人工智能将让每个人更幸福。”田天对记者表示,防范人工智能技术滥用是公司重点关注的方向。

 

“AI换脸”曾风靡一时,被用于非法伪造公众人物肖像吸引流量牟利,甚至是色情宣传、操纵舆论、网络欺诈等违法犯罪行为,成为人工智能技术被滥用的重灾区。为此,瑞莱智慧开发了深度伪造内容检测平台DeepReal,支持快速、精准地对多种格式与质量的图像与视频进行自动化真伪鉴别,可应用于检测图像物证真实性、检测网络内容合规性、打击侵害个人声誉行为、提升人脸识别系统安全性等多个场景。

 

据了解,该项技术已被多地公安机关应用于网络图像与视频内容合规性检测,以打击诈骗、非法虚假宣传。同时,该项技术被中国信通院用于国家级重要科研项目建设,以及检测虚假人脸数据。目前,该平台在主流学术数据集和网络数据集中的检测准确率高达99%以上,产业应用中检测准确率和效率均达业界顶尖水平。

 

瑞莱智慧的成果远不止于此。围绕数据安全问题,瑞莱智慧推出隐私保护计算平台RealSecure。这是一款基于安全多方计算、联邦学习、匿踪查询等技术打造的数据安全共享基础平台,通过打通数据孤岛,将计算环节移动到数据端,实现了数据安全和共享流通。

 

针对建设新型人工智能安全防御体系,瑞莱智慧推出人工智能“安全靶场”RealRange。这是业内首个实战化、体系化的一站式人工智能攻防演练平台,通过预设训练场景模型、对抗攻防实战竞演,帮助政企实现精准挖掘薄弱环节、验证攻防能力、敏捷迭代防御体系等全方位能力。

 

截至目前,瑞莱智慧已经在政务、金融、能源、制造、互联网等领域落地,为近百家企业机构提供产品服务。

 

“智能向善,是我们的使命所在。”谈到公司愿景,田天坦言,公司在成立之初,即围绕人工智能产业链的基础数据、算法技术、应用产品三方面布局安全能力,推动人工智能向着对社会有益的方向稳健发展,这一点一直没有改变。不过,他同时认为,新技术的影响往往具有两面性,人工智能的创新发展与安全治理必须同步进行。

 

来源:《法人》杂志