6月14日起，国内首档原创代码竞技节目《燃烧吧！天才程序员2·可信AI》在全网上线播出。该节目基于第二届ATEC科技精英赛录制，赛事由清华大学、上海交大、浙江大学、蚂蚁集团联合主办，多所知名高校协办，探索如何利用可信AI技术助力反诈。
清华大学计算机系教授、清华大学人工智能研究院基础理论研究中心主任、瑞莱智慧RealAI首席科学家朱军，受邀加入节目“科技观察团”。关于“可信AI”，脱口秀演员呼兰在先导片中问了几个大家广为关心的问题，朱军老师这样回答……
呼兰：有网友认为，AI的发展会挤兑甚至最终取代人类的位置，失业就会越来越多。您怎么看？
朱军：人工智能的发展，必然会提高生产力。所以在一些行业里面，AI会在某种意义上替代人，解放过去大家重复的劳动，但同时也会创造出更多新的行业。
呼兰：还有一些网友说，AI不具备善恶的观念，当它的智慧发展超过人类时，就会成为一个没有感情的杀戮机器，反过来统治人类指日可待。其实大家担心的就是，如果任由AI发展下去，它会不会失控？
朱军：从技术上来说的话，目前的AI可能还远没达到所谓的“作恶”或者是“杀戮”，或者是毁灭人类的程度。短期来看的话，不用特别担心AI对我们造成一些特别负面的影响。
呼兰：还有网友说，自己倒不是很担心AI毁灭人类，但是对于AI技术的安全性其实是有疑惑的。比如说，最近有一个非常热议的网剧叫《猎罪图鉴》，里面就有犯罪分子利用“AI换脸”技术诈骗老年人。这位网友担心，如果AI不可信的话，会怎么样？如何让AI更靠谱？
朱军：“可信”本质上叫Trustworthy（值得信赖的），也就是说智能技术本身是不是能够被使用者或设计者所相信。当然，这个“可信”也体现在“可解释性”方面，因为技术它最终是要去服务人类，所以对于使用者来说，不光要理解它里面的一些基础原理，另外还要知道它从输入到输出的一个过程。“可信”还包括使用环境变化之后算法还是不是可靠、数据集中是不是有Bias（偏见）等等。以上，都是“可信AI”的各个方面。
观看节目请复制链接至浏览器：https://www.bilibili.com/bangumi/play/ep516159?from_spmid=666.25.episode.0
可信AI——未来产业高地
“可信AI”已成为人工智能领域最为热门的话题之一。
与人类所创造的任何一项技术一样，人工智能在“高歌猛进”的同时，也不可避免地带来了一些风险和新问题，让大众产生疑惧。例如，自动驾驶事故频发、人脸识别数据泄露、AI换脸恶意使用致使名誉财产损失等。
在“信任危机”的笼罩之下，“可信”已成为人工智能稳健发展的主要抓手，也将逐步成为行业规范化、技术商业化的关键助推器，“可信AI”亦将成为产业未来高地。
瑞莱智慧RealAI正是向这一未来高地进发的中坚力量，早在创立之初，就已在数据可用、算法可靠、应用可控等关键处精准落子，深度布局可信AI。
RealAI：构建安全可靠可控AI基础设施
2018年7月，清华大学人工智能研究院官网发起设立瑞莱智慧并定名“RealAI”，即志在探寻“真正的人工智能”之意，且每个字母都蕴含深意，“r”意为“可靠（r-obust）”，“e”为“可扩展（e-xtendable）”，“a”为“可信（a-ssurable）”，“l”为“落地（l-andable）”，也可以说“可信”是RealAI最为重要的企业基因之一。
多年来，RealAI深耕“算法可靠”，在对抗样本防御等研究中有着深厚的积累，核心团队成员在顶级会议期刊发表论文数十余篇，提出多种代表性的深度学习对抗攻防算法，被主流开源软件收录为标准方法。
在数据安全和隐私保护领域，RealAI也提出了诸多原创算法。在防止人工智能滥用方向，RealAI也在深度伪造鉴别领域独创了多特征融合和多任务学习的、具备防御对抗数据攻击能力的伪造识别算法，能快速精准识别深度伪造视频和图片。
“可信AI”技术的不断创新和突破，还要靠产品来落地以实现价值。
基于第三代人工智能技术路线和底层技术研究，RealAI研发出了国际领先的“安全可靠可控的新一代人工智能平台”。该平台集合了多款人工智能安全产品，在算法可靠、数据可用以及应用可控等方向上均有世界领先技术和独创功能，从根本上增强了人工智能的安全性、可靠性及可控性，让人工智能更可信。
安全可靠可控的新一代人工智能平台
目前，“安全可靠可控的新一代人工智能平台”已在政务、金融、能源等高价值场景中发挥了重大作用，成为AI纵深赋能的坚实基座。
未来，RealAI还将始终以构建安全、可靠、可控的人工智能基础设施，为“可信AI”提供科技支撑，让AI向“善”进化。
