7月9日，2021世界人工智能大会期间，由中国信通院承办的“可信AI论坛”在上海浦东世博中心召开。本次论坛以“AI向善，全球共治”为主题，邀请了国内外科学院院士、工程院院士及国内一线知名公司首席AI科学家等40余位AI学术大牛和产业大咖共聚一堂，就可信AI的理论研究、产业探索等议题进行研讨，中国信通院院长、世界人工智能大会主席团成员余晓晖担纲论坛开幕式主持，上海市经济和信息化委员会主任吴金城、工业和信息化部科技司技术处处长徐鹏、联合国人类住区规划署中国项目主任张振山分别为论坛开幕式致辞。
瑞莱智慧RealAI作为安全可控人工智能领域的引领者，受邀出席本次大会，高级副总裁朱萌为大会作题为“融合AI安全，共创产业智能发展”的主题报告。
人工智能产业步入纵深面临安全困境
人工智能作为引领未来的战略性技术，已经成为新一轮科技革命和产业变革的核心驱动力，正在对经济、社会和人民生活进行重塑，但目前人工智能也面临着“信任危机”，其背后是安全问题的存在，比如大数据杀熟、人脸识别滥用等。
朱萌在发言中指出，当前的人工智能面临“数据、算法、应用”三方面的安全困境，暴露出来的问题只是冰山一角，深层次的安全问题更需要被重视。比如第一二代人工智能存在天然的算法漏洞和缺陷，存在被恶意攻击的风险。伴随人工智能进入高质量发展的新阶段，安全问题的存在将难以支撑人工智能产业的长久高质量发展，需加快建设新一代人工智能，确保人工智能安全、可靠、可控。
朱萌也重点指出了人工智能的应用不可控问题，她表示，人工智能作为新兴技术，其应用过程存在两面性，在带来巨大经济潜力和社会影响的同时，也可能使用不当带来更多的风险和隐患，对社会治理提出了新的挑战，其中深度伪造技术的滥用就是当前亟待解决的核心安全问题。
深伪治理需配合有效的技术防范手段
目前，以AI换脸为代表的深伪技术在网络兴起，由于深伪技术只需要少量的人脸照片便可以实现视频换脸，一些恶意用户利用互联网上可获取的数据，生成众多的假视频并应用在灰色地带，如将色情电影的女主角替换成女明星，给政客、公司高管等有影响力的人伪造一些视频内容,从而达到误导舆论、赢得选举、操纵股价等目的。
朱萌表示，深度伪造技术的大规模滥用将危害到公众个人与社会的合法权益，甚至会危害到国家安全，为此开展深伪治理工作迫在眉睫。虽然针对深伪内容的技术检测工作已经取得了一定的成果，但目前该领域的研究依然存在诸多关键问题尚待解决。同时，造假算法不断丰富，越发逼真，会让此类深度伪造的鉴别工作越来越困难，在此背景下，RealAI在本届世界人工智能大会上正式发布了一款深度伪造内容检测平台DeepReal。
朱萌在发言中介绍道，该平台具备工业级检测性能，能够快速、精准地对多种格式与质量的图像进行真伪鉴别，实现输出判断结果、生成检测图像、提供检测报告等功能。朱萌介绍道，该平台利用百万级实网深度伪造检测集，误检率低、检出率高，可以快速应对新型伪造，支持横向扩展与集群部署，检测准确度和检测效率均达到业内顶尖水平。
除了提供技术检测能力，朱萌也表示，针对深度伪造的风险治理，需要从监管到研究再到落地实战进行全方位的治理。因此，RealAI积极与监管部门、科研机构、实战部门等进行合作，推动技术规范与标准的制定，与工信部、公安部、国家互联网应急中心、工信安全中心、中国信通院等机构开展深入的产品和项目合作，共建深度伪造治理生态。据介绍，RealAI与国家工信安全中心联合制定了我国人脸模型算法自身安全相关的第一个标准《信息安全技术人脸比对模型安全技术规范 》，作为第二编写单位与信通院在工信部网安局指导下联合编制了《人工智能安全框架（2020年）》蓝皮书。
作为国内第三代人工智能的践行者，RealAI也围绕数据安全、算法可靠、应用可控构建了全栈产品矩阵，研发了隐私保护机器学习平台、可解释机器建模学习平台、人工智能安全平台等多款基础设施平台，为确保人工智能安全可控发展提供保障。
在安全可控的助力下，“深度智能”时代正在加速到来，人工智能在各行业领域的应用广度和深度将不断得到拓展。朱萌表示，RealAI将深耕安全可控人工智能方向，推动人工智能突破安全瓶颈，与各行业领域需求深度融合，挖掘深层次应用潜力，真正推动产业智能发展。
