张嘴、摇头，摄像头在捕捉到观众的动作后，屏幕上原本静态的人像瞬间“动”了起来，动作幅度和真人完全一致，还能眨眼和露齿微笑，仿真度很高；甚至观众拍完一张照片后，几分钟内就能生成一段视频，将观众的脸自动替换掉某影视剧中知名演员的脸。
11月8日，2022“互联网之光”博览会正式开幕，北京瑞莱智慧科技有限公司演示的“换脸术”吸引众多观众驻足围观。
瑞莱智慧展台
瑞莱智慧RealAI技术专家介绍道，这背后采用的是深度合成技术，利用深度学习、虚拟现实等生成合成类算法，制作图像、音频、视频等信息。深度合成技术能够升级传统内容制作方法，提升内容制作效率和质量，为诸如虚拟IP的打造和运营、影视剧的本地化配音、数字替身等新场景的应用提供了技术支撑。
但这项技术却存在着安全隐患。RealAI技术专家表示，深度合成技术大大降低了信息造假的难度，只需要拿到一张照片，就能生成非常逼真的伪造视频，用于捏造虚假信息、影视资料造假、恶搞特定人物等。随着技术开源、标准化工具的推出，制作一段虚假内容的门槛越来越低，因此近年网络社交平台上虚假视频的数量呈高速增长。而且随着技术的不断成熟，合成视频在清晰度、流畅度、逼真度等各方面都有大幅提升，真假难辨的背后更是危害性的不断增强。
更需要警惕的是，这项技术还被黑产分子用于新型诈骗。RealAI工作人员现场演示了黑客如何利用“AI换脸”破解线上银行的人脸核验系统，通过表情操纵让照片做出“张嘴、眨眼、摇头”等指令性动作，再让智能设备不启动摄像头，直接底层注入合成的动态人脸视频，绕过活体检测，顺利破解人脸识别。据了解，这一方式被不法分子广泛用于盗刷银行卡、非法办理手机卡等诈骗场景。除了欺骗机器外，还可以通过伪造电话语音、视频通话画面等欺骗真人，引诱转账、实施敲诈等。
瑞莱智慧展台
为了避免大规模的技术滥用，RealAI推出的深度伪造内容检测平台DeepReal，通过辨识伪造内容和真实内容的表征差异性、挖掘不同生成途径的深度伪造内容一致性特征，能够快速、精准地对图像、视频、音频内容进行真伪鉴别，有效打击财产诈骗、虚假宣传、证据造假等违法行为。据了解，DeepReal平台基于千万级训练数据，能够实现毫秒级检测速率，每帧画面检测时间仅需30毫秒，同时在主流数据集检测准确率达99%以上，在实际产业中检测准确率也达到业界顶尖水平。
据悉，在由网信办、工信部、公安部等联合主办的中国人工智能大赛中，RealAI在深度伪造视频检测赛题连续两年获得最高奖项，在世界顶级黑客竞赛极棒大赛中也连续多届荣获虚假人脸识别赛题的冠军。目前，RealAI已与多家单位机构开展合作，实现在网络虚假内容甄别、人脸资料审核、影像物证真实性检验等场景的落地应用，实现对真伪内容的高效鉴别。
深度合成技术的加速应用已成为现实趋势。作为安全可控人工智能领域的先行者，RealAI在积极探索创新应用的同时，聚焦技术滥用风险，利用技术创新、技术对抗等方式，持续提升和迭代深度合成检测能力，致力于推动深度合成技术的健康发展。据介绍，RealAI未来还将进一步扩展深度合成溯源、深度合成鉴定等方面的能力，全面提升技术应对能力。
创立于2018年的RealAI，依托清华大学人工智能研究院发起设立，由清华大学人工智能研究院名誉院长张钹院士和基础理论研究中心主任朱军教授共同担纲首席科学家，清华大学特等奖学金、吴文俊人工智能优秀青年奖获得者田天博士任首席执行官。
RealAI是国内首家致力于安全、可信、可靠、可扩展的第三代人工智能技术的团队，提供人脸识别系统安全、自动驾驶系统安全、深度合成和伪造检测、隐私保护计算、AI攻防靶场等产品服务，目前已广泛落地政务、金融、能源、制造、互联网等领域。
RealAI在安全可控人工智能领域深耕多年，拥有深厚的技术积累与产业实践。据悉，团队曾在国际测评和竞赛中多次斩获冠军，发表顶会期刊论文百余篇，累计获得各项知识产权近500项，其中授权发明专利80余项，并参与20余项国际、国家及行业标准制定。2021年9月世界互联网大会期间，RealAI自主研发的“安全可靠可控的新一代人工智能平台”入选全球领先科技成果，与华为、阿里巴巴、安谋科技等顶尖科技企业同台，成为该奖项设立以来首个入选的创业项目。
