近年来，“AI生成内容”呈现出愈演愈烈之势，从最早的Deepfake伪造色情视频，到现在逐渐渗透到政治、媒体等多个领域，甚至还威胁到了今年的美国总统大选，在技术普及的背后，人们也担心其在个人隐私、信息安全、政治影响等方面的巨大隐患。如何有效的治理和预防Deepfake等技术的滥用，也正成为企业、机构和政府亟待解决的重要课题。
针对AI生成内容的滥用现状，全球领先的AI技术研发及应用方案服务商RealAI瑞莱智慧推出了AI伪造检测平台——DeepReal，并于近日完成新一轮服务及算法升级，在原有快速精准识别伪造图像及视频的功能基础上，新增批量导入、输出检测报告等功能，同时推出了开箱即用的一体机产品，检测范围及防御对抗能力也大大提高，可有效用于人眼难以辨别的高逼真造假内容的鉴别和管理。
1
增长率超330%，Deepfake造假何时休？
随着技术的普及和网络监管的欠缺，Deepfake造假内容在这两年迎来野蛮生长。据安全分析公司Sensity最新结果显示，
Sensity 关于Deepfake造假品的数量统计
自2018年12月以来，Deepfake在线造假品的数量大约每六个月翻一番。截至今年6月，造假视频已多达49081个，比2019年7月增长了330％以上。并且随着技术的发展，伪造的内容从“粗制滥造”发展为高清场景下的人眼难辨的逼真效果，图像和视频合成不断取得惊人的进步。
低逼真度的图像样例
高逼真度的图像样例
从应用上来说，Deepfake主要是对人脸进行篡改和重新编辑，包括表情修改、换脸、换口型、合成新人脸四种模式。其中，换脸和对口型是Deepfake最主要的应用模式，其破坏性和杀伤力也最强。如篡改政客公开演讲以及伪造色情视频。
加之相关技术本身的准入门槛较低，造假者无需深入了解这些修改模式的背后原理，仅凭开源软件便可轻松制造虚假内容。如DeepFaceLab之类的工具，任何人都可以拍摄一张图片或视频，并替换或操纵人脸。猎奇的玩法、技术的成熟以及利益的驱动，这也造成了现在虚假视频内容泛滥的现状。
在此背景下，RealAI瑞莱智慧凭借脱胎于清华大学人工智能研究院技术优势和多年关于伪造内容的治理经验，于2019年建立了AI伪造检测平台DeepReal。该平台基于多特征融合和多任务学习的、具备防御对抗数据攻击能力的伪造识别算法，能快速精准识别Deepfake等伪造视频和图片，检测准确率超过99%，能有效打击诈骗、色情黑产、虚假宣传、攻击人脸识别系统等违法犯罪行为。
2
精准识别AI伪造内容，DeepReal迎来新一轮升级
近日，DeepReal迎来新一轮迭代升级。RealAI的研发团队在原有平台架构上着重对性能服务和技术算法进行了进一步优化提高，使其在检测能力、计算效率、场景适用性方面都大大增强。
DeepReal平台检测界面
服务方面，DeepReal新上线了可视化的检测平台，可支持用户批量导入图像与视频，快速、准确地对图像、视频进行分析，并输出检测报告；同时，考虑到平台的应用落地，公司还研制了深度伪造图像与视频检测一体机，可根据业务场景选择不同的适配方案，减少部署、二次开发等流程，实现开箱即用，并保证最优的计算效率。
算法方面，平台检测能力也大大加强，检测范围覆盖更多的深伪生成方法生成的数据，包括人脸替换、表情编辑、全脸合成等多种伪造方式，保障对人眼难辨的高逼真数据的高检出率；并具备防御对抗样本攻击的能力，在伪造图像与视频经过对抗样本包装的情况下，仍然具有极高的检出效率，单张图片和每秒视频的检测耗时均在毫秒级别，属于行业检测头部水平。
值得一提的是，此前该研发团队还凭借DeepReal的技术优势，在 GeekPwn 首届虚假人脸 AI 识别大赛中以绝对优势夺冠。
此外，RealAI还在AI深度合成技术领域发表十余篇顶会论文，包括ICLR、NeurIPS、MM、ICML等，技术水平在国际上处于领先地位。
3
技术中性，深度合成的商业落地
科技的每一次突破，都可能带来意想不到的“副产品”。就如同爱因斯坦发现了质能方程式之后，即使再不情愿，他也无法阻止原子弹的出现和使用。
技术从来都是中性的，AI也是如此。以Deepfake技术所引发的AI换脸的色情视频泛滥来说，AI技术被应用于色情产业几乎是一件“必然如此”的过程。一方面，现代色情产业一直都是最新科学技术应用的急先锋，另一方面，AI在图像内容生成技术的发展正好迎来了突破临界点。Deepfake的兴起只是为“AI生成内容”技术的发展起到推波助澜的作用而已。
目前，RealAI瑞莱智慧正积极探索“深度合成”技术在商业化方面的应用案例。比如在技术特征较为适配的影视后期制作领域，RealAI现已建立了一整套服务于影视、综艺、营销、社交的正向应用解决方案，可节省大量人力成本及制作成本。该产品方案于不久前亮相第六届中国电视大会，受到与会电视及媒体行业的广泛关注。
此外，在金融、工业、公共服务等领域，公司也先后同多家企业、科研院所、政府机构达成合作，建立了多套AI产品解决方案。
谈及 DeepReal成立的初衷时，RealAI表示，AI技术是一把锋利的双刃剑，我们在享受其带来的便利生活和精神享受的同时，也需承受“虚假内容”所带来的长期社会风险。如果不对AI生成的虚假内容加以管理和制止，其将会进一步冲毁互联网世界的真实性边界。DeepReal从成立起便是想以技术手段来对深度合成的内容进行鉴别和区分，用魔法打败魔法，来锁住“虚假内容”的恶龙，在全面迎来数字化世界的今天，为大众建立一面互联网时代的“照妖镜”，助力营造真实安全的网络环境。
欢迎扫码体验
