近年来，深度合成技术在社交、影视、广告、医疗、教育、科研等诸多领域不断深化应用，展现出较大的技术价值和商用潜力。同时，其“双刃剑”效果明显，在增加社会福祉的同时也带来一系列风险挑战。
近年来，人工智能各项技术飞速发展，应用更加普及多元。其中，深度合成技术作为人工智能领域的创新应用技术，以其较低的应用门槛、较强的娱乐属性、丰富的应用场景受到广泛关注。特别是在互联网信息服务领域，深度合成技术丰富了网络内容形式，进一步释放新技术新应用发展活力。但是，部分深度合成技术应用缺乏规范，对国家安全、社会稳定和公民合法权益带来风险挑战。党的二十大报告强调，“健全网络综合治理体系，推动形成良好网络生态”。《法治社会建设实施纲要（2020-2025年）》明确要求，要制定完善算法推荐、深度伪造等新技术应用的规范管理办法。为规范深度合成服务，国家互联网信息办公室、工业和信息化部、公安部联合发布《互联网信息服务深度合成管理规定》（以下简称《规定》）。《规定》通过系统性、创新性制度设计，首次回应了对深度合成服务的管理要求，为互联网信息服务深度合成的规范发展提供了基本遵循和合法依据。
一、坚持系统观念，完善互联网信息服务法律体系
《规定》积极落实党的二十大报告关于立法系统性、整体性、协同性、时效性的要求，对互联网信息服务深度合成作出了科学全面的制度规范。一方面，《规定》有效衔接了相关法律法规。在《网络安全法》《数据安全法》《个人信息保护法》《互联网信息服务管理办法》等上位法框架下，《规定》有效承接了《网络信息内容生态治理规定》《网络音视频信息服务管理规定》《互联网信息服务算法推荐管理规定》等规章、规范性文件中关于网络信息内容管理、新技术新应用安全评估、显著标识、备案管理等制度规定，对深度合成服务管理机制、主体责任等作出了衔接性制度安排。另一方面，《规定》构建了统筹协调、多方参与的监管体制。《规定》明确，国家网信部门负责统筹协调全国深度合成服务的治理和监督管理工作，国务院电信主管部门、公安部门依据各自职责负责深度合成服务的监督管理工作。地方网信部门负责统筹协调本行政区域内深度合成服务的治理和监督管理工作，地方电信主管部门、公安部门依据各自职责负责本行政区域内深度合成服务的监督管理工作。《规定》还鼓励相关行业加强行业自律，搭建齐抓共管、协同共治的治理机制。《规定》的出台，全面贯彻落实了党中央关于网络综合治理的最新要求，通过系统化的制度安排进一步构建完善了我国网络综合治理法治体系。
二、坚持问题导向，精准破解深度合成治理难题
近年来，深度合成技术在社交、影视、广告、医疗、教育、科研等诸多领域不断深化应用，展现出较大的技术价值和商用潜力。同时，其“双刃剑”效果明显，在增加社会福祉的同时也带来一系列风险挑战。一是深度合成技术被用于非法目的，侵犯个人合法权益。如有案例反映诈骗分子利用深度合成技术冒充公司高管的声音，诈骗该公司另一名高管巨额款项，给个人财产权益造成了重大损失。二是深度合成虚假内容引发信任危机，影响社会稳定。利用深度合成技术形成的新闻信息本身真实性、客观性难以保障，更有不法分子利用深度合成技术发布虚假新闻、散布谣言等，造成错误舆论导向，影响社会稳定。三是深度合成技术可能被敌对势力恶意利用，威胁国家安全。国外已出现多起利用深度合成技术伪造政治人物、公众人物音频和视频的情形，不仅影响国内政治稳定，还可能会引发国家间的危机冲突。
《规定》聚焦深度合成服务中存在的主要风险隐患进行针对性制度设计。一是明确深度合成服务不得用于非法目的。禁止任何个人和组织利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息，或从事危害国家利益、社会公共利益或个人合法权益等违法活动。禁止深度合成服务提供者和使用者利用深度合成服务制作、复制、发布、传播虚假新闻信息。二是强化对个人合法权益的保护。《规定》强调深度合成服务提供者和技术支持者应当强化个人信息保护，提供人脸、人声等生物识别信息编辑功能的，须提示使用者依法取得个人单独同意。防止个人信息被非法利用，侵害个人合法权益。三是对深度合成服务提供者提出安全管理要求。《规定》要求深度合成服务提供者进行用户真实身份认证，建立信息发布审核、反电信网络诈骗等管理制度。《规定》通过相关制度设计，科学精准地回应了深度合成服务应用发展对国家、社会及个人带来的风险挑战，为促进新技术新应用的规范发展提供了有益范例。
三、坚持规范发展，促进深度合成技术向上向善
随着深度合成技术不断优化发展，其开发应用的空间将更为广阔。近几年，深度合成信息内容制作和传播数量高速增长。同时，在“元宇宙”等新模式新场景下，深度合成技术将为智能化、视觉化、场景化、虚拟化的互联网信息服务发展提供更多技术实现方案。《规定》坚持统筹发展和安全，以促进技术在规范中发展为价值取向，在明确“红线”的同时为技术发展留足空间。一是对深度合成服务明确技术向善要求。《规定》要求提供深度合成服务应当尊重社会公德和伦理道德，坚持正确政治方向、舆论导向、价值取向，促进深度合成服务向上向善。同时要求深度合成服务提供者应当建立算法机制机理审核、科技伦理审查等管理制度。二是以技术手段保障深度合成内容可溯源。《规定》要求深度合成服务提供者通过有效技术措施对使用其服务所制作的信息内容添加标识，保证深度合成信息内容可识别、可追溯。三是区分场景规定差异化管理要求。《规定》要求深度合成服务提供者对其生成或编辑的信息内容添加不影响用户使用的标识，但对于可能导致公众混淆或误认的深度合成信息内容应当进行显著标识。同时，要求具有舆论属性或者社会动员能力的深度合成服务提供者和技术支持者履行备案义务。《规定》基于不同的应用场景对深度合成服务进行区分管理，在实现监管目的的同时也为技术发展提供了有效保障。
四、坚持底线原则，压实深度合成服务相关主体责任
深度合成服务提供者和技术支持者，既是新技术新应用的创造者、受益者，也应是控制技术风险、引导技术向善的责任践行者。《规定》围绕明确各方责任义务进行了系统性制度设计。一方面，明确深度合成服务提供者的主体责任。《规定》要求深度合成服务提供者建立健全算法机制机理审核、信息内容管理、从业人员教育培训等管理制度，具备安全可控的技术保障措施。制定并公开管理规则和平台公约，并提示深度合成服务技术支持者和使用者承担信息安全义务。加强内容管理，采取技术或者人工方式对输入数据和合成结果进行审核，并建立健全相关特征库。加强技术管理，定期审核、评估、验证算法机制机理。提供具有对人脸、人声等生物识别信息或者可能涉及国家安全、国家形象、国家利益和社会公共利益的特殊物体、场景等非生物识别信息编辑功能的模型、模板等工具的，应当开展安全评估。加强训练数据管理，采取必要措施保障数据和个人信息安全。另一方面，明确深度合成服务技术支持者等主体的责任义务。《规定》要求深度合成服务技术支持者应承担训练数据管理、算法机制机理审核、安全评估等义务。应用程序分发平台应落实上架审核、日常管理、应急处置等安全管理责任。
五、坚持守正创新，贡献深度合成服务治理中国智慧
习近平总书记指出：“要深度参与全球科技治理，贡献中国智慧，塑造科技向善的文化理念，让科技更好增进人类福祉，让中国科技为推动构建人类命运共同体作出更大贡献！”近年来，我国加快推进新技术新应用创新发展，并对技术发展过程中带来的挑战及时回应，针对区块链信息服务、互联网信息服务算法推荐活动、汽车数据安全管理等技术发展的新兴领域加速出台相关立法，为保障数字经济高质量发展、提升我国数字治理能力提供了法治保障。
针对深度合成技术带来的颠覆性风险挑战，多个国家和地区不断探索深度合成服务的治理路径。美国从联邦和州层面推出立法提案，欧盟将深度合成涉及的个人数据保护问题纳入《通用数据保护条例》（GDPR）的规制框架，德国、英国、新加坡、韩国等国将深度合成相关犯罪纳入刑法范畴，但尚未有国家出台规范深度合成服务的专门立法。《规定》立足我国发展实践，充分发挥法治固根本、稳预期、利长远的保障作用，率先通过体系化制度安排，构建深度合成服务治理机制，塑造科技向善的治理理念，提供了保护与发展并行的中国方案。
（作者：王志勤，中国信息通信研究院副院长）