近日，《生成式人工智能服务管理暂行办法》发布并于2023年8月15日正式实施，现对其意义地位、导向调性和核心要点等予以解读。
近日，国家网信办会同发改委、教育部、科技部、工信部、公安部、广电总局联合印发《生成式人工智能服务管理暂行办法》(以下简称《办法》)，旨在促进生成式人工智能健康发展和规范应用，维护国家安全、社会公共利益，保护公民、法人和其他组织合法权益。《办法》于2023年8月15日正式实施，现对这部法规的意义地位、导向调性和核心要点等予以解读。
一、意义地位：新兴技术领域统筹发展与治理的有益探索
全球首部。自去年底，以大语言模型为代表的生成式人工智能，推动信息社会形成新一轮科技革命和产业变革。人工智能技术快速进步，向前划出两个空白空间:一是应用空白，需考虑如何尽快转化成为千行百业的现实生产力；二是监管空白，需考虑如何防范技术自身及滥用形成的新型风险。在此背景下，《暂行办法》作为全球首部面向生成式人工智能的法律法规，在新兴技术领域如何统筹做好发展与治理方面形成一次有益探索。
与时俱进。作为新兴技术，生成式人工智能的应用实践与治理模式具有很强的不可预知性，《办法》相较征求意见稿，增加了“暂行”字样，体现实事求是、与时俱进的立法精神。
二、导向调性：明确以包容审慎监管促进安全健康发展
明确包容审慎监管。《办法》总体提出要“坚持发展和安全并重、促进创新和依法治理相结合”原则，并写入“实行包容审慎和分类分级监管”，明确了对生成式人工智能的监管符合中央《法治中国建设规划(2020－2025年)》中提出的“探索包容审慎监管等新型监管方式”精神。具体举措上，《办法》在适用范围中明确提出行业组织、企业、科研机构等研发应用生成式人工智能技术，未向境内公众提供服务的，不适用办法规定。法律法规中明确写入不适用范围条款，在我国整个立法领域也是较为罕见。
明确促进发展应用。《办法》提出，“采取有效措施鼓励生成式人工智能创新发展”。具体举措上，一是鼓励生成式人工智能技术在各行业各领域创新应用和基础技术自主创新，二是支持各行业主体开展协作和资源共享、平等互利开展国际交流合作等。
三、核心要点：抓住高质量发展关键环节提出务实举措
(一)高质量训练数据集成为重中之重
《办法》对用于生成式人工智能预训练、优化训练的数据集质量予以高度重视。要求数据集具有合法来源，保障真实性、准确性、客观性和多样性，并提高数据标注质量。具体举措上，将推动生成式人工智能公共训练数据资源平台建设，支持公共数据分类分级有序开放；开展数据标注质量评估，抽样核验标注内容准确性等。分析认为，当前生成式人工智能仍以深度学习为主要技术范式，训练数据集质量决定了生成内容的真实性、客观性和多样性。《办法》突出数据集重要性，将给用于大模型训练的相关数据产业链(价值观数据集、专业领域数据集)提供发展空间。
(二)依法开展生成式人工智能算法备案工作
《办法》对算法的关注集中在两个维度：一是防止歧视，要求算法设计“采取有效措施防止产生民族、信仰、国别、地域、性别、年龄、职业、健康等歧视”。二是市场秩序，要求不得利用算法优势“实施垄断和不正当竞争行为”。具体举措上，具有舆论属性或社会动员能力的生成式人工智能服务算法，应当按照算法管理规定履行备案。根据《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》的相关解释，具有舆论属性或社会动员能力的互联网信息服务通常指开办论坛、博客、公众账号、短视频、聊天室等信息服务。
(三)多措并举保障生成式人工智能内容安全
生成式人工智能依托生成内容(包括文本、图像、视频、语音等)与人类交互，这些内容是否造成舆论、心理、认知等多个维度的不良影响，决定了生成式人工智能是否在人类活动参与中发挥积极作用。因此，内容安全是生成式人工智能的安全红线。《办法》从多个维度提出要求，多措并举保障生成式人工智能内容安全。具体举措上，要求模型输出坚持社会主义核心价值观、提升生成内容的准确性和可靠性、对图片视频等生成内容进行标识、及时采取停止生成传输与消除等处置措施、模型优化训练整改等。
此外，《办法》要求具有舆论属性或社会动员能力的生成式人工智能服务，应当按照相关规定开展安全评估。但根据《办法》适用范围限定，未面向境内公众提供服务的生成式人工智能不适用本法，也即无需按照《办法》要求开展安全评估。
(四)注重隐私安全、知识产权与模型性能
《办法》对如下三方面同样予以重点关注，并提出相应管理举措。一是注重隐私信息保护，包括延续上位法《个人信息保护法》中“个人同意”以及赋予个人查、复、更、补、删等权利的规定。同时结合生成式人工智能运行特点，要求对使用者的输入信息、使用记录等履行保护义务。二是注重知识产权保护，《办法》特别强调，训练数据涉及知识产权的，不得侵害他人依法享有的知识产权。分析认为，从生成式人工智能运行原理看，生成内容是否具有“可版权性”、生成内容与版权内容近似是否涉及侵权等，目前仍是业内正在商讨的命题。三是注重模型服务性能，《办法》提出服务提供者要提供安全、稳定、持续服务，保障用户正常使用。分析认为，生成式人工智能呈现赋能千行百业态势，一旦融入工业产线，其性能直接决定此轮产业变革的升级质量。对生成式人工智能开展性能评测并提供权威参考，也是各行业领域应用人工智能大模型的刚性需求。
撰稿人：张伟强 于慧敏