作者：金茂律师事务所  万波 律师  王书玥 律师助理 

一、引言

近日，国家互联网信息办公室近日联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局公布了《生成式人工智能服务管理暂行办法》（以下简称《办法》），《办法》将自2023年8月15日起施行。

网信办有关负责人表示，《办法》的出台背景，是出于促进生成式人工智能健康发展的迫切需求，旨在明确促进生成式人工智能技术发展的具体措施，规定生成式人工智能服务的基本规范，进一步规范数据处理等活动，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益。

二、AIGC的概念与现状

那么什么是“生成式人工智能”？根据中国科学院自动化研究所研究员的解释，生成式人工智能（AIGC，Artificial Intelligence Generated Content），是指基于生成对抗网络、大型预训练模型等人工智能的技术方法，通过已有数据的学习和识别，以适当的泛化能力生成相关内容的技术。AIGC技术的核心思想是利用人工智能算法生成具有一定创意和质量的内容。通过训练模型和大量数据的学习，AIGC可以根据输入的条件或指导，生成与之相关的内容。例如，通过输入关键词、描述或样本，AIGC可以生成与之相匹配的文章、图像、音频等 。与之类似，《办法》中所称生成式人工智能技术，是指具有文本、图片、音频、视频等内容生成能力的模型及相关技术。

目前国内的AIGC技术的应用领域主要集中在营销、办公、客服、人力资源、基础作业等。举一个最简单的例子，我们在致电各种物流客服热线、电商平台客服热线时，不难发现以往的人工客服大部分已经被AI所取代，它会根据你描述的关键词判断你所需要的服务内容、类别，并作出相应的回答。

而近年来风靡全球的ChatGPT，在为人们减轻部分工作负担的同时，也逐渐显现出令人堪忧的一面，其发布虚假信息、作出误导性陈述、侵犯个人隐私等等问题层出不穷。例如今年6月，纽约律师史蒂文·施瓦茨在诉讼中利用ChatGPT协助查找撰写资料，收集已往发生的类似案件作为论点，但ChatGPT生成了根本不存在的案件，导致其提交的案例属于虚假的司法判决，法官也表示该律师有可能面临处罚。美国联邦贸易委员会（FTC）也在7月份宣布正式调查ChatGPT，重点是ChatGPT是否因发布虚假信息，伤害到相关个人，ChatGPT也在近期因为泄露隐私之类的问题被人起诉。

当下，一些不法分子利用AIGC技术进行换脸以冒充熟人诈骗，生成一些种族歧视言论、性别歧视言论，或者制作发布假新闻混淆视听或赚取流量等等。诸如此类的滥用现象频发，由此，AIGC的发展与应用亟待法律规范。

三、《办法》规范的重点

1、原则与技术层面

AIGC的关键技术之一就是数据，包括各种用户数据、公开域数据等多种来源，AIGC的输出结果容易受到输入数据得影响。以AI绘画为例，在训练AI的过程中需要向其提供一些画师的现有作品，以使得AI画出的绘画作品能够与一些精美作品的风格比肩，但在这一过程中就可能侵犯到画师的知识产权。

为此，《办法》在第四条中明确要求：提供和使用生成式人工智能服务，应使用具有合法来源的数据和基础模型，涉及个人信息的应当取得个人同意或者属于不需要取得同意的情形，不得侵害他人肖像权、名誉权、荣誉权、隐私权等，并且禁止生成民族、性别、职业等歧视性内容。

针对了目前AIGC易生成虚假信息的痛点，《办法》明确要求提高生成内容的准确性和可靠性。

在产业发展方面，《办法》鼓励生成式人工智能算法、框架、芯片及配套软件平台等基础技术的自主创新，平等互利开展国际交流与合作。为了防止无序发展，要求推动相关基础设施和公共训练数据资源平台建设，促进算力资源协同共享，提升算力资源利用效能，鼓励采用安全可信的芯片、软件、工具、算力和数据资源。

2、服务层面

正如前文提到，ChatGPT的开发公司OpenAI正面临诸多用户的起诉索赔，起诉者认为ChatGPT泄露了个人隐私。针对AIGC服务提供者的责任问题，《办法》在第九条明确其应依法承担网络信息内容生产者责任，履行网络信息安全义务、个人信息保护义务。同时，服务提供者应当对使用者的输入信息和使用记录依法履行保护义务，如果发现使用者从事违法活动，应当及时采取消除、停止生成等处置措施，保存有关记录，并向有关主管部门报告。

3、监管层面

由于AIGC的应用领域众多，《办法》列举了各领域现有的监管部门，如网信、发展改革、教育、科技、工业和信息化、公安、广播电视、新闻出版等作为相应领域内AIGC服务的管理部门。同时，要求国家有关主管部门制定相应的分类分级监管规则或者指引。《办法》主要强调分级分类、职责划分、合作进步，例如《办法》在第十六条中提及的“完善与创新发展相适应的科学监管方式”，这也意味着监管层面上对于AIGC目前主要保有的是开放的态度。

四、小结

总体而言，《办法》的出台将对AIGC产业的健康发展产生积极影响，同时针对当下热点问题制定了相应的规范，加强对数据和用户隐私的保护，提高服务的质量和可靠性，进一步提升生成式人工智能服务的可信度和可持续发展。由于目前AIGC产业仍处于初步崭露头角的发展阶段，因此目前采取的主要为包容和鼓励的态度，促进创新技术开发，同时做好数据安全、内容安全等规范。

相信在不久的未来，AIGC产业将蓬勃发展，在为人类社会带来便利与创新的同时，相关主管部门对于这一技术产业的监管规范也将进一步完善，促进其健康发展。