合规义务分类 | 条款内容 | 解读 |
监管方面 | 第六条（算法前置备案义务） 利用生成式人工智能产品向公众提供服务前，应当按照《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》向国家网信部门申报安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。 | 本条款规定了生成式人工智能产品在向公众提供服务前，需要遵循的程序。根据《互联网信息服务算法推荐管理规定》第二条规定，其所称的应用算法推荐技术，是指利用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息。除了履行算法备案和变更、注销备案手续以外，生成式人工智能产品是否还需要遵守《互联网信息服务算法推荐管理规定》中的其他规定，有待进一步探讨和明确。 |
第十七条（信息披露义务） 提供者应当根据国家网信部门和有关主管部门的要求，提供可以影响用户信任、选择的必要信息，包括预训练和优化训练数据的来源、规模、类型、质量等描述，人工标注规则，人工标注数据的规模和类型，基础算法和技术体系等。 | 本条要求提供者根据国家网信等部门的要求，提供必要信息。这些信息有助于监管部门掌握相对充分的技术信息，从而能够对人工智能产品的内容进行评估，发现或确定不符合规定的地方。 |
第十八条（用户举报机制） 用户发现生成内容不符合本办法要求时，有权向网信部门或者有关主管部门举报。 | 本条款赋予用户举报权利。用户在发现生成内容不符合本办法要求时，有权向国家网信部门或相关主管部门举报，以强化社会监督，帮助有关部门及时发现不符合法律法规的内容。本条款意味着提供者将受到来自各方面用户的广泛监督，需要严格遵照内容方面的合规要求。 |
算法方面 | 第七条（算法训练数据合法性） 提供者应当对生成式人工智能产品的预训练数据、优化训练数据来源的合法性负责。
用于生成式人工智能产品的预训练、优化训练数据，应满足以下要求：（一）符合《中华人民共和国网络安全法》等法律法规的要求；（二）不含有侵犯知识产权的内容；（三）数据包含个人信息的，应当征得个人信息主体同意或者符合法律、行政法规规定的其他情形；（四）能够保证数据的真实性、准确性、客观性、多样性；（五）国家网信部门关于生成式人工智能服务的其他监管要求。 | 本条款规定了提供者对生成式人工智能产品的预训练数据和优化训练数据来源的合法性负责。强调了用于生成式人工智能产品的数据应符合相关现行法律法规的要求，包括网络安全、知识产权、个人信息保护、数据质量等方面。 |
第八条（人工标注规范与培训） 生成式人工智能产品研制中采用人工标注时，提供者应当制定符合本办法要求，清晰、具体、可操作的标注规则，对标注人员进行必要培训，抽样核验标注内容的正确性。 | 本条款强调了在生成式人工智能产品研制过程中，如采用人工标注方法，提供者应遵循的规范。 在制定标注规则方面，提供者应制定符合本办法要求的清晰、具体、可操作的标注规则，以确保标注过程符合法律法规和技术规范。 在标注人员的培训方面，提供者需对参与标注的人员进行必要培训，目的在于确保参与标注的人员了解并掌握相关标注规则，提高标注质量。 在抽样核验方面，提供者应对标注内容进行抽样核验，以确保内容的正确性，避免因标注误差影响模型训练和生成内容质量。 |
第十五条（算法纠偏义务） 对于运行中发现、用户举报的不符合本办法要求的生成内容，除采取内容过滤等措施外，应在3个月内通过模型优化训练等方式防止再次生成。 | 本条款旨在防止再次生成不符合要求的内容，规定应在3个月内通过模型优化训练等方式防止再次生成。 本条款对于3个月的时间起算未进行明确规定，且该整改期限较短，提供者应预先应用过滤机制，防止短期内再次生成大量不符合要求的内容。 |
内容管理方面 | 第四条（开发者审查义务） 提供生成式人工智能产品或服务应当遵守法律法规的要求，尊重社会公德、公序良俗，符合以下要求：
（一）利用生成式人工智能生成的内容应当体现社会主义核心价值观，不得含有颠覆国家政权、推翻社会主义制度，煽动分裂国家、破坏国家统一，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情信息，虚假信息，以及可能扰乱经济秩序和社会秩序的内容。（二）在算法设计、训练数据选择、模型生成和优化、提供服务等过程中，采取措施防止出现种族、民族、信仰、国别、地域、性别、年龄、职业等歧视。（三）尊重知识产权、商业道德，不得利用算法、数据、平台等优势实施不公平竞争。（四）利用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息。（五）尊重他人合法利益，防止伤害他人身心健康，损害肖像权、名誉权和个人隐私，侵犯知识产权。禁止非法获取、披露、利用个人信息和隐私、商业秘密。 | 本条款就提供生成式人工智能产品或服务时应遵守的法律法规要求和道德准则进行详细列举，实际上是对开发者和运营者施加了内容审查义务，包括政治审查、合法性审核、防止歧视性内容、防止侵犯知识产权和不正当竞争的要求、防止虚假信息、尊重他人合法利益等。从审核措施的角度，开发者和运营者不仅应当审核训练数据，而且应当审核模型生成、展示的结果。 碍于提供者的数据量限制，基于算法、规则和模型生成的内容必然有一定的错误，人工智能通过数据模型生成和编造答案，第一项中不得生成“虚假信息”和第四项中“真实准确”的要求或过于严苛。 |
第五条（内容生产者责任） 利用生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人（以下称“提供者”），包括通过提供可编程接口等方式支持他人自行生成文本、图像、声音等，承担该产品生成内容生产者的责任；涉及个人信息的，承担个人信息处理者的法定责任，履行个人信息保护义务。 | 本条款明确了生成式人工智能产品的责任主体为提供者，即生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人。这意味着，一旦生成的内容违反相关法律法规，提供者将承担相应的法律责任。 |
第十二条（禁止歧视内容生成） 提供者不得根据用户的种族、国别、性别等进行带有歧视性的内容生成。 | 该条规定不得生成歧视性内容，要求提供者预训练数据和优化训练数据时进行处理，并在结果显示环节进行把控。 |
第十三条（内容不合规的处理）提供者应当建立用户投诉接收处理机制，及时处置个人关于更正、删除、屏蔽其个人信息的请求；发现、知悉生成的文本、图片、声音、视频等侵害他人肖像权、名誉权、个人隐私、商业秘密，或者不符合本办法要求时，应当采取措施，停止生成，防止危害持续。 | 本条款要求提供者建立接收投诉处理机制，对不合规的内容应及时纠正或采取相应措施，防止侵权和其他危害的持续。 |
第十六条（内容标识义务） 提供者应当按照《互联网信息服务深度合成管理规定》对生成的图片、视频等内容进行标识。 | 本条款规定了提供者的内容标识义务，要求提供者按照《互联网信息服务深度合成管理规定》，对生成的图片、视频等内容进行标识。 这一规定目的在于保证公众了解生成内容的来源，避免混淆和误导。通过对生成内容进行明确标识，有助消费者识别真实与虚构内容，降低虚假信息传播的风险，同时也能减轻因虚假信息而引发的社会问题。这一规定有助于维护互联网信息安全和公共秩序，同时保护公众的知情权和选择权。 |
用户方面 | 第九条（用户实名制管理） 提供生成式人工智能服务应当按照《中华人民共和国网络安全法》规定，要求用户提供真实身份信息。 | 本条款遵循上位法《网络安全法》的规定，明确了用户实名制的原则。《网络安全法》没有规定用户提供真实身份信息的具体认证方法，但在《互联网用户账号信息管理规定》中进一步规定“互联网信息服务提供者用户……应当对……用户进行基于移动电话号码、身份证件号码或者统一社会信用代码等方式的真实身份信息认证”。《互联网交互式服务安全管理要求第1部分：基本要求GA:1277.1-2020》有更为详细的要求：第9.2.2条第a项规定，互联网交互式服务提供者对用户真实身份信息进行有效核验，有效核验方法应能追溯到用户登记的真实身份，如：
(1) 身份证与姓名的实名验证服务；(2) 有效的银行卡；(3) 合法、有效的数字证书；(4) 已确认真实身份的网络服务的注册用户；(5) 经电信运营商接入实名认证的用户；(6) 生物特征。 生成式人工智能服务很可能符合上述GA:1277.1-2020对于互联网交互式服务的定义，其实名认证的方式很可能应遵守该要求。 |
第十条（防止沉迷机制） 提供者应当明确并公开其服务的适用人群、场合、用途，采取适当措施防范用户过分依赖或沉迷生成内容。 | 本条款明确并公开适用人群、场合、用途，有助于用户选择，也有助于监督管理。与防沉迷类似的规定有在《互联网信息服务算法推荐管理规定》第八条规定的不得设置诱导用户沉迷等算法模型。 |
第十一条（用户输入数据保护义务） 提供者在提供服务过程中，对用户的输入信息和使用记录承担保护义务。不得非法留存能够推断出用户身份的输入信息，不得根据用户输入信息和使用情况进行画像，不得向他人提供用户输入信息。法律法规另有规定的，从其规定。 | 本条款为生成式人工智能产品合法留存相关信息保留了空间。提供者在进行生成式人工智能产品迭代、优化训练过程中，产品历史服务过程信息是重要的训练数据源。但“能够推断出用户身份的输入信息”或涉及个人信息的处理，因此提供者在取得用户同意或具有其他合法性基础时，仍可以进行留存并根据规定进行生成式人工智能产品训练等使用。此外，提供者基于履行法定义务亦需留存用户输入信息，例如，输入信息可能属于日志信息的一部分，提供者需根据《互联网信息服务深度合成管理规定》第十六条的要求进行留存。 对于共享用户输入信息和建立用户画像，《办法》采用了“不得”的限制性字眼，在本条款语境下，结合“法律法规另有规定”的立法技术，除非法律法规明确允许外，否则提供者可能难以基于用户同意进行共享用户输入信息、建立用户画像。 |
第十四条 （服务安全稳定义务） 提供者应当在生命周期内，提供安全、稳健、持续的服务，保障用户正常使用。 | 本条款规定了提供者的质量保障和用户体验，要求提供者除了在关注技术创新外，还应重视产品在实际应用中的稳定性、安全性和持续性。安全、稳健、持续的服务在逻辑上包含了对诸如网络安全防护等系统安全性方面的要求。 |
第十八条（用户指导义务） 提供者应当指导用户科学认识和理性使用生成式人工智能生成的内容，不利用生成内容损害他人形象、名誉以及其他合法权益，不进行商业炒作、不正当营销。 | 本条款对提供者赋予了责任，要求其对用户进行教育与引导，以防止人工智能被滥用，成为侵权工具。 |
第十九条（制止用户不当行为义务） 提供者发现用户利用生成式人工智能产品过程中违反法律法规，违背商业道德、社会公德行为时，包括从事网络炒作、恶意发帖跟评、制造垃圾邮件、编写恶意软件，实施不正当的商业营销等，应当暂停或者终止服务。 | 本条款规定既是提供者的义务，也赋予了提供者相应的权利：停止服务。和互联网信息服务提供者一样，如果提供者未遵守该等制止不当行为的义务，也将承担相应责任。 |