网信办：对生成式人工智能拟出新规，禁止非法获取隐私

　　多知网4月11日消息，国家互联网信息办公室发布了《生成式人工智能服务管理办法(征求意见稿)》公开征求意见，其中提到，提供者应当对生成式人工智能产品的预训练数据、优化训练数据来源的合法性负责。

　　征求意见稿提出，在提供生成式人工智能产品或服务时要求：在算法设计、训练数据选择、模型生成和优化、提供服务等过程中，采取措施防止出现种族、民族、信仰、地域、性别、年龄、职业等歧视;要尊重知识产权、商业道德，不得利用算法、数据、平台等优势实施不公平竞争;利用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息;禁止非法获取、披露、利用个人信息和隐私、商业秘密。

　　在利用生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人(以下称“提供者”)，包括通过提供可编程接口等方式支持他人自行生成文本、图像、声音等，承担该产品生成内容生产者的责任;涉及个人信息的，承担个人信息处理者的法定责任，履行个人信息保护义务。

　　征求意见稿要求，用于生成式人工智能产品的预训练、优化训练数据，应满足以下要求：符合《中华人民共和国网络安全法》等法律法规的要求;不含有侵犯知识产权的内容;数据包含个人信息的，应当征得个人信息主体同意或者符合法律、行政法规规定的其他情形;能够保证数据的真实性、准确性、客观性、多样性;国家网信部门关于生成式人工智能服务的其他监管要求。

　　征求意见稿表示，提供者应当根据国家网信部门和有关主管部门的要求，提供可以影响用户信任、选择的必要信息，包括预训练和优化训练数据的来源、规模、类型、质量等描述，人工标注规则，人工标注数据的规模和类型，基础算法和技术体系等。

　　此外，意见征求稿强调，对于运行中发现、用户举报的不符合本办法要求的生成内容，除采取内容过滤等措施外，应在3个月内通过模型优化训练等方式防止再次生成。提供者发现用户利用生成式人工智能产品过程中违反法律法规，违背商业道德、社会公德行为时，包括从事网络炒作、恶意发帖跟评、制造垃圾邮件、编写恶意软件，实施不正当的商业营销等，应当暂停或者终止服务。