对教育行业有何影响？逐条拆解AI新规《生成式人工智能服务管理暂行办法》

　　文|百千 教育行业研究者

　　编者按：

　　本文系多知网投稿，作者百千。近期，《生成式人工智能服务管理暂行办法》公布，作者逐条解读了《办法》及其对教育行业可能带来的影响。其中，不管是境外AIGC公司或者接入境外API的境内公司，不管是基座模型层面，或者是应用层面，均会受到该《办法》管理。由此可见，若严格按照《办法》执行，对于中小企业，AIGC在教育领域面临持续支出而创收较弱的问题。

　　7月12日，《生成式人工智能服务管理暂行办法》(后称《办法》)对外公布，距离其征求意见稿发布仅3个月，并将于2023年8月15日起施行。速度不可谓不快，也足以见国家对生成式人工智能的关注度及监管的紧迫性。

　　相比科技行业，教育行业向来属于慢行业，但教育却以内容为核心。本次AIGC对内容生产将起到巨大影响，教育行业也不可避免。接下来，我们将详细解读《办法》及其对教育行业可能带来的影响。

　　发布单位有国家互联网信息办公室、中华人民共和国国家发展和改革委员会、中华人民共和国教育部、中华人民共和国科学技术部、中华人民共和国工业和信息化部、中华人民共和国公安部、国家广播电视总局。

　　解析：该《办法》以网信办牵头，优先监管为互联网企业或者线上内容，基于AIGC技术生成线下产品或服务的企业在监管优先级上略微靠后。其他部委参与发布，可增强法律权威性和适用范围，但预计不久后上述各个部委将发布针对各自领域的政策细则。教育企业核心关注教育部相关细则。

　　第一条：为了促进生成式人工智能健康发展和规范应用，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益，根据《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》、《中华人民共和国科学技术进步法》等法律、行政法规，制定本办法。

　　解析：首要监管范围，在网络安全、数据安全、个人信息安全、技术产权等领域。大多教育企业在技术方面依赖第三方技术公司，可向供应商提及相关需求，增加该类管控。特别要关注数据出境问题。

　　第二条：利用生成式人工智能技术向中华人民共和国境内公众提供生成文本、图片、音频、视频等内容的服务(以下称生成式人工智能服务)，适用本办法。

　　国家对利用生成式人工智能服务从事新闻出版、影视制作、文艺创作等活动另有规定的，从其规定。

　　行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等研发、应用生成式人工智能技术，未向境内公众提供生成式人工智能服务的，不适用本办法的规定。

　　解析：明确对象。公司若面向海外客户，可不受该《办法》限制。据调研，确有部分基于AIGC的国内教育公司，其产品仅面向海外。

　　另外，若各类机构仅出于研发考虑，应用AIGC技术，不受《办法》限制。相关教育企业，若仅将AIGC技术应用于研发，不应用于自身产品，不受《办法》限制。

　　从该条可看出，政策鼓励基于AIGC相关研究，管理环节主要在于触达用户阶段。

　　第三条：国家坚持发展和安全并重、促进创新和依法治理相结合的原则，采取有效措施鼓励生成式人工智能创新发展，对生成式人工智能服务实行包容审慎和分类分级监管。

　　解析：比起一刀切，分级管理是更优的管理方式，等待细则。

　　第四条：提供和使用生成式人工智能服务，应当遵守法律、行政法规，尊重社会公德和伦理道德，遵守以下规定：

　　(一)坚持社会主义核心价值观，不得生成煽动颠覆国家政权、推翻社会主义制度，危害国家安全和利益、损害国家形象，煽动分裂国家、破坏国家统一和社会稳定，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情，以及虚假有害信息等法律、行政法规禁止的内容;

　　(二)在算法设计、训练数据选择、模型生成和优化、提供服务等过程中，采取有效措施防止产生民族、信仰、国别、地域、性别、年龄、职业、健康等歧视;

　　(三)尊重知识产权、商业道德，保守商业秘密，不得利用算法、数据、平台等优势，实施垄断和不正当竞争行为;

　　(四)尊重他人合法权益，不得危害他人身心健康，不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益;

　　(五)基于服务类型特点，采取有效措施，提升生成式人工智能服务的透明度，提高生成内容的准确性和可靠性。

　　解析：比起征求意见稿时“内容应当真实准确”，《办法》理解AIGC模型幻觉的客观存在，缓和表述为“采取有效措施提升准确性和可靠性”，实为容错率上的放宽。对采用AIGC的教育企业有一定利好。

　　第五条：鼓励生成式人工智能技术在各行业、各领域的创新应用，生成积极健康、向上向善的优质内容，探索优化应用场景，构建应用生态体系。

　　支持行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等在生成式人工智能技术创新、数据资源建设、转化应用、风险防范等方面开展协作。

　　第六条：鼓励生成式人工智能算法、框架、芯片及配套软件平台等基础技术的自主创新，平等互利开展国际交流与合作，参与生成式人工智能相关国际规则制定。

　　推动生成式人工智能基础设施和公共训练数据资源平台建设。促进算力资源协同共享，提升算力资源利用效能。推动公共数据分类分级有序开放，扩展高质量的公共训练数据资源。鼓励采用安全可信的芯片、软件、工具、算力和数据资源。

　　解析：旨在明确大模型之间的竞争，需要国内各企业团结从而与海外竞争。教育类企业通常没有足够的资金实力和人才密度去参与竞争，可进入该类联盟或其附属，搭乘技术便车。

　　第八条：在生成式人工智能技术研发过程中进行数据标注的，提供者应当制定符合本办法要求的清晰、具体、可操作的标注规则;开展数据标注质量评估，抽样核验标注内容的准确性;对标注人员进行必要培训，提升尊法守法意识，监督指导标注人员规范开展标注工作。

　　解析：教育企业通常不具备基座大模型的开发能力，采用三方基座模型在做本地化部署为更可行操作，其中微调前期准备涉及数据清洗、标注等内容。教育企业的数据规化通常较差，在线教育兴起后推动全行业数据化提升，但若采用AIGC，则对数据化要求再次升高。

　　第九条：提供者应当依法承担网络信息内容生产者责任，履行网络信息安全义务。涉及个人信息的，依法承担个人信息处理者责任，履行个人信息保护义务。

　　提供者应当与注册其服务的生成式人工智能服务使用者(以下称使用者)签订服务协议，明确双方权利义务

　　解析：此前征求意见稿要求“用户提供真实身份信息”，《办法》将其删除，要求“提供者和使用者签订协议”，将管理权交给市场。教育企业曾有或现在依旧存与用户在权利义务协议方面，故意模糊以促使销售的情况。若之后采用AIGC提供内容，需更加明确权责利。

　　第十条：提供者应当明确并公开其服务的适用人群、场合、用途，指导使用者科学理性认识和依法使用生成式人工智能技术，采取有效措施防范未成年人用户过度依赖或者沉迷生成式人工智能服务。

　　解析：该条更适用于AIGC游戏领域应用，不过教育领域拥有采用游戏化学习方式的产品，该条未来对该类企业将产生影响。

　　第十二条：提供者应当按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识。

　　解析：需标识AI生成内容。若教育产品中，标识其内容由AI生成，而非真人老师生成，将降低用户对其内容的价值判断，拉低客单价。

　　第十三条：提供者应当在其服务过程中，提供安全、稳定、持续的服务，保障用户正常使用。

　　解析：AI基座模型的使用上，需要plan B。

　　第十四条：提供者发现违法内容的，应当及时采取停止生成、停止传输、消除等处置措施，采取模型优化训练等措施进行整改，并向有关主管部门报告。

　　提供者发现使用者利用生成式人工智能服务从事违法活动的，应当依法依约采取警示、限制功能、暂停或者终止向其提供服务等处置措施，保存有关记录，并向有关主管部门报告。

　　解析：通常大型互联网平台会对“审核员”有大量需求，该《办法》实施，会导致采用AIGC技术相关企业，增加人工审核环节。教育企业曾经在此类人员招聘上较少，若大量使用AIGC产品，可能需要增加更多人工审核员工。

　　第十七条：提供具有舆论属性或者社会动员能力的生成式人工智能服务的，应当按照国家有关规定开展安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。

　　解析：“具有舆论属性或者社会动员能力的生成式人工智能服务”的范围需进一步明确，但教育很可能在其中。

　　第二十条：对来源于中华人民共和国境外向境内提供生成式人工智能服务不符合法律、行政法规和本办法规定的，国家网信部门应当通知有关机构采取技术措施和其他必要措施予以处置。

　　解析：境外AIGC直接向境内用户提供服务的，会收到严管控。同时，境外公司提供API，境内接入的情况，依旧存在合规问题。目前教育创业项目，此类问题较明显。

　　第二十三条：法律、行政法规规定提供生成式人工智能服务应当取得相关行政许可的，提供者应当依法取得许可。

　　外商投资生成式人工智能服务，应当符合外商投资相关法律、行政法规的规定。

　　解析：许可证将成为提供AIGC服务的准入门槛，不过暂无法确定是否针对所有企业，还是大型企业。外商投资教育领域AIGC，需符合《双减》规定。

　　第二十四条：本办法自2023年8月15日起施行

　　解析：有想法的教育企业，需尽快咨询网信办具体规定。

　　总体而言，不管是境外AIGC公司或者接入境外API的境内公司，不管是基座模型层面，或者是应用层面，均会受到该《办法》管理。大量的面向境内提供服务的中小型教育公司，在使用AIGC上均面临许可证、内容监管等额外成本。同时，AIGC在教育领域的商业化进程并不顺利(参见文章《大模型应用的商业化进展慢，为什么慢?》)，支出>收益的情况短时间较难解决。采取审慎的态度使用AIGC能力，对于中小型教育企业或许是更稳妥的策略。

　　让子弹飞一会儿。

　　(本文仅代表作者个人观点，供读者参考。)