美国拍下暂停键：5年内，拟禁止制造&销售儿童AI玩具

　　来源|多知

　　作者|冯玮

　　

　　在美国，针对儿童AI产品的监管正在进一步收紧。

　　多知整理发现，近日，美国纽约州和加利福尼亚州立法机构相继推进针对AI聊天玩具的限制法案。

　　两州提出的方案均涉及“暂停期(moratorium)”，拟在未来数年内禁止相关产品的制造和销售，为监管部门、儿童发展专家和产业界争取时间，对这类新兴产品的安全性展开更系统的评估。

　　具体来看：

　　纽约州议会正在审议S9408A法案。

　　其中提到，州内将禁止制造、交换、分发和销售“聊天机器人玩具”。

　　该法案由纽约州参议员Andrew Gounardes发起，他指出：“我的法案将暂时中止面向幼儿的人工智能聊天机器人玩具的销售，以便专家研究其对儿童的影响，并在造成更大伤害之前制定有效的保护措施。这合乎逻辑，公平合理，最重要的是，它明确表明，我们孩子的安全绝非大型科技公司可以拿来开玩笑的事情”。

　　其中提到的聊天机器人玩具，具体包括毛绒玩具、机器人、玩偶和带有大型语言模型的语音激活设备，这些设备可以连接到互联网并使用人工智能与儿童互动。

　　在纽约州参议院新闻中心的内容中，Andrew Gounardes提到：

　　“一项研究表明，聊天机器人玩具旨在通过持续在线和个性化回复来建立情感依恋。这对五岁以下的用户来说尤其危险，因为他们尚无法区分人工智能和人类，而且也使所有儿童难以面对真实的人际关系。”

　　“过度使用聊天机器人玩具，尤其是在这种使用取代了人际互动的情况下，会剥夺儿童培养同理心、适应能力和沟通技巧等社交技能的机会。 ”

　　“聊天机器人玩具不仅收集用户主动会话的数据，还会被动录音，监视背景对话和家庭讨论。至少有些型号会将这些数据与外部机构共享，用于分析和广告。这给家庭带来了隐私风险：今年2月，两位美国参议员发现了一个公共网站，访问者可以在该网站下载数千条关于Miko与特定儿童互动的数据。”

　　“美国联邦贸易委员会已对七家主要的聊天机器人开发商展开调查，其中几家已将人工智能助手集成到玩具中。与此同时，芭比娃娃、风火轮、费雪、美国女孩和波莉口袋娃娃的制造商美泰公司宣布与OpenAl合作，将人工智能的魔力带入玩具领域。然而，OpenAl在其网站上承认，ChatGPT对13岁以下儿童不安全。 ”

　　按照目前进展，该法案已于6月1日在纽约州参议院获得通过，并于6月2日在州众议院获得通过。由于众议院对法案进行了小幅修改，目前法案已返回参议院等待最终确认。

　　

　　五年禁令到期后，立法者可以决定是否延长禁令，或者允许向儿童销售人工智能玩具，但可能需要制定相关法规来应对其风险。

　　同时，该法案采取的合理步骤是——在允许科技公司不受限制地接触纽约最年幼、最脆弱的用户群体之前，暂时中止销售这种几乎不受监管的儿童产品。

　　在法案支持者看来，这一暂停期将为政策制定者、儿童发展专家、家长、AI开发者和玩具制造商争取时间，对AI聊天玩具可能带来的影响进行更深入研究，并探索相应的监管框架。

　　

　　几乎在同一时期，加州也在推进类似立法。

　　加州参议员Steve Padilla提出了SB 867法案，该法案是全美首例，对面向18岁以下儿童销售和生产具备人工智能聊天机器人功能的玩具实施为期四年的禁令。

　　Steve Padilla指出： “人工智能技术的应用范围正以惊人的速度扩展。我们绝不能允许危险且未经检验的技术被推销给我们的孩子。通过暂停销售人工智能聊天机器人玩具，我们可以投入必要的时间和精力来建立一个健全的监管框架，以确保儿童的安全。”

　　实际上，加州拥有全美最严格的玩具安全法律，旨在保护儿童免受各种身体伤害，例如接触有毒物质和窒息危险等等。

　　Steve Padilla强调，SB 867 法案由Children Now组织发起，并提议暂停向18岁以下儿童销售和生产具备人工智能聊天机器人功能的玩具，为期四年。这样做的目的，是为了“以便我们有时间更新法律，使其适应数字时代。”

　　该法案已于5月28日在加州参议院以39票赞成、0票反对获得通过，目前正在提交众议院审议。

　　“技术发展的速度已经超过了安全保障机制建立的速度，儿童不应该成为未经验证技术的实验对象”，Steve Padilla补充。

　　多知整理发现，推动两州立法的重要原因，是AI玩具正在发生根本变化。

　　过去两年，以生成式AI为核心的新一代儿童硬件开始快速涌现：从AI毛绒玩具、AI玩偶到具备陪伴能力的机器人产品，这些设备已经不再只是按照预设程序进行简单互动，而是能够借助大模型持续对话、记忆用户信息，并根据儿童的情绪和交流习惯进行回应。

　　支持法案的立法者认为，这类产品使用的底层技术与ChatGPT等生成式AI系统高度相似，但其进入儿童成长场景后的长期影响仍缺乏充分验证;在监管者看来，这类产品已经不再只是传统意义上的玩具，而正在成为能够长期影响儿童认知、情绪和社交关系的新型数字伙伴。

　　而自2025年12月以来，美国已有超过30个州提出了100多项与人工智能相关的法案，其中许多法案可能会影响儿童使用的设备，在前文提到的两个州已经明确在AI+玩具外，华盛顿等则设立了适用于所有类别人工智能产品的保护机制。

　　例如：

　　俄勒冈州(SB 1546——法案已通过，等待州长蒂娜·科泰克在未来几周内签署)。

　　-需要明确告知用户，他们正在与人工智能而非人类进行交互。

　　-强制要求制定检测自残或自杀意念的规程，包括危机转介和基于临床最佳实践的干预措施。

　　-禁止发布露骨的性内容。

　　-限制聊天机器人模拟情感依赖或恋爱关系，并禁止基于参与度的奖励机制。

　　-需要定期提醒(每三小时一次)暂停与人工智能的互动

　　-要求每年就危机干预和安全规程提交公开报告。

　　华盛顿州(HB 2225 – 法案已通过，待州长鲍勃·弗格森于3月24日签署)。

　　-要求披露人工智能信息，包括每小时提醒用户正在与人工智能交互。

　　-强制要求采取保障措施，以发现和应对自残行为(包括饮食失调)，并提供危机干预资源。

　　-禁止发布露骨的性内容。

　　-限制操纵性交往策略，包括培养情感依恋、模仿恋爱关系或鼓励与家人或信任的成年人隔离。

　　白宫发布了《国家人工智能政策框架》，概述了国会的立法优先事项。

　　其中提及：

　　-加强对未成年人与人工智能系统互动时的保护。

　　-赋予家长管理孩子数字体验的工具。

　　-鼓励采取安全措施，以降低自残或被剥削等风险。

　　-避免出现各自为政、监管体系碎片化的局面，同时保留各州解决地方问题的能力。

　　围绕未成年人使用AI聊天机器人、AI陪伴产品和AI玩具，以及在当前整个AI网络环境下的安全及监管讨论，正在多个国家同步升温。

　　在中国，将于2026年7月15日起施行的《人工智能拟人化互动服务管理暂行办法》(下称《办法》)，意味着以AI玩偶为代表的情感交互行业，将告别自由生长的野蛮阶段，迈入安全、有序、向善的高质量发展新周期。

　　2025年，中国青少年研究中心针对全国7个省份、8500多名未成年人展开专项调研，数据显示：超过两成的孩子在接触AI产品后，渐渐滋生出“只想依赖AI，不愿独立思考”的惰性思维;同样有两成多的孩子，愈发沉迷于和AI玩偶的单向交流，刻意回避与身边亲人、同伴的真人沟通，慢慢陷入虚拟陪伴的社交孤岛。

　　艾媒咨询发布的《2026年中国AI玩具行业发展状况与消费行为调查数据》显示，中国AI玩具市场由中青年主导，且56.05%的消费者每周都会使用AI玩具3-5次……

　　《办法》规定，拟人化互动服务提供者不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务;向不满14周岁未成年人提供其他拟人化互动服务的，应取得父母或其他监护人同意。

　　此外，拟人化互动服务提供者应当建立未成年人模式，还应在保护隐私和个人信息前提下，采取有效措施识别未成年人身份;识别为未成年人用户的，应切换至未成年人模式或采取其他措施。

　　天翼物联云芯AI模组产品线总监彭昭在一次媒体对话中提到，行业曾探索“娱乐化、社交化终端”方向，希望让玩偶构建儿童社交网络，在虚拟空间形成独立数字人格。如今，新规的出台，为这条探索之路踩下稳健刹车。

　　在澳大利亚，负责网络安全事务的eSafety Commissioner已连续对多家AI陪伴产品展开调查，并要求企业说明如何保护未成年人免受色情内容、自残诱导等风险影响。今年发布的一份官方报告指出，多款主流AI陪伴产品在儿童保护方面存在明显缺陷。

　　英国也正在讨论如何将AI聊天机器人纳入现有未成年人网络保护框架，并针对AI陪伴产品可能带来的风险加强监管审查。

　　过去二十年，儿童互联网监管主要围绕社交媒体、视频平台和网络游戏展开;而随着生成式AI开始进入毛绒玩具、机器人、儿童陪伴设备等硬件场景，监管对象也正在从“屏幕里的AI”延伸到“玩具里的AI”。

　　当AI开始以朋友、宠物、老师甚至情感陪伴者的身份进入儿童世界时，从世界到国内，不同的政策与方案本质上的目的是相似的。

　　即，让AI陪伴产品的定位更明确，它不是亲情的替代品，不是心理的操控者，而是引导成长、辅助沟通、增益家庭关系的工具;也让AI陪伴孩子时，可以更安全，更安心。