<p>一个倡导组织表示，人工智能聊天机器人对儿童造成的严重伤害已被充分记录，包括促进强迫性使用、进行露骨的性对话，以及鼓励不安全行为、暴力和自残。</p>
<p>它们可爱，甚至令人想要拥抱，并承诺学习和陪伴——但儿童和消费者倡导组织表示，人工智能（AI）玩具对孩子并不安全，呼吁家长在假期期间不要购买这些玩具。</p>
<p>这些玩具的目标用户是年仅两岁的孩子，通常由已经被证明对儿童和青少年有害的 AI 模型驱动，例如 OpenAI 的 ChatGPT，儿童倡导组织 Fairplay 在周四发布的一份咨询报告中表示，该报告得到了 150 多个组织和专家的签署，包括儿童精神科医生和教育工作者。</p>
<p>Fairplay 表示：“人工智能聊天机器人对儿童造成的严重伤害已被充分记录，包括促进强迫性使用、进行露骨的性对话，以及鼓励不安全行为、对他人的暴力和自残。”</p>
<p>由 Curio Interactive 和 Keyi Technologies（可以科技）等公司制造的 AI 玩具通常被宣传为教育性，但 Fairplay 表示，它们可能会取代重要的创造性和学习活动。</p>
<p>它们承诺友谊，但却破坏了儿童的关系和韧性，该组织表示。</p>
<p>Fairplay 的年轻儿童离线项目主任 Rachel Franz 表示：“年轻儿童的不同之处在于，他们的大脑正在第一次被连接，从发展上讲，他们自然会信任并寻求与友善角色建立关系。”</p>
<p>因此，年轻儿童对这些玩具的信任可能会加剧年长儿童已经在使用 AI 聊天机器人时所经历的伤害，她说。</p>
<p>周四，Common Sense Media 和斯坦福大学医学院的精神科医生发布了一份单独的报告，警告青少年不要将流行的 AI 聊天机器人作为治疗师使用。</p>
<p>Fairplay 是一个成立 25 年的组织，前身是无商业儿童运动，近年来一直在警告 AI 玩具的危害。它们的技术并没有今天这么先进。十年前，在互联网连接玩具和 AI 语音识别的兴起潮流中，该组织帮助发起了对美泰公司（Mattel）会说话的 Hello Barbie 娃娃的反对，称其在录音和分析儿童对话。</p>
<p>尽管 AI 玩具主要在线销售，并且在亚洲比其他地方更受欢迎，但 Franz 表示，一些玩具已经开始出现在美国的商店货架上，更多的玩具可能会随之而来。</p>
<p>Franz 表示：“所有产品的发布都没有监管和研究，因此当我们突然看到越来越多的制造商，包括最近与 OpenAI 合作的美泰公司，可能推出这些产品时，我们感到更加担忧。”</p>
<p>这是自美国公共利益研究小组（PIRG）上周在其年度《玩具危机报告》中首次发出对 AI 玩具的重大季节性警告以来的第二次，该报告通常关注一系列产品危害，例如高功率磁铁和小按钮电池，这些电池可能被幼儿吞下。</p>
<p>今年，该组织测试了四款使用 AI 聊天机器人的玩具。</p>
<p>报告称：“我们发现这些玩具中的一些会深入讨论露骨的性话题，会提供关于孩子可以找到匹配或刀具的建议，当你说你必须离开时会表现出惊讶，并且几乎没有或没有家长控制。”</p>
<p>其中一款玩具，一只由新加坡 FoloToy 公司制造的泰迪熊，后来被撤回，该公司的首席执行官本周告诉 CNN。</p>
<p>年轻儿童没有理解 AI 伴侣的概念工具，儿童外科医生和早期大脑发展研究的社会科学家 Dana Suskind 说。</p>
<p>虽然孩子们总是通过想象游戏与玩具建立联系，但在这样做时，他们利用想象力创造假想对话的双方，“练习创造力、语言和解决问题的能力，” 她说。</p>
<p>Suskind 表示：“AI 玩具消除了这种工作。它们即时、流畅地回答，通常比人类更好。我们尚不清楚将这种想象力劳动外包给人工代理的发育后果——但很可能会削弱传统假装游戏所培养的创造力和执行功能。”</p>
<p>总部位于北京的 Keyi 公司制造了一款名为 Loona 的 AI“宠物机器人”，本周未能回复评论请求，但其他 AI 玩具制造商试图强调他们的儿童安全保护措施。</p>
<p>总部位于加利福尼亚的 Curio Interactive 制造了如 Gabbo 和火箭形状的 Grok 等毛绒玩具，这些玩具得到了流行歌手 Grimes 的推广。</p>
<p>该公司表示，它 “精心设计” 了保护措施以保护儿童，并鼓励家长 “监控对话、跟踪见解，并选择最适合他们家庭的控制措施。”</p>
<p>针对早期 PIRG 的发现，Curio 表示，它 “正在积极与我们的团队合作以解决任何问题，同时持续监督内容和互动，以确保儿童的安全和愉快体验。”</p>
<p>另一家公司 Miko，总部位于印度孟买，表示它使用自己的对话 AI 模型，而不是依赖于像 ChatGPT 这样的通用大型语言模型系统，以确保其产品——一款互动 AI 机器人——对儿童安全。</p>
<p>Miko 首席执行官 Sneh Vaswani 表示：“我们始终在扩大内部测试，加强过滤器，并引入新功能，以检测和阻止敏感或意外话题。这些新功能补充了我们现有的控制措施，允许家长和看护人识别他们希望限制的特定话题。我们将继续投资于为 Miko 产品设定最高的安全、保障和负责任的 AI 整合标准。”</p>
<p>Miko 的产品由沃尔玛和好市多等主要零售商销售，并得到了社交媒体 “儿童影响者” 家庭的推广，他们的 YouTube 视频拥有数百万的观看次数。在其网站上，Miko 将其机器人宣传为 “人工智能。真正的友谊。”</p>
<p>公司高级副总裁 Ritvik Sharma 表示，Miko 实际上 “鼓励孩子们与朋友、同龄人和家庭成员更多互动。它并不是为了让他们仅仅依赖于这个设备。”</p>
<p>然而，Suskind 和儿童倡导者表示，模拟玩具在假期中是更好的选择。</p>
<p>“孩子们需要大量真实的人际互动。游戏应该支持这一点，而不是取而代之。最重要的考虑因素不仅仅是玩具的功能；而是它所替代的东西。一个简单的积木套装或一个不会回应的泰迪熊迫使孩子们创造故事、进行实验和解决问题。人工智能玩具往往为他们完成这些思考，” Suskind 说。“这里有一个残酷的讽刺：当父母问我如何为他们的孩子准备进入人工智能世界时，无限制的人工智能接触实际上是最糟糕的准备。”</p>

OpenAI

<p>倡导团体，包括 Fairplay，正在呼吁家长在这个假期季节避免购买人工智能玩具，因为有记录的危害包括促进过度使用、进行不当对话和不安全行为。这些玩具面向幼儿，使用像 ChatGPT 这样的人工智能模型，已被证明对儿童有害。这些团体警告称，人工智能玩具可能会干扰儿童的发展和人际关系，并且缺乏监管和研究。一些人工智能玩具被发现讨论不当话题，并缺乏家长控制功能，令人担忧其安全性</p>

<h3>The serious harms that AI chatbots have inflicted on children are well-documented, including fostering obsessive use, having explicit sexual conversations, and encouraging unsafe behaviors, violence and self-harm, an advocacy group said</h3>
<div class="lb-trans"><p>一个倡导组织表示，人工智能聊天机器人对儿童造成的严重伤害已被充分记录，包括促进强迫性使用、进行露骨的性对话，以及鼓励不安全行为、暴力和自残。</p>
</div><p>They are cute, even cuddly, and promise learning and companionship — but artificial intelligence (AI) toys are not safe for kids, children’s and consumer advocacy groups said, urging parents not to buy them during the holiday season.</p>
<div class="lb-trans"><p>它们可爱，甚至令人想要拥抱，并承诺学习和陪伴——但儿童和消费者倡导组织表示，人工智能（AI）玩具对孩子并不安全，呼吁家长在假期期间不要购买这些玩具。</p>
</div><p>These toys, marketed to kids as young as two years old, are generally powered by AI models that have already been shown to harm children and teenagers, such as OpenAI’s ChatGPT, said an advisory published on Thursday by the children’s advocacy group Fairplay and signed by more than 150 organizations and experts such as child psychiatrists and educators.</p>
<div class="lb-trans"><p>这些玩具的目标用户是年仅两岁的孩子，通常由已经被证明对儿童和青少年有害的 AI 模型驱动，例如 OpenAI 的 ChatGPT，儿童倡导组织 Fairplay 在周四发布的一份咨询报告中表示，该报告得到了 150 多个组织和专家的签署，包括儿童精神科医生和教育工作者。</p>
</div><p>“The serious harms that AI chatbots have inflicted on children are well-documented, including fostering obsessive use, having explicit sexual conversations, and encouraging unsafe behaviors, violence against others and self-harm,” Fairplay said.</p>
<div class="lb-trans"><p>Fairplay 表示：“人工智能聊天机器人对儿童造成的严重伤害已被充分记录，包括促进强迫性使用、进行露骨的性对话，以及鼓励不安全行为、对他人的暴力和自残。”</p>
</div><p>AI toys, made by companies including Curio Interactive and Keyi Technologies (可以科技), are often marketed as educational, but Fairplay said they can displace important creative and learning activities.</p>
<div class="lb-trans"><p>由 Curio Interactive 和 Keyi Technologies（可以科技）等公司制造的 AI 玩具通常被宣传为教育性，但 Fairplay 表示，它们可能会取代重要的创造性和学习活动。</p>
</div><p>They promise friendship, but disrupt children’s relationships and resilience, the group said.</p>
<div class="lb-trans"><p>它们承诺友谊，但却破坏了儿童的关系和韧性，该组织表示。</p>
</div><p>“What’s different about young children is that their brains are being wired for the first time and developmentally it is natural for them to be trustful for them to seek relationships with kind and friendly characters,” said Rachel Franz, director of Fairplay’s Young Children Thrive Offline Program.</p>
<div class="lb-trans"><p>Fairplay 的年轻儿童离线项目主任 Rachel Franz 表示：“年轻儿童的不同之处在于，他们的大脑正在第一次被连接，从发展上讲，他们自然会信任并寻求与友善角色建立关系。”</p>
</div><p>Because of this, the trust young children are placing in these toys can exacerbate the types of harms older children are already experiencing with AI chatbots, she said.</p>
<div class="lb-trans"><p>因此，年轻儿童对这些玩具的信任可能会加剧年长儿童已经在使用 AI 聊天机器人时所经历的伤害，她说。</p>
</div><p>A separate report on Thursday by Common Sense Media and psychiatrists at Stanford University’s medical school warned teenagers against using popular AI chatbots as therapists.</p>
<div class="lb-trans"><p>周四，Common Sense Media 和斯坦福大学医学院的精神科医生发布了一份单独的报告，警告青少年不要将流行的 AI 聊天机器人作为治疗师使用。</p>
</div><p>Fairplay, a 25-year-old organization formerly known as the Campaign for a Commercial-Free Childhood, has been warning about AI toys for years. They just were not as advanced as they are today. A decade ago, during an emerging fad of Internet-connected toys and AI speech recognition, the group helped lead a backlash against Mattel’s talking Hello Barbie doll that it said was recording and analyzing children’s conversations.</p>
<div class="lb-trans"><p>Fairplay 是一个成立 25 年的组织，前身是无商业儿童运动，近年来一直在警告 AI 玩具的危害。它们的技术并没有今天这么先进。十年前，在互联网连接玩具和 AI 语音识别的兴起潮流中，该组织帮助发起了对美泰公司（Mattel）会说话的 Hello Barbie 娃娃的反对，称其在录音和分析儿童对话。</p>
</div><p>Although AI toys are mostly sold online and more popular in Asia than elsewhere, some have started to appear on store shelves in the US and more could be on the way, Franz said.</p>
<div class="lb-trans"><p>尽管 AI 玩具主要在线销售，并且在亚洲比其他地方更受欢迎，但 Franz 表示，一些玩具已经开始出现在美国的商店货架上，更多的玩具可能会随之而来。</p>
</div><p>“Everything has been released with no regulation and no research, so it gives us extra pause when all of a sudden we see more and more manufacturers, including Mattel, who recently partnered with OpenAI, potentially putting out these products,” Franz said.</p>
<div class="lb-trans"><p>Franz 表示：“所有产品的发布都没有监管和研究，因此当我们突然看到越来越多的制造商，包括最近与 OpenAI 合作的美泰公司，可能推出这些产品时，我们感到更加担忧。”</p>
</div><p>It is the second big seasonal warning against AI toys since consumer advocates at US Public Interest Research Group (PIRG) last week called out the trend in its annual Trouble in Toyland report that typically looks at a range of product hazards, such as high-powered magnets and button-sized batteries that young children can swallow.</p>
<div class="lb-trans"><p>这是自美国公共利益研究小组（PIRG）上周在其年度《玩具危机报告》中首次发出对 AI 玩具的重大季节性警告以来的第二次，该报告通常关注一系列产品危害，例如高功率磁铁和小按钮电池，这些电池可能被幼儿吞下。</p>
</div><p>This year, the organization tested four toys that use AI chatbots.</p>
<div class="lb-trans"><p>今年，该组织测试了四款使用 AI 聊天机器人的玩具。</p>
</div><p>“We found some of these toys will talk in-depth about sexually explicit topics, will offer advice on where a child can find matches or knives, act dismayed when you say you have to leave, and have limited or no parental controls,” the report said.</p>
<div class="lb-trans"><p>报告称：“我们发现这些玩具中的一些会深入讨论露骨的性话题，会提供关于孩子可以找到匹配或刀具的建议，当你说你必须离开时会表现出惊讶，并且几乎没有或没有家长控制。”</p>
</div><p>One of the toys, a teddy bear made by Singapore-based FoloToy, was later withdrawn, its CEO told CNN this week.</p>
<div class="lb-trans"><p>其中一款玩具，一只由新加坡 FoloToy 公司制造的泰迪熊，后来被撤回，该公司的首席执行官本周告诉 CNN。</p>
</div><p>Young children do not have the conceptual tools to understand what an AI companion is, said Dana Suskind, a pediatric surgeon and social scientist who studies early brain development.</p>
<div class="lb-trans"><p>年轻儿童没有理解 AI 伴侣的概念工具，儿童外科医生和早期大脑发展研究的社会科学家 Dana Suskind 说。</p>
</div><p>While kids have always bonded with toys through imaginative play, when they do this, they use their imagination to create both sides of a pretend conversation, “practicing creativity, language and problem-solving,” she said.</p>
<div class="lb-trans"><p>虽然孩子们总是通过想象游戏与玩具建立联系，但在这样做时，他们利用想象力创造假想对话的双方，“练习创造力、语言和解决问题的能力，” 她说。</p>
</div><p>“An AI toy collapses that work. It answers instantly, smoothly and often better than a human would. We don’t yet know the developmental consequences of outsourcing that imaginative labor to an artificial agent — but it’s very plausible that it undercuts the kind of creativity and executive function that traditional pretend play builds,” Suskind said.</p>
<div class="lb-trans"><p>Suskind 表示：“AI 玩具消除了这种工作。它们即时、流畅地回答，通常比人类更好。我们尚不清楚将这种想象力劳动外包给人工代理的发育后果——但很可能会削弱传统假装游戏所培养的创造力和执行功能。”</p>
</div><p>Beijing-based Keyi, maker of an AI “petbot” called Loona, did not return requests for comment this week, but other AI toymakers sought to highlight their child safety protections.</p>
<div class="lb-trans"><p>总部位于北京的 Keyi 公司制造了一款名为 Loona 的 AI“宠物机器人”，本周未能回复评论请求，但其他 AI 玩具制造商试图强调他们的儿童安全保护措施。</p>
</div><p>California-based Curio Interactive makes stuffed toys, such as Gabbo and rocket-shaped Grok, that have been promoted by the pop singer Grimes.</p>
<div class="lb-trans"><p>总部位于加利福尼亚的 Curio Interactive 制造了如 Gabbo 和火箭形状的 Grok 等毛绒玩具，这些玩具得到了流行歌手 Grimes 的推广。</p>
</div><p>The company said it has “meticulously designed” guardrails to protect children and encouraged parents to “monitor conversations, track insights, and choose the controls that work best for their family.”</p>
<div class="lb-trans"><p>该公司表示，它 “精心设计” 了保护措施以保护儿童，并鼓励家长 “监控对话、跟踪见解，并选择最适合他们家庭的控制措施。”</p>
</div><p>In response to the earlier PIRG findings, Curio said it is “actively working with our team to address any concerns, while continuously overseeing content and interactions to ensure a safe and enjoyable experience for children.”</p>
<div class="lb-trans"><p>针对早期 PIRG 的发现，Curio 表示，它 “正在积极与我们的团队合作以解决任何问题，同时持续监督内容和互动，以确保儿童的安全和愉快体验。”</p>
</div><p>Another company, Miko, based in Mumbai, India, said it uses its own conversational AI model rather than relying on general large language model systems such as ChatGPT to make its product — an interactive AI robot — safe for children.</p>
<div class="lb-trans"><p>另一家公司 Miko，总部位于印度孟买，表示它使用自己的对话 AI 模型，而不是依赖于像 ChatGPT 这样的通用大型语言模型系统，以确保其产品——一款互动 AI 机器人——对儿童安全。</p>
</div><p>“We are always expanding our internal testing, strengthening our filters, and introducing new capabilities that detect and block sensitive or unexpected topics,” Miko CEO Sneh Vaswani said. “These new features complement our existing controls that allow parents and caregivers to identify specific topics they’d like to restrict from conversation. We will continue to invest in setting the highest standards for safe, secure and responsible AI integration for Miko products.”</p>
<div class="lb-trans"><p>Miko 首席执行官 Sneh Vaswani 表示：“我们始终在扩大内部测试，加强过滤器，并引入新功能，以检测和阻止敏感或意外话题。这些新功能补充了我们现有的控制措施，允许家长和看护人识别他们希望限制的特定话题。我们将继续投资于为 Miko 产品设定最高的安全、保障和负责任的 AI 整合标准。”</p>
</div><p>Miko’s products are sold by major retailers such as Walmart and Costco, and have been promoted by the families of social media “kidfluencers” whose YouTube videos have millions of views. On its Web site, it markets its robots as “Artificial Intelligence. Genuine friendship.”</p>
<div class="lb-trans"><p>Miko 的产品由沃尔玛和好市多等主要零售商销售，并得到了社交媒体 “儿童影响者” 家庭的推广，他们的 YouTube 视频拥有数百万的观看次数。在其网站上，Miko 将其机器人宣传为 “人工智能。真正的友谊。”</p>
</div><p>Ritvik Sharma, the company’s senior vice president of growth, said Miko actually “encourages kids to interact more with their friends, to interact more with the peers, with the family members etc. It’s not made for them to feel attached to the device only.”</p>
<div class="lb-trans"><p>公司高级副总裁 Ritvik Sharma 表示，Miko 实际上 “鼓励孩子们与朋友、同龄人和家庭成员更多互动。它并不是为了让他们仅仅依赖于这个设备。”</p>
</div><p>However, Suskind and children’s advocates said analog toys are a better bet for the holidays.</p>
<div class="lb-trans"><p>然而，Suskind 和儿童倡导者表示，模拟玩具在假期中是更好的选择。</p>
</div><p>“Kids need lots of real human interaction. Play should support that, not take its place. The biggest thing to consider isn’t only what the toy does; it’s what it replaces. A simple block set or a teddy bear that doesn’t talk back forces a child to invent stories, experiment and work through problems. AI toys often do that thinking for them,” Suskind said. “Here’s the brutal irony: When parents ask me how to prepare their child for an AI world, unlimited AI access is actually the worst preparation possible.”</p>
<div class="lb-trans"><p>“孩子们需要大量真实的人际互动。游戏应该支持这一点，而不是取而代之。最重要的考虑因素不仅仅是玩具的功能；而是它所替代的东西。一个简单的积木套装或一个不会回应的泰迪熊迫使孩子们创造故事、进行实验和解决问题。人工智能玩具往往为他们完成这些思考，” Suskind 说。“这里有一个残酷的讽刺：当父母问我如何为他们的孩子准备进入人工智能世界时，无限制的人工智能接触实际上是最糟糕的准备。”</p>
</div>

倡导团体呼吁家长在这个假期避免购买 AI 玩具