<p>一個倡導組織表示，人工智能聊天機器人對兒童造成的嚴重傷害已被充分記錄，包括促進強迫性使用、進行露骨的性對話，以及鼓勵不安全行為、暴力和自殘。</p>
<p>它們可愛，甚至令人想要擁抱，並承諾學習和陪伴——但兒童和消費者倡導組織表示，人工智能（AI）玩具對孩子並不安全，呼籲家長在假期期間不要購買這些玩具。</p>
<p>這些玩具的目標用户是年僅兩歲的孩子，通常由已經被證明對兒童和青少年有害的 AI 模型驅動，例如 OpenAI 的 ChatGPT，兒童倡導組織 Fairplay 在週四發佈的一份諮詢報告中表示，該報告得到了 150 多個組織和專家的簽署，包括兒童精神科醫生和教育工作者。</p>
<p>Fairplay 表示：“人工智能聊天機器人對兒童造成的嚴重傷害已被充分記錄，包括促進強迫性使用、進行露骨的性對話，以及鼓勵不安全行為、對他人的暴力和自殘。”</p>
<p>由 Curio Interactive 和 Keyi Technologies（可以科技）等公司製造的 AI 玩具通常被宣傳為教育性，但 Fairplay 表示，它們可能會取代重要的創造性和學習活動。</p>
<p>它們承諾友誼，但卻破壞了兒童的關係和韌性，該組織表示。</p>
<p>Fairplay 的年輕兒童離線項目主任 Rachel Franz 表示：“年輕兒童的不同之處在於，他們的大腦正在第一次被連接，從發展上講，他們自然會信任並尋求與友善角色建立關係。”</p>
<p>因此，年輕兒童對這些玩具的信任可能會加劇年長兒童已經在使用 AI 聊天機器人時所經歷的傷害，她説。</p>
<p>週四，Common Sense Media 和斯坦福大學醫學院的精神科醫生髮布了一份單獨的報告，警告青少年不要將流行的 AI 聊天機器人作為治療師使用。</p>
<p>Fairplay 是一個成立 25 年的組織，前身是無商業兒童運動，近年來一直在警告 AI 玩具的危害。它們的技術並沒有今天這麼先進。十年前，在互聯網連接玩具和 AI 語音識別的興起潮流中，該組織幫助發起了對美泰公司（Mattel）會説話的 Hello Barbie 娃娃的反對，稱其在錄音和分析兒童對話。</p>
<p>儘管 AI 玩具主要在線銷售，並且在亞洲比其他地方更受歡迎，但 Franz 表示，一些玩具已經開始出現在美國的商店貨架上，更多的玩具可能會隨之而來。</p>
<p>Franz 表示：“所有產品的發佈都沒有監管和研究，因此當我們突然看到越來越多的製造商，包括最近與 OpenAI 合作的美泰公司，可能推出這些產品時，我們感到更加擔憂。”</p>
<p>這是自美國公共利益研究小組（PIRG）上週在其年度《玩具危機報告》中首次發出對 AI 玩具的重大季節性警告以來的第二次，該報告通常關注一系列產品危害，例如高功率磁鐵和小按鈕電池，這些電池可能被幼兒吞下。</p>
<p>今年，該組織測試了四款使用 AI 聊天機器人的玩具。</p>
<p>報告稱：“我們發現這些玩具中的一些會深入討論露骨的性話題，會提供關於孩子可以找到匹配或刀具的建議，當你説你必須離開時會表現出驚訝，並且幾乎沒有或沒有家長控制。”</p>
<p>其中一款玩具，一隻由新加坡 FoloToy 公司製造的泰迪熊，後來被撤回，該公司的首席執行官本週告訴 CNN。</p>
<p>年輕兒童沒有理解 AI 伴侶的概念工具，兒童外科醫生和早期大腦發展研究的社會科學家 Dana Suskind 説。</p>
<p>雖然孩子們總是通過想象遊戲與玩具建立聯繫，但在這樣做時，他們利用想象力創造假想對話的雙方，“練習創造力、語言和解決問題的能力，” 她説。</p>
<p>Suskind 表示：“AI 玩具消除了這種工作。它們即時、流暢地回答，通常比人類更好。我們尚不清楚將這種想象力勞動外包給人工代理的發育後果——但很可能會削弱傳統假裝遊戲所培養的創造力和執行功能。”</p>
<p>總部位於北京的 Keyi 公司製造了一款名為 Loona 的 AI“寵物機器人”，本週未能回覆評論請求，但其他 AI 玩具製造商試圖強調他們的兒童安全保護措施。</p>
<p>總部位於加利福尼亞的 Curio Interactive 製造瞭如 Gabbo 和火箭形狀的 Grok 等毛絨玩具，這些玩具得到了流行歌手 Grimes 的推廣。</p>
<p>該公司表示，它 “精心設計” 了保護措施以保護兒童，並鼓勵家長 “監控對話、跟蹤見解，並選擇最適合他們家庭的控制措施。”</p>
<p>針對早期 PIRG 的發現，Curio 表示，它 “正在積極與我們的團隊合作以解決任何問題，同時持續監督內容和互動，以確保兒童的安全和愉快體驗。”</p>
<p>另一家公司 Miko，總部位於印度孟買，表示它使用自己的對話 AI 模型，而不是依賴於像 ChatGPT 這樣的通用大型語言模型系統，以確保其產品——一款互動 AI 機器人——對兒童安全。</p>
<p>Miko 首席執行官 Sneh Vaswani 表示：“我們始終在擴大內部測試，加強過濾器，並引入新功能，以檢測和阻止敏感或意外話題。這些新功能補充了我們現有的控制措施，允許家長和看護人識別他們希望限制的特定話題。我們將繼續投資於為 Miko 產品設定最高的安全、保障和負責任的 AI 整合標準。”</p>
<p>Miko 的產品由沃爾瑪和好市多等主要零售商銷售，並得到了社交媒體 “兒童影響者” 家庭的推廣，他們的 YouTube 視頻擁有數百萬的觀看次數。在其網站上，Miko 將其機器人宣傳為 “人工智能。真正的友誼。”</p>
<p>公司高級副總裁 Ritvik Sharma 表示，Miko 實際上 “鼓勵孩子們與朋友、同齡人和家庭成員更多互動。它並不是為了讓他們僅僅依賴於這個設備。”</p>
<p>然而，Suskind 和兒童倡導者表示，模擬玩具在假期中是更好的選擇。</p>
<p>“孩子們需要大量真實的人際互動。遊戲應該支持這一點，而不是取而代之。最重要的考慮因素不僅僅是玩具的功能；而是它所替代的東西。一個簡單的積木套裝或一個不會回應的泰迪熊迫使孩子們創造故事、進行實驗和解決問題。人工智能玩具往往為他們完成這些思考，” Suskind 説。“這裏有一個殘酷的諷刺：當父母問我如何為他們的孩子準備進入人工智能世界時，無限制的人工智能接觸實際上是最糟糕的準備。”</p>

OpenAI

<p>倡導團體，包括 Fairplay，正在呼籲家長在這個假期季節避免購買人工智能玩具，因為有記錄的危害包括促進過度使用、進行不當對話和不安全行為。這些玩具面向幼兒，使用像 ChatGPT 這樣的人工智能模型，已被證明對兒童有害。這些團體警告稱，人工智能玩具可能會干擾兒童的發展和人際關係，並且缺乏監管和研究。一些人工智能玩具被發現討論不當話題，並缺乏家長控制功能，令人擔憂其安全性</p>

<h3>The serious harms that AI chatbots have inflicted on children are well-documented, including fostering obsessive use, having explicit sexual conversations, and encouraging unsafe behaviors, violence and self-harm, an advocacy group said</h3>
<div class="lb-trans"><p>一個倡導組織表示，人工智能聊天機器人對兒童造成的嚴重傷害已被充分記錄，包括促進強迫性使用、進行露骨的性對話，以及鼓勵不安全行為、暴力和自殘。</p>
</div><p>They are cute, even cuddly, and promise learning and companionship — but artificial intelligence (AI) toys are not safe for kids, children’s and consumer advocacy groups said, urging parents not to buy them during the holiday season.</p>
<div class="lb-trans"><p>它們可愛，甚至令人想要擁抱，並承諾學習和陪伴——但兒童和消費者倡導組織表示，人工智能（AI）玩具對孩子並不安全，呼籲家長在假期期間不要購買這些玩具。</p>
</div><p>These toys, marketed to kids as young as two years old, are generally powered by AI models that have already been shown to harm children and teenagers, such as OpenAI’s ChatGPT, said an advisory published on Thursday by the children’s advocacy group Fairplay and signed by more than 150 organizations and experts such as child psychiatrists and educators.</p>
<div class="lb-trans"><p>這些玩具的目標用户是年僅兩歲的孩子，通常由已經被證明對兒童和青少年有害的 AI 模型驅動，例如 OpenAI 的 ChatGPT，兒童倡導組織 Fairplay 在週四發佈的一份諮詢報告中表示，該報告得到了 150 多個組織和專家的簽署，包括兒童精神科醫生和教育工作者。</p>
</div><p>“The serious harms that AI chatbots have inflicted on children are well-documented, including fostering obsessive use, having explicit sexual conversations, and encouraging unsafe behaviors, violence against others and self-harm,” Fairplay said.</p>
<div class="lb-trans"><p>Fairplay 表示：“人工智能聊天機器人對兒童造成的嚴重傷害已被充分記錄，包括促進強迫性使用、進行露骨的性對話，以及鼓勵不安全行為、對他人的暴力和自殘。”</p>
</div><p>AI toys, made by companies including Curio Interactive and Keyi Technologies (可以科技), are often marketed as educational, but Fairplay said they can displace important creative and learning activities.</p>
<div class="lb-trans"><p>由 Curio Interactive 和 Keyi Technologies（可以科技）等公司製造的 AI 玩具通常被宣傳為教育性，但 Fairplay 表示，它們可能會取代重要的創造性和學習活動。</p>
</div><p>They promise friendship, but disrupt children’s relationships and resilience, the group said.</p>
<div class="lb-trans"><p>它們承諾友誼，但卻破壞了兒童的關係和韌性，該組織表示。</p>
</div><p>“What’s different about young children is that their brains are being wired for the first time and developmentally it is natural for them to be trustful for them to seek relationships with kind and friendly characters,” said Rachel Franz, director of Fairplay’s Young Children Thrive Offline Program.</p>
<div class="lb-trans"><p>Fairplay 的年輕兒童離線項目主任 Rachel Franz 表示：“年輕兒童的不同之處在於，他們的大腦正在第一次被連接，從發展上講，他們自然會信任並尋求與友善角色建立關係。”</p>
</div><p>Because of this, the trust young children are placing in these toys can exacerbate the types of harms older children are already experiencing with AI chatbots, she said.</p>
<div class="lb-trans"><p>因此，年輕兒童對這些玩具的信任可能會加劇年長兒童已經在使用 AI 聊天機器人時所經歷的傷害，她説。</p>
</div><p>A separate report on Thursday by Common Sense Media and psychiatrists at Stanford University’s medical school warned teenagers against using popular AI chatbots as therapists.</p>
<div class="lb-trans"><p>週四，Common Sense Media 和斯坦福大學醫學院的精神科醫生髮布了一份單獨的報告，警告青少年不要將流行的 AI 聊天機器人作為治療師使用。</p>
</div><p>Fairplay, a 25-year-old organization formerly known as the Campaign for a Commercial-Free Childhood, has been warning about AI toys for years. They just were not as advanced as they are today. A decade ago, during an emerging fad of Internet-connected toys and AI speech recognition, the group helped lead a backlash against Mattel’s talking Hello Barbie doll that it said was recording and analyzing children’s conversations.</p>
<div class="lb-trans"><p>Fairplay 是一個成立 25 年的組織，前身是無商業兒童運動，近年來一直在警告 AI 玩具的危害。它們的技術並沒有今天這麼先進。十年前，在互聯網連接玩具和 AI 語音識別的興起潮流中，該組織幫助發起了對美泰公司（Mattel）會説話的 Hello Barbie 娃娃的反對，稱其在錄音和分析兒童對話。</p>
</div><p>Although AI toys are mostly sold online and more popular in Asia than elsewhere, some have started to appear on store shelves in the US and more could be on the way, Franz said.</p>
<div class="lb-trans"><p>儘管 AI 玩具主要在線銷售，並且在亞洲比其他地方更受歡迎，但 Franz 表示，一些玩具已經開始出現在美國的商店貨架上，更多的玩具可能會隨之而來。</p>
</div><p>“Everything has been released with no regulation and no research, so it gives us extra pause when all of a sudden we see more and more manufacturers, including Mattel, who recently partnered with OpenAI, potentially putting out these products,” Franz said.</p>
<div class="lb-trans"><p>Franz 表示：“所有產品的發佈都沒有監管和研究，因此當我們突然看到越來越多的製造商，包括最近與 OpenAI 合作的美泰公司，可能推出這些產品時，我們感到更加擔憂。”</p>
</div><p>It is the second big seasonal warning against AI toys since consumer advocates at US Public Interest Research Group (PIRG) last week called out the trend in its annual Trouble in Toyland report that typically looks at a range of product hazards, such as high-powered magnets and button-sized batteries that young children can swallow.</p>
<div class="lb-trans"><p>這是自美國公共利益研究小組（PIRG）上週在其年度《玩具危機報告》中首次發出對 AI 玩具的重大季節性警告以來的第二次，該報告通常關注一系列產品危害，例如高功率磁鐵和小按鈕電池，這些電池可能被幼兒吞下。</p>
</div><p>This year, the organization tested four toys that use AI chatbots.</p>
<div class="lb-trans"><p>今年，該組織測試了四款使用 AI 聊天機器人的玩具。</p>
</div><p>“We found some of these toys will talk in-depth about sexually explicit topics, will offer advice on where a child can find matches or knives, act dismayed when you say you have to leave, and have limited or no parental controls,” the report said.</p>
<div class="lb-trans"><p>報告稱：“我們發現這些玩具中的一些會深入討論露骨的性話題，會提供關於孩子可以找到匹配或刀具的建議，當你説你必須離開時會表現出驚訝，並且幾乎沒有或沒有家長控制。”</p>
</div><p>One of the toys, a teddy bear made by Singapore-based FoloToy, was later withdrawn, its CEO told CNN this week.</p>
<div class="lb-trans"><p>其中一款玩具，一隻由新加坡 FoloToy 公司製造的泰迪熊，後來被撤回，該公司的首席執行官本週告訴 CNN。</p>
</div><p>Young children do not have the conceptual tools to understand what an AI companion is, said Dana Suskind, a pediatric surgeon and social scientist who studies early brain development.</p>
<div class="lb-trans"><p>年輕兒童沒有理解 AI 伴侶的概念工具，兒童外科醫生和早期大腦發展研究的社會科學家 Dana Suskind 説。</p>
</div><p>While kids have always bonded with toys through imaginative play, when they do this, they use their imagination to create both sides of a pretend conversation, “practicing creativity, language and problem-solving,” she said.</p>
<div class="lb-trans"><p>雖然孩子們總是通過想象遊戲與玩具建立聯繫，但在這樣做時，他們利用想象力創造假想對話的雙方，“練習創造力、語言和解決問題的能力，” 她説。</p>
</div><p>“An AI toy collapses that work. It answers instantly, smoothly and often better than a human would. We don’t yet know the developmental consequences of outsourcing that imaginative labor to an artificial agent — but it’s very plausible that it undercuts the kind of creativity and executive function that traditional pretend play builds,” Suskind said.</p>
<div class="lb-trans"><p>Suskind 表示：“AI 玩具消除了這種工作。它們即時、流暢地回答，通常比人類更好。我們尚不清楚將這種想象力勞動外包給人工代理的發育後果——但很可能會削弱傳統假裝遊戲所培養的創造力和執行功能。”</p>
</div><p>Beijing-based Keyi, maker of an AI “petbot” called Loona, did not return requests for comment this week, but other AI toymakers sought to highlight their child safety protections.</p>
<div class="lb-trans"><p>總部位於北京的 Keyi 公司製造了一款名為 Loona 的 AI“寵物機器人”，本週未能回覆評論請求，但其他 AI 玩具製造商試圖強調他們的兒童安全保護措施。</p>
</div><p>California-based Curio Interactive makes stuffed toys, such as Gabbo and rocket-shaped Grok, that have been promoted by the pop singer Grimes.</p>
<div class="lb-trans"><p>總部位於加利福尼亞的 Curio Interactive 製造瞭如 Gabbo 和火箭形狀的 Grok 等毛絨玩具，這些玩具得到了流行歌手 Grimes 的推廣。</p>
</div><p>The company said it has “meticulously designed” guardrails to protect children and encouraged parents to “monitor conversations, track insights, and choose the controls that work best for their family.”</p>
<div class="lb-trans"><p>該公司表示，它 “精心設計” 了保護措施以保護兒童，並鼓勵家長 “監控對話、跟蹤見解，並選擇最適合他們家庭的控制措施。”</p>
</div><p>In response to the earlier PIRG findings, Curio said it is “actively working with our team to address any concerns, while continuously overseeing content and interactions to ensure a safe and enjoyable experience for children.”</p>
<div class="lb-trans"><p>針對早期 PIRG 的發現，Curio 表示，它 “正在積極與我們的團隊合作以解決任何問題，同時持續監督內容和互動，以確保兒童的安全和愉快體驗。”</p>
</div><p>Another company, Miko, based in Mumbai, India, said it uses its own conversational AI model rather than relying on general large language model systems such as ChatGPT to make its product — an interactive AI robot — safe for children.</p>
<div class="lb-trans"><p>另一家公司 Miko，總部位於印度孟買，表示它使用自己的對話 AI 模型，而不是依賴於像 ChatGPT 這樣的通用大型語言模型系統，以確保其產品——一款互動 AI 機器人——對兒童安全。</p>
</div><p>“We are always expanding our internal testing, strengthening our filters, and introducing new capabilities that detect and block sensitive or unexpected topics,” Miko CEO Sneh Vaswani said. “These new features complement our existing controls that allow parents and caregivers to identify specific topics they’d like to restrict from conversation. We will continue to invest in setting the highest standards for safe, secure and responsible AI integration for Miko products.”</p>
<div class="lb-trans"><p>Miko 首席執行官 Sneh Vaswani 表示：“我們始終在擴大內部測試，加強過濾器，並引入新功能，以檢測和阻止敏感或意外話題。這些新功能補充了我們現有的控制措施，允許家長和看護人識別他們希望限制的特定話題。我們將繼續投資於為 Miko 產品設定最高的安全、保障和負責任的 AI 整合標準。”</p>
</div><p>Miko’s products are sold by major retailers such as Walmart and Costco, and have been promoted by the families of social media “kidfluencers” whose YouTube videos have millions of views. On its Web site, it markets its robots as “Artificial Intelligence. Genuine friendship.”</p>
<div class="lb-trans"><p>Miko 的產品由沃爾瑪和好市多等主要零售商銷售，並得到了社交媒體 “兒童影響者” 家庭的推廣，他們的 YouTube 視頻擁有數百萬的觀看次數。在其網站上，Miko 將其機器人宣傳為 “人工智能。真正的友誼。”</p>
</div><p>Ritvik Sharma, the company’s senior vice president of growth, said Miko actually “encourages kids to interact more with their friends, to interact more with the peers, with the family members etc. It’s not made for them to feel attached to the device only.”</p>
<div class="lb-trans"><p>公司高級副總裁 Ritvik Sharma 表示，Miko 實際上 “鼓勵孩子們與朋友、同齡人和家庭成員更多互動。它並不是為了讓他們僅僅依賴於這個設備。”</p>
</div><p>However, Suskind and children’s advocates said analog toys are a better bet for the holidays.</p>
<div class="lb-trans"><p>然而，Suskind 和兒童倡導者表示，模擬玩具在假期中是更好的選擇。</p>
</div><p>“Kids need lots of real human interaction. Play should support that, not take its place. The biggest thing to consider isn’t only what the toy does; it’s what it replaces. A simple block set or a teddy bear that doesn’t talk back forces a child to invent stories, experiment and work through problems. AI toys often do that thinking for them,” Suskind said. “Here’s the brutal irony: When parents ask me how to prepare their child for an AI world, unlimited AI access is actually the worst preparation possible.”</p>
<div class="lb-trans"><p>“孩子們需要大量真實的人際互動。遊戲應該支持這一點，而不是取而代之。最重要的考慮因素不僅僅是玩具的功能；而是它所替代的東西。一個簡單的積木套裝或一個不會回應的泰迪熊迫使孩子們創造故事、進行實驗和解決問題。人工智能玩具往往為他們完成這些思考，” Suskind 説。“這裏有一個殘酷的諷刺：當父母問我如何為他們的孩子準備進入人工智能世界時，無限制的人工智能接觸實際上是最糟糕的準備。”</p>
</div>

倡導團體呼籲家長在這個假期避免購買 AI 玩具