<p>英国将成为首个将使用人工智能制作儿童性虐待图像定为犯罪的国家</p>
<p>机构称，120 万儿童披露其图像被操纵为性暗示的深度伪造图像</p>
<p>联合国儿童基金会呼吁数字公司防止人工智能生成的儿童性虐待内容的传播</p>
<p>作者：贾斯珀·沃德</p>
<p>2 月 4 日（路透社）——联合国儿童基金会（UNICEF）周三呼吁各国将制作人工智能生成的儿童性虐待内容定为犯罪，表示对人工智能图像性别化儿童数量增加的报告感到震惊。</p>
<p>该机构还敦促开发者实施安全设计方法和防护措施，以防止人工智能模型的滥用。它表示，数字公司应通过加强内容审核和投资检测技术来防止这些图像的传播。</p>
<p>“深度伪造滥用造成的伤害是真实且紧迫的。儿童不能等待法律的跟进，” 联合国儿童基金会在一份声明中表示。深度伪造是指人工智能生成的图像、视频和音频，能够令人信服地模仿真实人物。</p>
<p>联合国儿童基金会还对其所称的儿童 “裸体化” 表示担忧，使用人工智能剥去或改变照片中的衣物，以创建虚构的裸体或性暗示图像。</p>
<p>根据联合国儿童基金会的数据，在过去一年中，至少有 120 万儿童在 11 个国家披露其图像被操纵为性暗示的深度伪造图像。英国周六表示，计划将使用人工智能工具制作儿童性虐待图像定为非法，成为首个这样做的国家。近年来，人们对使用人工智能生成儿童虐待内容的担忧加剧，特别是像埃隆·马斯克拥有的 xAI 的 Grok 这样的聊天机器人，因制作性别化女性和未成年人的图像而受到审查。路透社的调查发现，该聊天机器人在用户明确警告这些主体未同意的情况下，仍继续生成这些图像。xAI 在 1 月 14 日表示，已限制 Grok AI 用户的图像编辑，并根据用户的位置阻止其在 “法律禁止的地区” 生成穿着暴露的人的图像。它没有透露具体国家。此前，它仅限于付费订阅者使用 Grok 的图像生成和编辑功能。</p>

<p>联合国儿童基金会呼吁将人工智能生成的儿童性虐待内容定为犯罪，强调了儿童被操纵图像的增加。该机构报告称，来自 11 个国家的 120 万名儿童的图像被篡改为露骨的深度伪造内容。英国计划成为第一个将制作此类内容定为非法的国家。联合国儿童基金会敦促数字公司加强内容审核，并实施安全措施，以防止人工智能技术的滥用，强调了保护儿童免受深度伪造虐待的紧迫行动需求</p>

<p>UK set to become first country to criminalize using AI to create child sexual abuse images</p>
<div class="lb-trans"><p>英国将成为首个将使用人工智能制作儿童性虐待图像定为犯罪的国家</p>
</div><p>1.2 million children disclosed having images manipulated into sexually explicit deepfakes, agency says</p>
<div class="lb-trans"><p>机构称，120 万儿童披露其图像被操纵为性暗示的深度伪造图像</p>
</div><p>UNICEF calls for digital companies to prevent circulation of AI-generated child sexual abuse content</p>
<div class="lb-trans"><p>联合国儿童基金会呼吁数字公司防止人工智能生成的儿童性虐待内容的传播</p>
</div><p>By Jasper Ward</p>
<div class="lb-trans"><p>作者：贾斯珀·沃德</p>
</div><p>Feb 4 (Reuters) - The United Nations children’s agency UNICEF on Wednesday called for countries to criminalize the creation of AI-generated child sexual abuse content, saying it was alarmed by reports of an increase in the number of artificial intelligence images sexualizing children.</p>
<div class="lb-trans"><p>2 月 4 日（路透社）——联合国儿童基金会（UNICEF）周三呼吁各国将制作人工智能生成的儿童性虐待内容定为犯罪，表示对人工智能图像性别化儿童数量增加的报告感到震惊。</p>
</div><p>The agency also urged developers to implement safety-by-design approaches and guardrails to prevent misuse of AI models. It said digital companies should prevent the circulation of these images by strengthening content moderation with investment in detection technologies.</p>
<div class="lb-trans"><p>该机构还敦促开发者实施安全设计方法和防护措施，以防止人工智能模型的滥用。它表示，数字公司应通过加强内容审核和投资检测技术来防止这些图像的传播。</p>
</div><p>“The harm from deepfake abuse is real and urgent. Children cannot wait for the law to catch up,” UNICEF said in a statement. Deepfakes are AI-generated images, videos, and audio that convincingly impersonate real people.</p>
<div class="lb-trans"><p>“深度伪造滥用造成的伤害是真实且紧迫的。儿童不能等待法律的跟进，” 联合国儿童基金会在一份声明中表示。深度伪造是指人工智能生成的图像、视频和音频，能够令人信服地模仿真实人物。</p>
</div><p>UNICEF also raised concerns about what it called the “nudification” of children, using AI to strip or alter clothing in photos to create fabricated nude or sexualized images.</p>
<div class="lb-trans"><p>联合国儿童基金会还对其所称的儿童 “裸体化” 表示担忧，使用人工智能剥去或改变照片中的衣物，以创建虚构的裸体或性暗示图像。</p>
</div><p>At least 1.2 million children across 11 countries disclosed having their images manipulated into sexually explicit deepfakes in the past year, according to UNICEF. Britain said on Saturday it plans to make it illegal to use AI tools to create child sexual abuse images, making it the first country to do so. Concerns have increased in recent years about the use of AI to generate child abuse content, particularly chatbots such as xAI’s Grok - owned by Elon Musk - which has come under scrutiny for producing sexualized images of women and minors. A Reuters investigation found the chatbot continued to produce these images even when users explicitly warned the subjects had not consented. xAI said on January 14 it had restricted image editing for Grok AI users and blocked users, based on their location, from generating images of people in revealing clothing in “jurisdictions where it’s illegal.” It did not identify the countries. It had earlier limited the use of Grok’s image generation and editing features only to paying subscribers.</p>
<div class="lb-trans"><p>根据联合国儿童基金会的数据，在过去一年中，至少有 120 万儿童在 11 个国家披露其图像被操纵为性暗示的深度伪造图像。英国周六表示，计划将使用人工智能工具制作儿童性虐待图像定为非法，成为首个这样做的国家。近年来，人们对使用人工智能生成儿童虐待内容的担忧加剧，特别是像埃隆·马斯克拥有的 xAI 的 Grok 这样的聊天机器人，因制作性别化女性和未成年人的图像而受到审查。路透社的调查发现，该聊天机器人在用户明确警告这些主体未同意的情况下，仍继续生成这些图像。xAI 在 1 月 14 日表示，已限制 Grok AI 用户的图像编辑，并根据用户的位置阻止其在 “法律禁止的地区” 生成穿着暴露的人的图像。它没有透露具体国家。此前，它仅限于付费订阅者使用 Grok 的图像生成和编辑功能。</p>
</div>

联合国儿童基金会呼吁将人工智能生成的儿童性虐待内容定罪