<p>英國將成為首個將使用人工智能製作兒童性虐待圖像定為犯罪的國家</p>
<p>機構稱，120 萬兒童披露其圖像被操縱為性暗示的深度偽造圖像</p>
<p>聯合國兒童基金會呼籲數字公司防止人工智能生成的兒童性虐待內容的傳播</p>
<p>作者：賈斯珀·沃德</p>
<p>2 月 4 日（路透社）——聯合國兒童基金會（UNICEF）週三呼籲各國將製作人工智能生成的兒童性虐待內容定為犯罪，表示對人工智能圖像性別化兒童數量增加的報告感到震驚。</p>
<p>該機構還敦促開發者實施安全設計方法和防護措施，以防止人工智能模型的濫用。它表示，數字公司應通過加強內容審核和投資檢測技術來防止這些圖像的傳播。</p>
<p>“深度偽造濫用造成的傷害是真實且緊迫的。兒童不能等待法律的跟進，” 聯合國兒童基金會在一份聲明中表示。深度偽造是指人工智能生成的圖像、視頻和音頻，能夠令人信服地模仿真實人物。</p>
<p>聯合國兒童基金會還對其所稱的兒童 “裸體化” 表示擔憂，使用人工智能剝去或改變照片中的衣物，以創建虛構的裸體或性暗示圖像。</p>
<p>根據聯合國兒童基金會的數據，在過去一年中，至少有 120 萬兒童在 11 個國家披露其圖像被操縱為性暗示的深度偽造圖像。英國週六表示，計劃將使用人工智能工具製作兒童性虐待圖像定為非法，成為首個這樣做的國家。近年來，人們對使用人工智能生成兒童虐待內容的擔憂加劇，特別是像埃隆·馬斯克擁有的 xAI 的 Grok 這樣的聊天機器人，因製作性別化女性和未成年人的圖像而受到審查。路透社的調查發現，該聊天機器人在用户明確警告這些主體未同意的情況下，仍繼續生成這些圖像。xAI 在 1 月 14 日表示，已限制 Grok AI 用户的圖像編輯，並根據用户的位置阻止其在 “法律禁止的地區” 生成穿着暴露的人的圖像。它沒有透露具體國家。此前，它僅限於付費訂閲者使用 Grok 的圖像生成和編輯功能。</p>

<p>聯合國兒童基金會呼籲將人工智能生成的兒童性虐待內容定為犯罪，強調了兒童被操縱圖像的增加。該機構報告稱，來自 11 個國家的 120 萬名兒童的圖像被篡改為露骨的深度偽造內容。英國計劃成為第一個將製作此類內容定為非法的國家。聯合國兒童基金會敦促數字公司加強內容審核，並實施安全措施，以防止人工智能技術的濫用，強調了保護兒童免受深度偽造虐待的緊迫行動需求</p>

<p>UK set to become first country to criminalize using AI to create child sexual abuse images</p>
<div class="lb-trans"><p>英國將成為首個將使用人工智能製作兒童性虐待圖像定為犯罪的國家</p>
</div><p>1.2 million children disclosed having images manipulated into sexually explicit deepfakes, agency says</p>
<div class="lb-trans"><p>機構稱，120 萬兒童披露其圖像被操縱為性暗示的深度偽造圖像</p>
</div><p>UNICEF calls for digital companies to prevent circulation of AI-generated child sexual abuse content</p>
<div class="lb-trans"><p>聯合國兒童基金會呼籲數字公司防止人工智能生成的兒童性虐待內容的傳播</p>
</div><p>By Jasper Ward</p>
<div class="lb-trans"><p>作者：賈斯珀·沃德</p>
</div><p>Feb 4 (Reuters) - The United Nations children’s agency UNICEF on Wednesday called for countries to criminalize the creation of AI-generated child sexual abuse content, saying it was alarmed by reports of an increase in the number of artificial intelligence images sexualizing children.</p>
<div class="lb-trans"><p>2 月 4 日（路透社）——聯合國兒童基金會（UNICEF）週三呼籲各國將製作人工智能生成的兒童性虐待內容定為犯罪，表示對人工智能圖像性別化兒童數量增加的報告感到震驚。</p>
</div><p>The agency also urged developers to implement safety-by-design approaches and guardrails to prevent misuse of AI models. It said digital companies should prevent the circulation of these images by strengthening content moderation with investment in detection technologies.</p>
<div class="lb-trans"><p>該機構還敦促開發者實施安全設計方法和防護措施，以防止人工智能模型的濫用。它表示，數字公司應通過加強內容審核和投資檢測技術來防止這些圖像的傳播。</p>
</div><p>“The harm from deepfake abuse is real and urgent. Children cannot wait for the law to catch up,” UNICEF said in a statement. Deepfakes are AI-generated images, videos, and audio that convincingly impersonate real people.</p>
<div class="lb-trans"><p>“深度偽造濫用造成的傷害是真實且緊迫的。兒童不能等待法律的跟進，” 聯合國兒童基金會在一份聲明中表示。深度偽造是指人工智能生成的圖像、視頻和音頻，能夠令人信服地模仿真實人物。</p>
</div><p>UNICEF also raised concerns about what it called the “nudification” of children, using AI to strip or alter clothing in photos to create fabricated nude or sexualized images.</p>
<div class="lb-trans"><p>聯合國兒童基金會還對其所稱的兒童 “裸體化” 表示擔憂，使用人工智能剝去或改變照片中的衣物，以創建虛構的裸體或性暗示圖像。</p>
</div><p>At least 1.2 million children across 11 countries disclosed having their images manipulated into sexually explicit deepfakes in the past year, according to UNICEF. Britain said on Saturday it plans to make it illegal to use AI tools to create child sexual abuse images, making it the first country to do so. Concerns have increased in recent years about the use of AI to generate child abuse content, particularly chatbots such as xAI’s Grok - owned by Elon Musk - which has come under scrutiny for producing sexualized images of women and minors. A Reuters investigation found the chatbot continued to produce these images even when users explicitly warned the subjects had not consented. xAI said on January 14 it had restricted image editing for Grok AI users and blocked users, based on their location, from generating images of people in revealing clothing in “jurisdictions where it’s illegal.” It did not identify the countries. It had earlier limited the use of Grok’s image generation and editing features only to paying subscribers.</p>
<div class="lb-trans"><p>根據聯合國兒童基金會的數據，在過去一年中，至少有 120 萬兒童在 11 個國家披露其圖像被操縱為性暗示的深度偽造圖像。英國週六表示，計劃將使用人工智能工具製作兒童性虐待圖像定為非法，成為首個這樣做的國家。近年來，人們對使用人工智能生成兒童虐待內容的擔憂加劇，特別是像埃隆·馬斯克擁有的 xAI 的 Grok 這樣的聊天機器人，因製作性別化女性和未成年人的圖像而受到審查。路透社的調查發現，該聊天機器人在用户明確警告這些主體未同意的情況下，仍繼續生成這些圖像。xAI 在 1 月 14 日表示，已限制 Grok AI 用户的圖像編輯，並根據用户的位置阻止其在 “法律禁止的地區” 生成穿着暴露的人的圖像。它沒有透露具體國家。此前，它僅限於付費訂閲者使用 Grok 的圖像生成和編輯功能。</p>
</div>

聯合國兒童基金會呼籲將人工智能生成的兒童性虐待內容定罪