<p>（更新了巴黎 X 办公室突袭的内容，第 6 段）</p>
<p>2 月 3 日（路透社）- 全球各国政府和监管机构正在对埃隆·马斯克的 xAI 聊天机器人 Grok 在 X 上生成的色情内容进行打击，发起调查、实施禁令，并要求采取保障措施，以应对日益严重的全球性打击非法材料的行动。</p>
<p>以下是自 1 月以来各国政府和监管机构的一些反应：</p>
<p>欧洲 欧盟委员会于 1 月 26 日对 Grok 是否在欧盟传播非法内容（如操纵的性别化图像）展开调查。该调查将审查 X 是否按照欧盟数字规则的要求，适当评估和减轻风险。委员会在 1 月 8 日已延长了去年发给 X 的命令，要求其保留和保存与 Grok 相关的所有内部文件和数据，直到 2026 年底。英国媒体监管机构 Ofcom 已对 X 展开调查，以确定 Grok 生成的性暗示深度伪造图像是否违反了其根据英国《在线安全法》框架保护人们免受可能非法内容的责任。巴黎检察官的网络犯罪单位于 2 月 3 日突袭了 X 在巴黎的办公室，并要求马斯克在 4 月就日益扩大的调查接受质询，调查内容涉及算法偏见、参与拘留和传播儿童色情图像以及侵犯个人形象权的性暗示深度伪造图像。德国媒体部长表示，欧盟规则提供了应对非法内容的工具，并声称这一问题有可能演变为 “性骚扰的工业化”。意大利数据保护机构警告称，未经同意使用 AI 工具创建真实人物的 “裸体” 深度伪造图像可能构成严重的隐私侵犯，并在某些情况下构成刑事犯罪。瑞典政治领导人也谴责了 Grok 生成的性别化内容，报道称涉及瑞典副总理的图像是根据用户提示生成的。</p>
<h3>亚洲</h3>
<p>印度信息技术部于 1 月 2 日向 X 发出正式通知，因涉嫌 Grok 生成或分享淫秽性别化图像，要求其在 72 小时内删除相关内容并提交采取的措施报告。日本也对 X 展开了对 Grok 的调查，表示政府将考虑所有可能的选项以防止生成不当图像。印度尼西亚通信和数字部表示已封锁对 Grok 的访问，数字部长 Meutya Hafid 表示此举旨在保护女性和儿童免受 AI 生成的假色情内容，引用了印度尼西亚严格的反色情法律。马来西亚在 X 实施额外安全措施后，于 1 月 23 日恢复了用户对 Grok 的访问。菲律宾将在其开发者承诺移除引发儿童安全担忧的图像处理工具后，恢复对 Grok 的访问，该国网络犯罪调查单位于 1 月 21 日表示。</p>
<p>美洲 加利福尼亚州州长和检察长于 1 月 14 日表示，他们正在要求 xAI 就平台上非自愿性图像的传播提供答案。加拿大隐私监管机构表示，在收到 Grok 生成非自愿性色情深度伪造图像的报告后，正在扩大对 X 的现有调查。巴西政府和联邦检察官于 1 月 20 日的联合声明中表示，给予 xAI 30 天的时间，以防止聊天机器人传播假性别化内容。</p>
<h3>大洋洲</h3>
<p>澳大利亚在线安全监管机构 eSafety 于 1 月 7 日表示，正在调查 Grok 生成的性别化深度伪造图像，评估成人材料，并注意到其审查的当前儿童相关示例未达到澳大利亚法律下儿童性虐待材料的法律标准。</p>
<p>xAI 如何回应？</p>
<p>xAI 于 1 月 14 日表示，已限制 Grok AI 用户的图像编辑功能，并根据用户所在位置阻止其在 “非法的司法管辖区” 生成穿着暴露的人的图像。它没有具体说明这些国家。此前，它已将 Grok 的图像生成和编辑功能仅限于付费订阅用户。</p>

DTCR

北美科技软件股指数 ETF - iShares

云计算 ETF - GlobalX

全球科技股指数 ETF - iShares

AIYY

GXAI

<p>全球各国政府正在对埃隆·马斯克的 xAI 聊天机器人 Grok 进行审查，原因是其生成了性暗示的深度伪造内容。欧盟委员会已对 Grok 是否符合欧盟数字规则展开调查，而英国的通信管理局 Ofcom 则在调查其是否违反《在线安全法》。在巴黎，当局突袭了 X 的办公室，原因是对算法偏见和儿童色情内容的担忧。包括印度、日本和印度尼西亚在内的其他国家也对 Grok 采取了行动，有些国家甚至封锁了访问。xAI 已通过限制图像编辑功能和封锁某些地区的用户来作出回应</p>

<p>(Updates with X office raid in Paris, paragraph 6)</p>
<div class="lb-trans"><p>（更新了巴黎 X 办公室突袭的内容，第 6 段）</p>
</div><p>Feb 3 (Reuters) - Governments and regulators around the world are cracking down on sexually explicit content generated by Elon Musk’s xAI chatbot Grok on X, launching probes, imposing bans and demanding safeguards in a growing global push to curb illegal material.</p>
<div class="lb-trans"><p>2 月 3 日（路透社）- 全球各国政府和监管机构正在对埃隆·马斯克的 xAI 聊天机器人 Grok 在 X 上生成的色情内容进行打击，发起调查、实施禁令，并要求采取保障措施，以应对日益严重的全球性打击非法材料的行动。</p>
</div><p>Here are some reactions from governments and regulators since the start of January:</p>
<div class="lb-trans"><p>以下是自 1 月以来各国政府和监管机构的一些反应：</p>
</div><p>EUROPE The European Commission on January 26 opened an investigation into whether Grok disseminates illegal content such as manipulated sexualised images in the EU. The probe will examine whether X properly assessed and mitigated risks as required under the bloc’s digital rules. The Commission had on January 8 extended an order sent to X last year to retain and preserve all internal documents and data related to Grok until the end of 2026. Britain’s media regulator Ofcom has launched an investigation into X to determine whether sexually intimate deepfakes produced by Grok violated its duty to protect people in the UK from content that could be illegal, under the country’s Online Safety Act framework. Paris prosecutor’s cybercrime unit raided X’s office in Paris on February 3 and ordered Musk to face questions in April regarding a widening investigation over alleged algorithmic bias, complicity in the detention and diffusion of images of child-pornographic nature and the violation of a person’s image rights with sexually explicit deepfakes. Germany’s media minister said EU rules provided tools to tackle illegal content and alleged the problem risked turning into the “industrialisation of sexual harassment”. Italy’s data protection authority warned that using AI tools to create “undressed” deepfake imagery of real people without consent could amount to serious privacy violations and, in some cases, criminal offences. Swedish political leaders have also condemned Grok-generated sexualised content after reporting that imagery involving Sweden’s deputy prime minister was produced from a user prompt.</p>
<div class="lb-trans"><p>欧洲 欧盟委员会于 1 月 26 日对 Grok 是否在欧盟传播非法内容（如操纵的性别化图像）展开调查。该调查将审查 X 是否按照欧盟数字规则的要求，适当评估和减轻风险。委员会在 1 月 8 日已延长了去年发给 X 的命令，要求其保留和保存与 Grok 相关的所有内部文件和数据，直到 2026 年底。英国媒体监管机构 Ofcom 已对 X 展开调查，以确定 Grok 生成的性暗示深度伪造图像是否违反了其根据英国《在线安全法》框架保护人们免受可能非法内容的责任。巴黎检察官的网络犯罪单位于 2 月 3 日突袭了 X 在巴黎的办公室，并要求马斯克在 4 月就日益扩大的调查接受质询，调查内容涉及算法偏见、参与拘留和传播儿童色情图像以及侵犯个人形象权的性暗示深度伪造图像。德国媒体部长表示，欧盟规则提供了应对非法内容的工具，并声称这一问题有可能演变为 “性骚扰的工业化”。意大利数据保护机构警告称，未经同意使用 AI 工具创建真实人物的 “裸体” 深度伪造图像可能构成严重的隐私侵犯，并在某些情况下构成刑事犯罪。瑞典政治领导人也谴责了 Grok 生成的性别化内容，报道称涉及瑞典副总理的图像是根据用户提示生成的。</p>
</div><h3>ASIA</h3>
<div class="lb-trans"><h3>亚洲</h3>
</div><p>India’s IT ministry sent X a formal notice on January 2 over alleged Grok-enabled creation or sharing of obscene sexualised images, directing the content to be taken down and requiring a report on the actions being taken within 72 hours. Japan also probed X over Grok, stating that the government would consider every possible option to prevent the generation of inappropriate images. Indonesia’s communications and digital ministry said it had blocked access to Grok, a move digital minister Meutya Hafid said was meant to protect women and children from AI-generated fake pornographic content, citing Indonesia’s strict anti-pornography laws. Malaysia restored access to Grok for its users after X implemented additional safety measures, its communications regulator said on January 23. The Philippines will reinstate access to Grok after its developer pledged to remove image-manipulation tools that had sparked child-safety concerns, the country’s cybercrime investigation unit said on January 21.</p>
<div class="lb-trans"><p>印度信息技术部于 1 月 2 日向 X 发出正式通知，因涉嫌 Grok 生成或分享淫秽性别化图像，要求其在 72 小时内删除相关内容并提交采取的措施报告。日本也对 X 展开了对 Grok 的调查，表示政府将考虑所有可能的选项以防止生成不当图像。印度尼西亚通信和数字部表示已封锁对 Grok 的访问，数字部长 Meutya Hafid 表示此举旨在保护女性和儿童免受 AI 生成的假色情内容，引用了印度尼西亚严格的反色情法律。马来西亚在 X 实施额外安全措施后，于 1 月 23 日恢复了用户对 Grok 的访问。菲律宾将在其开发者承诺移除引发儿童安全担忧的图像处理工具后，恢复对 Grok 的访问，该国网络犯罪调查单位于 1 月 21 日表示。</p>
</div><p>AMERICAS California’s governor and attorney general said on January 14 they were demanding answers from xAI amid the spread of non-consensual sexual images on the platform. Canada’s privacy watchdog said it was widening an existing investigation into X after reports that Grok was generating non-consensual, sexually explicit deepfakes. Brazil’s government and federal prosecutors gave xAI 30 days to prevent the chatbot from spreading fake sexualised content, according to a joint statement on January 20.</p>
<div class="lb-trans"><p>美洲 加利福尼亚州州长和检察长于 1 月 14 日表示，他们正在要求 xAI 就平台上非自愿性图像的传播提供答案。加拿大隐私监管机构表示，在收到 Grok 生成非自愿性色情深度伪造图像的报告后，正在扩大对 X 的现有调查。巴西政府和联邦检察官于 1 月 20 日的联合声明中表示，给予 xAI 30 天的时间，以防止聊天机器人传播假性别化内容。</p>
</div><h3>OCEANIA</h3>
<div class="lb-trans"><h3>大洋洲</h3>
</div><p>Australia’s online-safety regulator eSafety said on January 7 it was investigating Grok-generated sexualised deepfake images, assessing adult material under its image-based abuse scheme and noting current child-related examples it had reviewed did not meet the legal threshold for child sexual abuse material under Australian law.</p>
<div class="lb-trans"><p>澳大利亚在线安全监管机构 eSafety 于 1 月 7 日表示，正在调查 Grok 生成的性别化深度伪造图像，评估成人材料，并注意到其审查的当前儿童相关示例未达到澳大利亚法律下儿童性虐待材料的法律标准。</p>
</div><p>HOW HAS xAI RESPONDED?</p>
<div class="lb-trans"><p>xAI 如何回应？</p>
</div><p>xAI said on January 14 it had restricted image editing for Grok AI users and blocked users, based on their location, from generating images of people in revealing clothing in “jurisdictions where it’s illegal”. It did not identify the countries. It had earlier limited the use of Grok’s image generation and editing features only to paying subscribers.</p>
<div class="lb-trans"><p>xAI 于 1 月 14 日表示，已限制 Grok AI 用户的图像编辑功能，并根据用户所在位置阻止其在 “非法的司法管辖区” 生成穿着暴露的人的图像。它没有具体说明这些国家。此前，它已将 Grok 的图像生成和编辑功能仅限于付费订阅用户。</p>
</div>

FACTBOX-Elon Musk's Grok faces global scrutiny for sexualised AI deepfakes

- 全球各国政府对 Elon Musk 的 xAI 聊天机器人 Grok 展开调查，打击色情内容。  
- 欧盟、英国和印度等地均对 Grok 进行监管，要求采取措施确保合规。  
- xAI 已限制 Grok 的图像编辑功能，以应对法律要求。

FACTBOX-Elon Musk 的 Grok 因性化 AI 深度伪造面临全球审查