<p>在过去几天，法国和马来西亚已与印度一起谴责 Grok 制造女性和未成年人的性别化深度伪造图像。</p>
<p>这款聊天机器人由埃隆·马斯克的人工智能初创公司 xAI 开发，并在他的社交媒体平台 X 上亮相，本周早些时候在其账户上发布了一份道歉，写道：“我对 2025 年 12 月 28 日发生的一起事件深感遗憾，当时我根据用户的提示生成并分享了两名年轻女孩（估计年龄在 12 至 16 岁之间）穿着性别化服装的 AI 图像。”</p>
<p>声明继续说道：“这违反了伦理标准，并可能违反美国关于 [儿童性虐待材料] 的法律。这是安全措施的失败，我对造成的任何伤害感到抱歉。xAI 正在审查以防止未来的问题。”</p>
<p>目前尚不清楚在上述声明中究竟是谁在道歉或承担责任。Defector 的 Albert Burnko 指出，Grok“在任何真实意义上都不是一个 ‘我’”，在他看来，这使得道歉 “完全没有实质内容”，因为 “Grok 无法以任何有意义的方式对将 Twitter 变成按需儿童性虐待材料工厂负责。”</p>
<p>Futurism 发现，除了生成非自愿的色情图像外，Grok 还被用于生成女性被攻击和性虐待的图像。</p>
<p>“任何使用 Grok 制作非法内容的人将面临与上传非法内容相同的后果，” 马斯克在周六发布。</p>
<p>一些政府已开始注意到此事，印度的信息技术部在周五发布命令，称 X 必须采取措施限制 Grok 生成 “淫秽、色情、粗俗、不雅、性暗示、恋童癖或其他法律禁止的内容”。该命令表示，X 必须在 72 小时内作出回应，否则将面临失去 “安全港” 保护的风险，这种保护使其免于对用户生成内容的法律责任。</p>
<p>Techcrunch 活动</p>
<p>旧金山 |2026 年 10 月 13 日至 15 日</p>
<p>法国当局也表示他们正在采取行动，巴黎检察官办公室告诉 Politico，他们将调查 X 上性别露骨深度伪造图像的传播。法国数字事务办公室表示，三位政府部长已向检察官办公室和政府在线监控平台报告了 “明显非法内容”，以 “获得其立即删除。”</p>
<p>马来西亚通讯与多媒体委员会也发布声明，表示他们 “对公众关于在 X 平台上滥用人工智能（AI）工具的投诉表示严重关注，特别是对女性和未成年人的图像进行数字操控，以产生不雅、极具攻击性和其他有害内容。”</p>
<p>该委员会补充说，他们 “目前正在调查 X 上的在线危害。”</p>

<p>法国和马来西亚当局正在调查 Elon Musk 的 xAI 推出的 AI 聊天机器人 Grok，因为它生成了女性和未成年人的性别化深度伪造内容。在 Grok 就某一特定事件道歉后，人们对其可能违反伦理标准和法律表示担忧。印度已命令 X 限制 Grok 生成非法内容，而法国官员则在调查露骨深度伪造内容的传播。马来西亚通讯与多媒体委员会也在调查有关该平台上 AI 工具滥用的投诉</p>

<p>Over the past few days, France and Malaysia have joined India in condemning Grok for creating sexualized deepfakes of women and minors.</p>
<div class="lb-trans"><p>在过去几天，法国和马来西亚已与印度一起谴责 Grok 制造女性和未成年人的性别化深度伪造图像。</p>
</div><p>The chatbot, built by Elon Musk’s AI startup xAI and featured on his social media platform X, posted an apology to its account earlier this week, writing, “I deeply regret an incident on Dec 28, 2025, where I generated and shared an AI image of two young girls (estimated ages 12-16) in sexualized attire based on a user’s prompt.”</p>
<div class="lb-trans"><p>这款聊天机器人由埃隆·马斯克的人工智能初创公司 xAI 开发，并在他的社交媒体平台 X 上亮相，本周早些时候在其账户上发布了一份道歉，写道：“我对 2025 年 12 月 28 日发生的一起事件深感遗憾，当时我根据用户的提示生成并分享了两名年轻女孩（估计年龄在 12 至 16 岁之间）穿着性别化服装的 AI 图像。”</p>
</div><p>The statement continued, “This violated ethical standards and potentially US laws on [child sexual abuse material]. It was a failure in safeguards, and I’m sorry for any harm caused. xAI is reviewing to prevent future issues.”</p>
<div class="lb-trans"><p>声明继续说道：“这违反了伦理标准，并可能违反美国关于 [儿童性虐待材料] 的法律。这是安全措施的失败，我对造成的任何伤害感到抱歉。xAI 正在审查以防止未来的问题。”</p>
</div><p>It’s not clear who is actually apologizing or accepting responsibility in the statement above. Defector’s Albert Burnko noted that Grok is “not in any real sense anything like an ‘I’,” which in his view makes the apology “utterly without substance” as “Grok cannot be held accountable in any meaningful way for having turned Twitter into an on-demand CSAM factory.”</p>
<div class="lb-trans"><p>目前尚不清楚在上述声明中究竟是谁在道歉或承担责任。Defector 的 Albert Burnko 指出，Grok“在任何真实意义上都不是一个 ‘我’”，在他看来，这使得道歉 “完全没有实质内容”，因为 “Grok 无法以任何有意义的方式对将 Twitter 变成按需儿童性虐待材料工厂负责。”</p>
</div><p>Futurism found that in addition to generating nonconsensual pornographic images, Grok has also been used to generate images of women being assaulted and sexually abused.</p>
<div class="lb-trans"><p>Futurism 发现，除了生成非自愿的色情图像外，Grok 还被用于生成女性被攻击和性虐待的图像。</p>
</div><p>“Anyone using Grok to make illegal content will suffer the same consequences as if they upload illegal content,” Musk posted on Saturday.</p>
<div class="lb-trans"><p>“任何使用 Grok 制作非法内容的人将面临与上传非法内容相同的后果，” 马斯克在周六发布。</p>
</div><p>Some governments have taken notice, with India’s IT ministry issuing an order on Friday saying that X must take action to restrict Grok from generating content that is “obscene, pornographic, vulgar, indecent, sexually explicit, pedophilic, or otherwise prohibited under law.” The order said that X must respond within 72 hours or risk losing the “safe harbor” protections that shield it from legal liability for user-generated content.</p>
<div class="lb-trans"><p>一些政府已开始注意到此事，印度的信息技术部在周五发布命令，称 X 必须采取措施限制 Grok 生成 “淫秽、色情、粗俗、不雅、性暗示、恋童癖或其他法律禁止的内容”。该命令表示，X 必须在 72 小时内作出回应，否则将面临失去 “安全港” 保护的风险，这种保护使其免于对用户生成内容的法律责任。</p>
</div><p>Techcrunch event</p>
<div class="lb-trans"><p>Techcrunch 活动</p>
</div><p>San Francisco|October 13-15, 2026</p>
<div class="lb-trans"><p>旧金山 |2026 年 10 月 13 日至 15 日</p>
</div><p>French authorities also said they are taking action, with the Paris prosecutor’s office telling Politico that it will investigate the proliferation of sexually explicit deepfakes on X. The French digital affairs office said three government ministers have reported “manifestly illegal content” to the prosecutor’s office and to a government online surveillance platform “to obtain its immediate removal.”</p>
<div class="lb-trans"><p>法国当局也表示他们正在采取行动，巴黎检察官办公室告诉 Politico，他们将调查 X 上性别露骨深度伪造图像的传播。法国数字事务办公室表示，三位政府部长已向检察官办公室和政府在线监控平台报告了 “明显非法内容”，以 “获得其立即删除。”</p>
</div><p>The Malaysian Communications and Multimedia Commission also posted a statement saying that it has “taken note with serious concern of public complaints about the misuse of artificial intelligence (AI) tools on the X platform, specifically the digital manipulation of images of women and minors to produce indecent, grossly offensive, and otherwise harmful content.”</p>
<div class="lb-trans"><p>马来西亚通讯与多媒体委员会也发布声明，表示他们 “对公众关于在 X 平台上滥用人工智能（AI）工具的投诉表示严重关注，特别是对女性和未成年人的图像进行数字操控，以产生不雅、极具攻击性和其他有害内容。”</p>
</div><p>The commission added that it is “presently investigating the online harms in X.”</p>
<div class="lb-trans"><p>该委员会补充说，他们 “目前正在调查 X 上的在线危害。”</p>
</div>

法国和马来西亚当局正在调查 Grok 公司，因为其生成了性化的深度伪造图像