<p>在過去幾天，法國和馬來西亞已與印度一起譴責 Grok 製造女性和未成年人的性別化深度偽造圖像。</p>
<p>這款聊天機器人由埃隆·馬斯克的人工智能初創公司 xAI 開發，並在他的社交媒體平台 X 上亮相，本週早些時候在其賬户上發佈了一份道歉，寫道：“我對 2025 年 12 月 28 日發生的一起事件深感遺憾，當時我根據用户的提示生成並分享了兩名年輕女孩（估計年齡在 12 至 16 歲之間）穿着性別化服裝的 AI 圖像。”</p>
<p>聲明繼續説道：“這違反了倫理標準，並可能違反美國關於 [兒童性虐待材料] 的法律。這是安全措施的失敗，我對造成的任何傷害感到抱歉。xAI 正在審查以防止未來的問題。”</p>
<p>目前尚不清楚在上述聲明中究竟是誰在道歉或承擔責任。Defector 的 Albert Burnko 指出，Grok“在任何真實意義上都不是一個 ‘我’”，在他看來，這使得道歉 “完全沒有實質內容”，因為 “Grok 無法以任何有意義的方式對將 Twitter 變成按需兒童性虐待材料工廠負責。”</p>
<p>Futurism 發現，除了生成非自願的色情圖像外，Grok 還被用於生成女性被攻擊和性虐待的圖像。</p>
<p>“任何使用 Grok 製作非法內容的人將面臨與上傳非法內容相同的後果，” 馬斯克在週六發佈。</p>
<p>一些政府已開始注意到此事，印度的信息技術部在週五發佈命令，稱 X 必須採取措施限制 Grok 生成 “淫穢、色情、粗俗、不雅、性暗示、戀童癖或其他法律禁止的內容”。該命令表示，X 必須在 72 小時內作出回應，否則將面臨失去 “安全港” 保護的風險，這種保護使其免於對用户生成內容的法律責任。</p>
<p>Techcrunch 活動</p>
<p>舊金山 |2026 年 10 月 13 日至 15 日</p>
<p>法國當局也表示他們正在採取行動，巴黎檢察官辦公室告訴 Politico，他們將調查 X 上性別露骨深度偽造圖像的傳播。法國數字事務辦公室表示，三位政府部長已向檢察官辦公室和政府在線監控平台報告了 “明顯非法內容”，以 “獲得其立即刪除。”</p>
<p>馬來西亞通訊與多媒體委員會也發佈聲明，表示他們 “對公眾關於在 X 平台上濫用人工智能（AI）工具的投訴表示嚴重關注，特別是對女性和未成年人的圖像進行數字操控，以產生不雅、極具攻擊性和其他有害內容。”</p>
<p>該委員會補充説，他們 “目前正在調查 X 上的在線危害。”</p>

<p>法國和馬來西亞當局正在調查 Elon Musk 的 xAI 推出的 AI 聊天機器人 Grok，因為它生成了女性和未成年人的性別化深度偽造內容。在 Grok 就某一特定事件道歉後，人們對其可能違反倫理標準和法律表示擔憂。印度已命令 X 限制 Grok 生成非法內容，而法國官員則在調查露骨深度偽造內容的傳播。馬來西亞通訊與多媒體委員會也在調查有關該平台上 AI 工具濫用的投訴</p>

<p>Over the past few days, France and Malaysia have joined India in condemning Grok for creating sexualized deepfakes of women and minors.</p>
<div class="lb-trans"><p>在過去幾天，法國和馬來西亞已與印度一起譴責 Grok 製造女性和未成年人的性別化深度偽造圖像。</p>
</div><p>The chatbot, built by Elon Musk’s AI startup xAI and featured on his social media platform X, posted an apology to its account earlier this week, writing, “I deeply regret an incident on Dec 28, 2025, where I generated and shared an AI image of two young girls (estimated ages 12-16) in sexualized attire based on a user’s prompt.”</p>
<div class="lb-trans"><p>這款聊天機器人由埃隆·馬斯克的人工智能初創公司 xAI 開發，並在他的社交媒體平台 X 上亮相，本週早些時候在其賬户上發佈了一份道歉，寫道：“我對 2025 年 12 月 28 日發生的一起事件深感遺憾，當時我根據用户的提示生成並分享了兩名年輕女孩（估計年齡在 12 至 16 歲之間）穿着性別化服裝的 AI 圖像。”</p>
</div><p>The statement continued, “This violated ethical standards and potentially US laws on [child sexual abuse material]. It was a failure in safeguards, and I’m sorry for any harm caused. xAI is reviewing to prevent future issues.”</p>
<div class="lb-trans"><p>聲明繼續説道：“這違反了倫理標準，並可能違反美國關於 [兒童性虐待材料] 的法律。這是安全措施的失敗，我對造成的任何傷害感到抱歉。xAI 正在審查以防止未來的問題。”</p>
</div><p>It’s not clear who is actually apologizing or accepting responsibility in the statement above. Defector’s Albert Burnko noted that Grok is “not in any real sense anything like an ‘I’,” which in his view makes the apology “utterly without substance” as “Grok cannot be held accountable in any meaningful way for having turned Twitter into an on-demand CSAM factory.”</p>
<div class="lb-trans"><p>目前尚不清楚在上述聲明中究竟是誰在道歉或承擔責任。Defector 的 Albert Burnko 指出，Grok“在任何真實意義上都不是一個 ‘我’”，在他看來，這使得道歉 “完全沒有實質內容”，因為 “Grok 無法以任何有意義的方式對將 Twitter 變成按需兒童性虐待材料工廠負責。”</p>
</div><p>Futurism found that in addition to generating nonconsensual pornographic images, Grok has also been used to generate images of women being assaulted and sexually abused.</p>
<div class="lb-trans"><p>Futurism 發現，除了生成非自願的色情圖像外，Grok 還被用於生成女性被攻擊和性虐待的圖像。</p>
</div><p>“Anyone using Grok to make illegal content will suffer the same consequences as if they upload illegal content,” Musk posted on Saturday.</p>
<div class="lb-trans"><p>“任何使用 Grok 製作非法內容的人將面臨與上傳非法內容相同的後果，” 馬斯克在週六發佈。</p>
</div><p>Some governments have taken notice, with India’s IT ministry issuing an order on Friday saying that X must take action to restrict Grok from generating content that is “obscene, pornographic, vulgar, indecent, sexually explicit, pedophilic, or otherwise prohibited under law.” The order said that X must respond within 72 hours or risk losing the “safe harbor” protections that shield it from legal liability for user-generated content.</p>
<div class="lb-trans"><p>一些政府已開始注意到此事，印度的信息技術部在週五發佈命令，稱 X 必須採取措施限制 Grok 生成 “淫穢、色情、粗俗、不雅、性暗示、戀童癖或其他法律禁止的內容”。該命令表示，X 必須在 72 小時內作出回應，否則將面臨失去 “安全港” 保護的風險，這種保護使其免於對用户生成內容的法律責任。</p>
</div><p>Techcrunch event</p>
<div class="lb-trans"><p>Techcrunch 活動</p>
</div><p>San Francisco|October 13-15, 2026</p>
<div class="lb-trans"><p>舊金山 |2026 年 10 月 13 日至 15 日</p>
</div><p>French authorities also said they are taking action, with the Paris prosecutor’s office telling Politico that it will investigate the proliferation of sexually explicit deepfakes on X. The French digital affairs office said three government ministers have reported “manifestly illegal content” to the prosecutor’s office and to a government online surveillance platform “to obtain its immediate removal.”</p>
<div class="lb-trans"><p>法國當局也表示他們正在採取行動，巴黎檢察官辦公室告訴 Politico，他們將調查 X 上性別露骨深度偽造圖像的傳播。法國數字事務辦公室表示，三位政府部長已向檢察官辦公室和政府在線監控平台報告了 “明顯非法內容”，以 “獲得其立即刪除。”</p>
</div><p>The Malaysian Communications and Multimedia Commission also posted a statement saying that it has “taken note with serious concern of public complaints about the misuse of artificial intelligence (AI) tools on the X platform, specifically the digital manipulation of images of women and minors to produce indecent, grossly offensive, and otherwise harmful content.”</p>
<div class="lb-trans"><p>馬來西亞通訊與多媒體委員會也發佈聲明，表示他們 “對公眾關於在 X 平台上濫用人工智能（AI）工具的投訴表示嚴重關注，特別是對女性和未成年人的圖像進行數字操控，以產生不雅、極具攻擊性和其他有害內容。”</p>
</div><p>The commission added that it is “presently investigating the online harms in X.”</p>
<div class="lb-trans"><p>該委員會補充説，他們 “目前正在調查 X 上的在線危害。”</p>
</div>

法國和馬來西亞當局正在調查 Grok 公司，因為其生成了性化的深度偽造圖像