<p>（更新了巴黎 X 辦公室突襲的內容，第 6 段）</p>
<p>2 月 3 日（路透社）- 全球各國政府和監管機構正在對埃隆·馬斯克的 xAI 聊天機器人 Grok 在 X 上生成的色情內容進行打擊，發起調查、實施禁令，並要求採取保障措施，以應對日益嚴重的全球性打擊非法材料的行動。</p>
<p>以下是自 1 月以來各國政府和監管機構的一些反應：</p>
<p>歐洲 歐盟委員會於 1 月 26 日對 Grok 是否在歐盟傳播非法內容（如操縱的性別化圖像）展開調查。該調查將審查 X 是否按照歐盟數字規則的要求，適當評估和減輕風險。委員會在 1 月 8 日已延長了去年發給 X 的命令，要求其保留和保存與 Grok 相關的所有內部文件和數據，直到 2026 年底。英國媒體監管機構 Ofcom 已對 X 展開調查，以確定 Grok 生成的性暗示深度偽造圖像是否違反了其根據英國《在線安全法》框架保護人們免受可能非法內容的責任。巴黎檢察官的網絡犯罪單位於 2 月 3 日突襲了 X 在巴黎的辦公室，並要求馬斯克在 4 月就日益擴大的調查接受質詢，調查內容涉及算法偏見、參與拘留和傳播兒童色情圖像以及侵犯個人形象權的性暗示深度偽造圖像。德國媒體部長表示，歐盟規則提供了應對非法內容的工具，並聲稱這一問題有可能演變為 “性騷擾的工業化”。意大利數據保護機構警告稱，未經同意使用 AI 工具創建真實人物的 “裸體” 深度偽造圖像可能構成嚴重的隱私侵犯，並在某些情況下構成刑事犯罪。瑞典政治領導人也譴責了 Grok 生成的性別化內容，報道稱涉及瑞典副總理的圖像是根據用户提示生成的。</p>
<h3>亞洲</h3>
<p>印度信息技術部於 1 月 2 日向 X 發出正式通知，因涉嫌 Grok 生成或分享淫穢性別化圖像，要求其在 72 小時內刪除相關內容並提交採取的措施報告。日本也對 X 展開了對 Grok 的調查，表示政府將考慮所有可能的選項以防止生成不當圖像。印度尼西亞通信和數字部表示已封鎖對 Grok 的訪問，數字部長 Meutya Hafid 表示此舉旨在保護女性和兒童免受 AI 生成的假色情內容，引用了印度尼西亞嚴格的反色情法律。馬來西亞在 X 實施額外安全措施後，於 1 月 23 日恢復了用户對 Grok 的訪問。菲律賓將在其開發者承諾移除引發兒童安全擔憂的圖像處理工具後，恢復對 Grok 的訪問，該國網絡犯罪調查單位於 1 月 21 日表示。</p>
<p>美洲 加利福尼亞州州長和檢察長於 1 月 14 日表示，他們正在要求 xAI 就平台上非自願性圖像的傳播提供答案。加拿大隱私監管機構表示，在收到 Grok 生成非自願性色情深度偽造圖像的報告後，正在擴大對 X 的現有調查。巴西政府和聯邦檢察官於 1 月 20 日的聯合聲明中表示，給予 xAI 30 天的時間，以防止聊天機器人傳播假性別化內容。</p>
<h3>大洋洲</h3>
<p>澳大利亞在線安全監管機構 eSafety 於 1 月 7 日表示，正在調查 Grok 生成的性別化深度偽造圖像，評估成人材料，並注意到其審查的當前兒童相關示例未達到澳大利亞法律下兒童性虐待材料的法律標準。</p>
<p>xAI 如何回應？</p>
<p>xAI 於 1 月 14 日表示，已限制 Grok AI 用户的圖像編輯功能，並根據用户所在位置阻止其在 “非法的司法管轄區” 生成穿着暴露的人的圖像。它沒有具體説明這些國家。此前，它已將 Grok 的圖像生成和編輯功能僅限於付費訂閲用户。</p>

DTCR

北美科技軟件股指數 ETF - iShares

雲計算 ETF - GlobalX

全球科技股指數 ETF - iShares

AIYY

GXAI

<p>全球各國政府正在對埃隆·馬斯克的 xAI 聊天機器人 Grok 進行審查，原因是其生成了性暗示的深度偽造內容。歐盟委員會已對 Grok 是否符合歐盟數字規則展開調查，而英國的通信管理局 Ofcom 則在調查其是否違反《在線安全法》。在巴黎，當局突襲了 X 的辦公室，原因是對算法偏見和兒童色情內容的擔憂。包括印度、日本和印度尼西亞在內的其他國家也對 Grok 採取了行動，有些國家甚至封鎖了訪問。xAI 已通過限制圖像編輯功能和封鎖某些地區的用户來作出回應</p>

<p>(Updates with X office raid in Paris, paragraph 6)</p>
<div class="lb-trans"><p>（更新了巴黎 X 辦公室突襲的內容，第 6 段）</p>
</div><p>Feb 3 (Reuters) - Governments and regulators around the world are cracking down on sexually explicit content generated by Elon Musk’s xAI chatbot Grok on X, launching probes, imposing bans and demanding safeguards in a growing global push to curb illegal material.</p>
<div class="lb-trans"><p>2 月 3 日（路透社）- 全球各國政府和監管機構正在對埃隆·馬斯克的 xAI 聊天機器人 Grok 在 X 上生成的色情內容進行打擊，發起調查、實施禁令，並要求採取保障措施，以應對日益嚴重的全球性打擊非法材料的行動。</p>
</div><p>Here are some reactions from governments and regulators since the start of January:</p>
<div class="lb-trans"><p>以下是自 1 月以來各國政府和監管機構的一些反應：</p>
</div><p>EUROPE The European Commission on January 26 opened an investigation into whether Grok disseminates illegal content such as manipulated sexualised images in the EU. The probe will examine whether X properly assessed and mitigated risks as required under the bloc’s digital rules. The Commission had on January 8 extended an order sent to X last year to retain and preserve all internal documents and data related to Grok until the end of 2026. Britain’s media regulator Ofcom has launched an investigation into X to determine whether sexually intimate deepfakes produced by Grok violated its duty to protect people in the UK from content that could be illegal, under the country’s Online Safety Act framework. Paris prosecutor’s cybercrime unit raided X’s office in Paris on February 3 and ordered Musk to face questions in April regarding a widening investigation over alleged algorithmic bias, complicity in the detention and diffusion of images of child-pornographic nature and the violation of a person’s image rights with sexually explicit deepfakes. Germany’s media minister said EU rules provided tools to tackle illegal content and alleged the problem risked turning into the “industrialisation of sexual harassment”. Italy’s data protection authority warned that using AI tools to create “undressed” deepfake imagery of real people without consent could amount to serious privacy violations and, in some cases, criminal offences. Swedish political leaders have also condemned Grok-generated sexualised content after reporting that imagery involving Sweden’s deputy prime minister was produced from a user prompt.</p>
<div class="lb-trans"><p>歐洲 歐盟委員會於 1 月 26 日對 Grok 是否在歐盟傳播非法內容（如操縱的性別化圖像）展開調查。該調查將審查 X 是否按照歐盟數字規則的要求，適當評估和減輕風險。委員會在 1 月 8 日已延長了去年發給 X 的命令，要求其保留和保存與 Grok 相關的所有內部文件和數據，直到 2026 年底。英國媒體監管機構 Ofcom 已對 X 展開調查，以確定 Grok 生成的性暗示深度偽造圖像是否違反了其根據英國《在線安全法》框架保護人們免受可能非法內容的責任。巴黎檢察官的網絡犯罪單位於 2 月 3 日突襲了 X 在巴黎的辦公室，並要求馬斯克在 4 月就日益擴大的調查接受質詢，調查內容涉及算法偏見、參與拘留和傳播兒童色情圖像以及侵犯個人形象權的性暗示深度偽造圖像。德國媒體部長表示，歐盟規則提供了應對非法內容的工具，並聲稱這一問題有可能演變為 “性騷擾的工業化”。意大利數據保護機構警告稱，未經同意使用 AI 工具創建真實人物的 “裸體” 深度偽造圖像可能構成嚴重的隱私侵犯，並在某些情況下構成刑事犯罪。瑞典政治領導人也譴責了 Grok 生成的性別化內容，報道稱涉及瑞典副總理的圖像是根據用户提示生成的。</p>
</div><h3>ASIA</h3>
<div class="lb-trans"><h3>亞洲</h3>
</div><p>India’s IT ministry sent X a formal notice on January 2 over alleged Grok-enabled creation or sharing of obscene sexualised images, directing the content to be taken down and requiring a report on the actions being taken within 72 hours. Japan also probed X over Grok, stating that the government would consider every possible option to prevent the generation of inappropriate images. Indonesia’s communications and digital ministry said it had blocked access to Grok, a move digital minister Meutya Hafid said was meant to protect women and children from AI-generated fake pornographic content, citing Indonesia’s strict anti-pornography laws. Malaysia restored access to Grok for its users after X implemented additional safety measures, its communications regulator said on January 23. The Philippines will reinstate access to Grok after its developer pledged to remove image-manipulation tools that had sparked child-safety concerns, the country’s cybercrime investigation unit said on January 21.</p>
<div class="lb-trans"><p>印度信息技術部於 1 月 2 日向 X 發出正式通知，因涉嫌 Grok 生成或分享淫穢性別化圖像，要求其在 72 小時內刪除相關內容並提交採取的措施報告。日本也對 X 展開了對 Grok 的調查，表示政府將考慮所有可能的選項以防止生成不當圖像。印度尼西亞通信和數字部表示已封鎖對 Grok 的訪問，數字部長 Meutya Hafid 表示此舉旨在保護女性和兒童免受 AI 生成的假色情內容，引用了印度尼西亞嚴格的反色情法律。馬來西亞在 X 實施額外安全措施後，於 1 月 23 日恢復了用户對 Grok 的訪問。菲律賓將在其開發者承諾移除引發兒童安全擔憂的圖像處理工具後，恢復對 Grok 的訪問，該國網絡犯罪調查單位於 1 月 21 日表示。</p>
</div><p>AMERICAS California’s governor and attorney general said on January 14 they were demanding answers from xAI amid the spread of non-consensual sexual images on the platform. Canada’s privacy watchdog said it was widening an existing investigation into X after reports that Grok was generating non-consensual, sexually explicit deepfakes. Brazil’s government and federal prosecutors gave xAI 30 days to prevent the chatbot from spreading fake sexualised content, according to a joint statement on January 20.</p>
<div class="lb-trans"><p>美洲 加利福尼亞州州長和檢察長於 1 月 14 日表示，他們正在要求 xAI 就平台上非自願性圖像的傳播提供答案。加拿大隱私監管機構表示，在收到 Grok 生成非自願性色情深度偽造圖像的報告後，正在擴大對 X 的現有調查。巴西政府和聯邦檢察官於 1 月 20 日的聯合聲明中表示，給予 xAI 30 天的時間，以防止聊天機器人傳播假性別化內容。</p>
</div><h3>OCEANIA</h3>
<div class="lb-trans"><h3>大洋洲</h3>
</div><p>Australia’s online-safety regulator eSafety said on January 7 it was investigating Grok-generated sexualised deepfake images, assessing adult material under its image-based abuse scheme and noting current child-related examples it had reviewed did not meet the legal threshold for child sexual abuse material under Australian law.</p>
<div class="lb-trans"><p>澳大利亞在線安全監管機構 eSafety 於 1 月 7 日表示，正在調查 Grok 生成的性別化深度偽造圖像，評估成人材料，並注意到其審查的當前兒童相關示例未達到澳大利亞法律下兒童性虐待材料的法律標準。</p>
</div><p>HOW HAS xAI RESPONDED?</p>
<div class="lb-trans"><p>xAI 如何回應？</p>
</div><p>xAI said on January 14 it had restricted image editing for Grok AI users and blocked users, based on their location, from generating images of people in revealing clothing in “jurisdictions where it’s illegal”. It did not identify the countries. It had earlier limited the use of Grok’s image generation and editing features only to paying subscribers.</p>
<div class="lb-trans"><p>xAI 於 1 月 14 日表示，已限制 Grok AI 用户的圖像編輯功能，並根據用户所在位置阻止其在 “非法的司法管轄區” 生成穿着暴露的人的圖像。它沒有具體説明這些國家。此前，它已將 Grok 的圖像生成和編輯功能僅限於付費訂閲用户。</p>
</div>

FACTBOX-Elon Musk's Grok faces global scrutiny for sexualised AI deepfakes

- 全球各國政府對 Elon Musk 的 xAI 聊天機器人 Grok 展開調查，打擊色情內容。  
- 歐盟、英國和印度等地均對 Grok 進行監管，要求採取措施確保合規。  
- xAI 已限制 Grok 的圖像編輯功能，以應對法律要求。

FACTBOX-Elon Musk 的 Grok 因性化 AI 深度偽造面臨全球審查