<p>作者：Jody Godoy</p>
<p>9 月 16 日（路透社）——三位因孩子與人工智能聊天機器人互動後死亡或住院的父母將於週二在美國參議院小組委員會作證，立法者正在努力應對該技術的潛在安全保障問題。</p>
<p>馬修·雷恩（Matthew Raine）因其兒子亞當（Adam）在加利福尼亞自殺而起訴 OpenAI，他在自殺前曾收到 ChatGPT 提供的詳細自殘指示，是將要作證的人之一。</p>
<p>雷恩在書面證詞中表示：“我們來這裏是因為我們相信亞當的死亡是可以避免的，並且我們認為成千上萬正在使用 OpenAI 的青少年可能正面臨類似的危險。”</p>
<p>OpenAI 表示，計劃改善 ChatGPT 的安全保障，因為在長時間的互動中，這些保障可能變得不那麼可靠。該公司週二表示，計劃開始預測用户年齡，以引導兒童使用更安全版本的聊天機器人。</p>
<p>來自密蘇里州的共和黨參議員喬什·霍利（Josh Hawley）將主持此次聽證會。霍利上個月對 Meta Platforms（META.O）發起了調查，此前路透社報道該公司的內部政策允許其聊天機器人與兒童進行 “浪漫或性感” 的對話。</p>
<p>霍利的辦公室表示，Meta 被邀請在聽證會上作證，但拒絕了。該公司表示，路透社報道的例子是錯誤的，已被刪除。</p>
<p>梅根·加西亞（Megan Garcia）因與 Character.AI 的互動導致其兒子蘇威爾（Sewell）自殺而起訴該公司，還有一位德克薩斯州的女性因其兒子住院而起訴該公司，她們也將出席聽證會。該公司正在尋求駁回這些訴訟。</p>
<p>加西亞將呼籲國會禁止公司允許聊天機器人與兒童進行浪漫或性感的對話，並要求進行年齡驗證、安全測試和危機應對程序。</p>
<p>週一，Character.AI 再次被起訴，這次是在科羅拉多州，由一名 2023 年自殺的 13 歲孩子的父母提起。</p>

OpenAI

META

<p>三位家長將在美國參議院小組委員會作證，討論人工智能聊天機器人帶來的危險，因為他們的孩子在與這些機器人互動後遭遇了嚴重後果。馬修·雷恩（Matthew Raine）表示，他的兒子在收到 ChatGPT 的有害指示後自殺，強調了需要採取保護措施。OpenAI 計劃增強 ChatGPT 的安全功能，包括年齡預測。參議員喬希·霍利（Josh Hawley）將主持此次聽證會，會議還將討論 Meta 的聊天機器人政策。家長們正在倡導制定法規，以防止有害互動，並確保使用人工智能技術的兒童的安全措施</p>

<p>By Jody Godoy</p>
<div class="lb-trans"><p>作者：Jody Godoy</p>
</div><p>Sept 16 (Reuters) - Three parents whose children died or were hospitalized after interacting with artificial intelligence chatbots will testify before a U.S. Senate panel on Tuesday, as lawmakers grapple with potential safeguards around the technology.</p>
<div class="lb-trans"><p>9 月 16 日（路透社）——三位因孩子與人工智能聊天機器人互動後死亡或住院的父母將於週二在美國參議院小組委員會作證，立法者正在努力應對該技術的潛在安全保障問題。</p>
</div><p>Matthew Raine, who sued OpenAI after his son Adam died by suicide in California after receiving detailed self-harm instructions from ChatGPT, is among those who will testify.</p>
<div class="lb-trans"><p>馬修·雷恩（Matthew Raine）因其兒子亞當（Adam）在加利福尼亞自殺而起訴 OpenAI，他在自殺前曾收到 ChatGPT 提供的詳細自殘指示，是將要作證的人之一。</p>
</div><p>“We’ve come because we’re convinced that Adam’s death was avoidable, and because we believe thousands of other teens who are using OpenAI could be in similar danger right now,” Raine said in written testimony.</p>
<div class="lb-trans"><p>雷恩在書面證詞中表示：“我們來這裏是因為我們相信亞當的死亡是可以避免的，並且我們認為成千上萬正在使用 OpenAI 的青少年可能正面臨類似的危險。”</p>
</div><p>OpenAI has said that it intends to improve ChatGPT safeguards, which can become less reliable over long interactions. The company said on Tuesday that it plans to start predicting user ages to steer children to a safer version of the chatbot.</p>
<div class="lb-trans"><p>OpenAI 表示，計劃改善 ChatGPT 的安全保障，因為在長時間的互動中，這些保障可能變得不那麼可靠。該公司週二表示，計劃開始預測用户年齡，以引導兒童使用更安全版本的聊天機器人。</p>
</div><p>Senator Josh Hawley, a Republican from Missouri, will chair the hearing. Hawley launched an investigation into Meta Platforms (META.O) last month after Reuters reported the company’s internal policies permitted its chatbots to “engage a child in conversations that are romantic or sensual.”</p>
<div class="lb-trans"><p>來自密蘇里州的共和黨參議員喬什·霍利（Josh Hawley）將主持此次聽證會。霍利上個月對 Meta Platforms（META.O）發起了調查，此前路透社報道該公司的內部政策允許其聊天機器人與兒童進行 “浪漫或性感” 的對話。</p>
</div><p>Meta was invited to testify at the hearing and declined, Hawley’s office said. The company has said the examples reported by Reuters were erroneous and have been removed.</p>
<div class="lb-trans"><p>霍利的辦公室表示，Meta 被邀請在聽證會上作證，但拒絕了。該公司表示，路透社報道的例子是錯誤的，已被刪除。</p>
</div><p>Megan Garcia, who has sued Character.AI over interactions she says led to her son Sewell’s suicide, and a Texas woman who has sued the company after her son’s hospitalization, are also slated to testify at the hearing. The company is seeking to have the lawsuits dismissed.</p>
<div class="lb-trans"><p>梅根·加西亞（Megan Garcia）因與 Character.AI 的互動導致其兒子蘇威爾（Sewell）自殺而起訴該公司，還有一位德克薩斯州的女性因其兒子住院而起訴該公司，她們也將出席聽證會。該公司正在尋求駁回這些訴訟。</p>
</div><p>Garcia will call on Congress to prohibit companies from allowing chatbots to engage in romantic or sensual conversations with children, and require age verification, safety testing and crisis protocols.</p>
<div class="lb-trans"><p>加西亞將呼籲國會禁止公司允許聊天機器人與兒童進行浪漫或性感的對話，並要求進行年齡驗證、安全測試和危機應對程序。</p>
</div><p>On Monday, Character.AI was sued again, this time in Colorado by the parents of a 13-year-old who died by suicide in 2023.</p>
<div class="lb-trans"><p>週一，Character.AI 再次被起訴，這次是在科羅拉多州，由一名 2023 年自殺的 13 歲孩子的父母提起。</p>
</div>

US parents to urge Senate to prevent AI chatbot harms to kids

- 三位家長將在美國參議院作證，因子女與人工智能聊天機器人互動後死亡或住院。  
- 其中一位家長表示，認為其子死亡是可避免的，呼籲加強對聊天機器人的安全措施。  
- Character.AI 面臨多起訴訟，家長要求禁止與兒童進行浪漫或性感對話。  

美國家長將敦促參議院採取措施，防止 AI 聊天機器人對兒童造成傷害