<p>作者：Sara Merken</p>
<p>纽约，1 月 30 日（路透社）-</p>
<p>一项法案于</p>
<p>周四</p>
<p>由加利福尼亚州参议院通过，要求该州的律师验证所有使用人工智能生成的材料的准确性，包括案件引用和其他法庭文件中的信息。</p>
<p>该措施似乎是州立法机构中关于律师使用人工智能的首批待审法案之一，现已提交州众议院审议。除了规范加利福尼亚律师使用人工智能外，该法案还禁止在庭外争议中担任仲裁员的人员将决策委托给生成式人工智能，并在未事先告知相关方的情况下依赖于案件记录之外由人工智能生成的信息。全国各地的法院一直在努力应对人工智能在法律实践中的利弊，因为律师、法官和其他人越来越多地转向聊天机器人和其他专业及公开可用的人工智能工具。这项技术可能会生成被称为 “幻觉” 的虚构细节，这导致在数十起案件中因未审核人工智能生成的案件引用和其他材料而对律师和自我辩护的诉讼人处以制裁或警告。根据加利福尼亚法案，律师将被要求采取 “合理步骤” 来验证使用人工智能生成的材料的准确性，纠正任何虚假或幻觉的输出，并删除他们使用的任何人工智能生成材料中的偏见内容。</p>
<p>律师还将被禁止将机密、个人识别或其他非公开信息输入公共生成式人工智能工具，并必须确保使用人工智能不会 “非法歧视” 个人或社区。加利福尼亚州参议院司法委员会主席、民主党参议员汤姆·乌姆伯格（Tom Umberg）提出了这项法案，称为 SB 574。发言人周五未立即回应评论请求。该措施是加利福尼亚州旨在管理人工智能潜在危险的几项法案之一，包括一项新法律，要求大型公司披露他们计划如何减轻其尖端人工智能模型可能带来的灾难性风险。</p>
<p>该法案对律师使用人工智能的规定建立在已经约束该州律师的要求之上，例如法庭文件需得到现有法律的支持。该法案的模式是加利福尼亚州对法官和法院工作人员使用人工智能的规定，以及一项州上诉法院的裁决，该裁决因虚假信息对一名律师处以 10,000 美元的罚款，并警告需要阅读和验证所有引用，根据参议院的分析。</p>

<p>加利福尼亚州参议院通过了一项法案，要求律师在法庭文件中验证人工智能生成材料的准确性，包括案例引用。该法案 SB 574 禁止仲裁员将决策委托给人工智能，并要求律师采取合理措施纠正人工智能输出中的任何不准确之处。此外，律师不得将机密信息输入公共人工智能工具，并确保人工智能的使用不会导致歧视。这项立法是加利福尼亚州更广泛努力的一部分，旨在规范人工智能对法律实践的影响</p>

<p>By Sara Merken</p>
<div class="lb-trans"><p>作者：Sara Merken</p>
</div><p>NEW YORK, Jan 30 (Reuters) -</p>
<div class="lb-trans"><p>纽约，1 月 30 日（路透社）-</p>
</div><p>A bill passed on</p>
<div class="lb-trans"><p>一项法案于</p>
</div><p>Thursday</p>
<div class="lb-trans"><p>周四</p>
</div><p>by the California Senatewould require lawyers in the state to verify the accuracy of all materials producedusing artificial intelligence, including case citations and other information in court filings.</p>
<div class="lb-trans"><p>由加利福尼亚州参议院通过，要求该州的律师验证所有使用人工智能生成的材料的准确性，包括案件引用和其他法庭文件中的信息。</p>
</div><p>The measure, which appears to be one of the first pending in a state legislature on the use of AI by lawyers, has gone to the State Assembly for consideration. In addition to governing California lawyers’ use of AI, the bill prohibits arbitrators presiding over out-of-court disputes from delegating decision-making to generative AI and from relying on information produced by AI outside case records without first telling the parties involved. Courts across the country have grappled with the benefits and pitfalls of AI in legal practice as lawyers, judges and others have increasingly turned to chatbots and other specialized and publicly available AI tools. The technology can generate fictional details known as “hallucinations,” which has led to sanctions or reprimands against lawyers and self-represented litigants in dozens of cases for not vetting AI-generated case citations and other material included in court filings. Lawyers under the California bill would be required to take “reasonable steps” to verify the accuracy of material that was produced using artificial intelligence, correct any false or hallucinated output, and remove biased content in any AI-generated material they use.</p>
<div class="lb-trans"><p>该措施似乎是州立法机构中关于律师使用人工智能的首批待审法案之一，现已提交州众议院审议。除了规范加利福尼亚律师使用人工智能外，该法案还禁止在庭外争议中担任仲裁员的人员将决策委托给生成式人工智能，并在未事先告知相关方的情况下依赖于案件记录之外由人工智能生成的信息。全国各地的法院一直在努力应对人工智能在法律实践中的利弊，因为律师、法官和其他人越来越多地转向聊天机器人和其他专业及公开可用的人工智能工具。这项技术可能会生成被称为 “幻觉” 的虚构细节，这导致在数十起案件中因未审核人工智能生成的案件引用和其他材料而对律师和自我辩护的诉讼人处以制裁或警告。根据加利福尼亚法案，律师将被要求采取 “合理步骤” 来验证使用人工智能生成的材料的准确性，纠正任何虚假或幻觉的输出，并删除他们使用的任何人工智能生成材料中的偏见内容。</p>
</div><p>Attorneys also would be barred from putting confidential, personally identifying, or other nonpublic information into public generative AI tools and must make sure that the use of AI does not “unlawfully discriminate” against people or communities. Senator Tom Umberg, a Democrat who chairs the California Senate’s judiciary committee, introduced the bill, known as SB 574. A spokesperson did not immediately respond to a request for comment on Friday. The measure is one of several in California aimed at managing the potential dangers of artificial intelligence, including a new law that requires big companies to disclose how they plan to mitigate potential catastrophic risks from their cutting-edge AI models.</p>
<div class="lb-trans"><p>律师还将被禁止将机密、个人识别或其他非公开信息输入公共生成式人工智能工具，并必须确保使用人工智能不会 “非法歧视” 个人或社区。加利福尼亚州参议院司法委员会主席、民主党参议员汤姆·乌姆伯格（Tom Umberg）提出了这项法案，称为 SB 574。发言人周五未立即回应评论请求。该措施是加利福尼亚州旨在管理人工智能潜在危险的几项法案之一，包括一项新法律，要求大型公司披露他们计划如何减轻其尖端人工智能模型可能带来的灾难性风险。</p>
</div><p>The bill governing lawyers’ AI use builds on requirements that already bind lawyers in the state, such as the need for court filings to be supported by existing law. It was modeled after California’s rule for the use of AI by judges and court employees, as well as a state appeals court decision that fined a lawyer $10,000 for fabricated information and warned about the need to read and verify all citations, according to a Senate analysis.</p>
<div class="lb-trans"><p>该法案对律师使用人工智能的规定建立在已经约束该州律师的要求之上，例如法庭文件需得到现有法律的支持。该法案的模式是加利福尼亚州对法官和法院工作人员使用人工智能的规定，以及一项州上诉法院的裁决，该裁决因虚假信息对一名律师处以 10,000 美元的罚款，并警告需要阅读和验证所有引用，根据参议院的分析。</p>
</div>

加州参议院通过了一项法案，旨在规范律师对人工智能的使用