<p>周一，加州州长 <strong>加文·纽瑟姆</strong>（D-Calif.）签署了一项具有里程碑意义的法律，要求 <strong>OpenAI</strong>、<strong>Alphabet Inc.</strong>（NASDAQ: GOOG）（NASDAQ: GOOGL）<strong>谷歌</strong>、<strong>Meta Platforms, Inc.</strong>（NASDAQ: META）和 <strong>英伟达</strong>（NASDAQ: NVDA）等人工智能巨头披露他们计划如何防止其最先进的模型造成潜在的灾难性风险。</p>
<h2><strong>加州在人工智能监管方面走在前列</strong></h2>
<p>纽瑟姆将这项新法律 SB 53 描述为确保人工智能创新蓬勃发展的关键步骤，同时保护公众安全。</p>
<p>他在新闻稿中表示：“加州已经证明，我们可以建立法规来保护我们的社区，同时确保不断增长的人工智能行业继续蓬勃发展。”</p>
<p>声明中写道：“人工智能是创新的新前沿，加州不仅参与其中，还通过制定全国首个前沿人工智能安全立法，坚定地作为国家领导者。”</p>
<p>纽瑟姆的办公室称该法律可能成为美国其他地区的模型。如果国会制定国家标准，加州立法者预计将调整州规则，同时保持 “SB 53 所设立的高标准”，路透社指出。</p>
<h2><strong>法律要求</strong></h2>
<p>SB 53 适用于年收入超过 5 亿美元的人工智能公司。</p>
<p>这些公司必须进行公开风险评估，详细说明其技术如何可能失控或被滥用以制造生物武器。</p>
<p>违反规定将面临高达 100 万美元的罚款。</p>
<p>该法律是在纽瑟姆否决了一项早期法案后出台的，该法案要求对投资超过 1 亿美元的人工智能模型的公司进行年度第三方审计。</p>
<p>该提案因潜在的合规负担遭到行业的强烈反对。</p>
<h2><strong>行业对零散规则的反对</strong></h2>
<p><strong>杰克·克拉克</strong>，<strong>Anthropic</strong> 的联合创始人，欢迎这一举措，表示：“Anthropic 自豪地支持这项法案。”</p>
<p>加州参议员 <strong>斯科特·维纳</strong> 支持该法案，并在 <strong>X</strong>（前 <strong>推特</strong>）上表示：“这是负责任地扩大人工智能创新的激动人心的一步。”</p>
<p>然而，<strong>科林·麦库恩</strong>，安德森·霍洛维茨的政府事务负责人警告称，SB 53 有可能导致 “50 个合规制度的零散拼凑，初创公司没有资源去应对。”</p>
<h2><strong>全球背景：人工智能规则在全球范围内成形</strong></h2>
<p>加州的法律跟随了国外类似的努力。欧盟的人工智能法案也对高风险系统施加了严格要求，从风险评估到偏见控制。</p>
<p>与此同时，中国呼吁建立一个全球机构来协调人工智能治理，突显了国际规则的碎片化状态。</p>

谷歌-A

谷歌-C

英伟达

<p>加利福尼亚州州长加文·纽森签署了 SB 53 法案，该法案要求像谷歌、Meta 和英伟达这样的人工智能公司披露其先进模型的风险评估，以防止灾难性风险。该法案针对年收入超过 5 亿美元的公司，并对违规行为施加处罚。纽森强调了人工智能创新与公共安全之间的平衡，将加利福尼亚州定位为人工智能监管的领导者。该法案可能成为国家标准的模型，但也引发了对为初创企业创造复杂合规环境的担忧</p>

<p>On Monday, Governor <strong>Gavin Newsom</strong> (D-Calif.) signed a landmark law requiring artificial intelligence giants such as <strong>OpenAI</strong>, <strong>Alphabet Inc.'s</strong> (NASDAQ: GOOG) (NASDAQ: GOOGL) <strong>Google</strong>, <strong>Meta Platforms, Inc.</strong> (NASDAQ: META) and <strong>Nvidia Corporation</strong> (NASDAQ: NVDA) to disclose how they plan to prevent their most advanced models from causing potential catastrophic risks.</p>
<div class="lb-trans"><p>周一，加州州长 <strong>加文·纽瑟姆</strong>（D-Calif.）签署了一项具有里程碑意义的法律，要求 <strong>OpenAI</strong>、<strong>Alphabet Inc.</strong>（NASDAQ: GOOG）（NASDAQ: GOOGL）<strong>谷歌</strong>、<strong>Meta Platforms, Inc.</strong>（NASDAQ: META）和 <strong>英伟达</strong>（NASDAQ: NVDA）等人工智能巨头披露他们计划如何防止其最先进的模型造成潜在的灾难性风险。</p>
</div><h2><strong>California Takes Lead On AI Regulation</strong></h2>
<div class="lb-trans"><h2><strong>加州在人工智能监管方面走在前列</strong></h2>
</div><p>Newsom described the new law, SB 53, as a critical step in ensuring that AI innovation thrives while protecting public safety.</p>
<div class="lb-trans"><p>纽瑟姆将这项新法律 SB 53 描述为确保人工智能创新蓬勃发展的关键步骤，同时保护公众安全。</p>
</div><p>&#34;California has proven that we can establish regulations to protect our communities while also ensuring that the growing AI industry continues to thrive,&#34; he said in a press release.</p>
<div class="lb-trans"><p>他在新闻稿中表示：“加州已经证明，我们可以建立法规来保护我们的社区，同时确保不断增长的人工智能行业继续蓬勃发展。”</p>
</div><p>&#34;AI is the new frontier in innovation, and California is not only here for it – but stands strong as a national leader by enacting the first-in-the-nation frontier AI safety legislation,&#34; the statement read.</p>
<div class="lb-trans"><p>声明中写道：“人工智能是创新的新前沿，加州不仅参与其中，还通过制定全国首个前沿人工智能安全立法，坚定地作为国家领导者。”</p>
</div><p>Newsom's office called the law a potential model for the rest of the U.S. If Congress enacts national standards, California lawmakers are expected to align state rules while maintaining the &#34;high bar established by SB 53,&#34; noted Reuters.</p>
<div class="lb-trans"><p>纽瑟姆的办公室称该法律可能成为美国其他地区的模型。如果国会制定国家标准，加州立法者预计将调整州规则，同时保持 “SB 53 所设立的高标准”，路透社指出。</p>
</div><h2><strong>What The Law Requires</strong></h2>
<div class="lb-trans"><h2><strong>法律要求</strong></h2>
</div><p>SB 53 applies to AI companies with annual revenues exceeding $500 million.</p>
<div class="lb-trans"><p>SB 53 适用于年收入超过 5 亿美元的人工智能公司。</p>
</div><p>These firms must conduct public risk assessments, detailing how their technology could spiral out of human control or be misused to create bioweapons.</p>
<div class="lb-trans"><p>这些公司必须进行公开风险评估，详细说明其技术如何可能失控或被滥用以制造生物武器。</p>
</div><p>Violations carry penalties of up to $1 million.</p>
<div class="lb-trans"><p>违反规定将面临高达 100 万美元的罚款。</p>
</div><p>The law comes after Newsom vetoed an earlier bill that sought annual third-party audits of companies investing more than $100 million in AI models.</p>
<div class="lb-trans"><p>该法律是在纽瑟姆否决了一项早期法案后出台的，该法案要求对投资超过 1 亿美元的人工智能模型的公司进行年度第三方审计。</p>
</div><p>That proposal faced heavy industry pushback over the potential compliance burden.</p>
<div class="lb-trans"><p>该提案因潜在的合规负担遭到行业的强烈反对。</p>
</div><h2><strong>Industry Pushes Back On Patchwork Rules</strong></h2>
<div class="lb-trans"><h2><strong>行业对零散规则的反对</strong></h2>
</div><p><strong>Jack Clark</strong>, co-founder of <strong>Anthropic</strong>, welcomed the move, saying, &#34;Anthropic is proud to have supported this bill.&#34;</p>
<div class="lb-trans"><p><strong>杰克·克拉克</strong>，<strong>Anthropic</strong> 的联合创始人，欢迎这一举措，表示：“Anthropic 自豪地支持这项法案。”</p>
</div><p>Sen. <strong>Scott Wiener</strong> (D-Calif.) supported the bill and took to <strong>X</strong>, formerly <strong>Twitter</strong> to say, &#34;It's an exciting step for responsible scaling of AI innovation.&#34;</p>
<div class="lb-trans"><p>加州参议员 <strong>斯科特·维纳</strong> 支持该法案，并在 <strong>X</strong>（前 <strong>推特</strong>）上表示：“这是负责任地扩大人工智能创新的激动人心的一步。”</p>
</div><p>However, <strong>Collin McCune</strong>, head of government affairs at Andreessen Horowitz, warned that SB 53 risks creating &#34;a patchwork of 50 compliance regimes that startups don’t have the resources to navigate.&#34;</p>
<div class="lb-trans"><p>然而，<strong>科林·麦库恩</strong>，安德森·霍洛维茨的政府事务负责人警告称，SB 53 有可能导致 “50 个合规制度的零散拼凑，初创公司没有资源去应对。”</p>
</div><h2><strong>Global Context: AI Rules Take Shape Worldwide</strong></h2>
<div class="lb-trans"><h2><strong>全球背景：人工智能规则在全球范围内成形</strong></h2>
</div><p>California's law follows similar efforts abroad. The EU's AI Act also imposes strict requirements on high-risk systems, from risk assessments to bias controls.</p>
<div class="lb-trans"><p>加州的法律跟随了国外类似的努力。欧盟的人工智能法案也对高风险系统施加了严格要求，从风险评估到偏见控制。</p>
</div><p>Meanwhile, China has called for a global body to coordinate AI governance, highlighting the fragmented state of international rules.</p>
<div class="lb-trans"><p>与此同时，中国呼吁建立一个全球机构来协调人工智能治理，突显了国际规则的碎片化状态。</p>
</div>

Gavin Newsom Says He's Signing A Law To Install 'Common-Sense Guardrails' For AI Safety: What This Means For Google, Meta And Nvidia

- 加州州长纽森签署新法，要求 AI 公司披露风险防范措施。  
- 法案适用于年收入超过 5 亿美元的公司，违规最高罚款 100 万美元。  
- 该法案被视为美国 AI 监管的潜在模型，可能影响全国标准。  

加文·纽瑟姆表示他将签署一项法律，为人工智能安全设置 “常识性护栏”：这对谷歌、Meta 和英伟达意味着什么