<p>週一，加州州長 <strong>加文·紐瑟姆</strong>（D-Calif.）簽署了一項具有里程碑意義的法律，要求 <strong>OpenAI</strong>、<strong>Alphabet Inc.</strong>（NASDAQ: GOOG）（NASDAQ: GOOGL）<strong>谷歌</strong>、<strong>Meta Platforms, Inc.</strong>（NASDAQ: META）和 <strong>英偉達</strong>（NASDAQ: NVDA）等人工智能巨頭披露他們計劃如何防止其最先進的模型造成潛在的災難性風險。</p>
<h2><strong>加州在人工智能監管方面走在前列</strong></h2>
<p>紐瑟姆將這項新法律 SB 53 描述為確保人工智能創新蓬勃發展的關鍵步驟，同時保護公眾安全。</p>
<p>他在新聞稿中表示：“加州已經證明，我們可以建立法規來保護我們的社區，同時確保不斷增長的人工智能行業繼續蓬勃發展。”</p>
<p>聲明中寫道：“人工智能是創新的新前沿，加州不僅參與其中，還通過制定全國首個前沿人工智能安全立法，堅定地作為國家領導者。”</p>
<p>紐瑟姆的辦公室稱該法律可能成為美國其他地區的模型。如果國會制定國家標準，加州立法者預計將調整州規則，同時保持 “SB 53 所設立的高標準”，路透社指出。</p>
<h2><strong>法律要求</strong></h2>
<p>SB 53 適用於年收入超過 5 億美元的人工智能公司。</p>
<p>這些公司必須進行公開風險評估，詳細説明其技術如何可能失控或被濫用以製造生物武器。</p>
<p>違反規定將面臨高達 100 萬美元的罰款。</p>
<p>該法律是在紐瑟姆否決了一項早期法案後出台的，該法案要求對投資超過 1 億美元的人工智能模型的公司進行年度第三方審計。</p>
<p>該提案因潛在的合規負擔遭到行業的強烈反對。</p>
<h2><strong>行業對零散規則的反對</strong></h2>
<p><strong>傑克·克拉克</strong>，<strong>Anthropic</strong> 的聯合創始人，歡迎這一舉措，表示：“Anthropic 自豪地支持這項法案。”</p>
<p>加州參議員 <strong>斯科特·維納</strong> 支持該法案，並在 <strong>X</strong>（前 <strong>推特</strong>）上表示：“這是負責任地擴大人工智能創新的激動人心的一步。”</p>
<p>然而，<strong>科林·麥庫恩</strong>，安德森·霍洛維茨的政府事務負責人警告稱，SB 53 有可能導致 “50 個合規制度的零散拼湊，初創公司沒有資源去應對。”</p>
<h2><strong>全球背景：人工智能規則在全球範圍內成形</strong></h2>
<p>加州的法律跟隨了國外類似的努力。歐盟的人工智能法案也對高風險系統施加了嚴格要求，從風險評估到偏見控制。</p>
<p>與此同時，中國呼籲建立一個全球機構來協調人工智能治理，突顯了國際規則的碎片化狀態。</p>

谷歌-A

谷歌-C

英偉達

<p>加利福尼亞州州長加文·紐森簽署了 SB 53 法案，該法案要求像谷歌、Meta 和英偉達這樣的人工智能公司披露其先進模型的風險評估，以防止災難性風險。該法案針對年收入超過 5 億美元的公司，並對違規行為施加處罰。紐森強調了人工智能創新與公共安全之間的平衡，將加利福尼亞州定位為人工智能監管的領導者。該法案可能成為國家標準的模型，但也引發了對為初創企業創造複雜合規環境的擔憂</p>

<p>On Monday, Governor <strong>Gavin Newsom</strong> (D-Calif.) signed a landmark law requiring artificial intelligence giants such as <strong>OpenAI</strong>, <strong>Alphabet Inc.'s</strong> (NASDAQ: GOOG) (NASDAQ: GOOGL) <strong>Google</strong>, <strong>Meta Platforms, Inc.</strong> (NASDAQ: META) and <strong>Nvidia Corporation</strong> (NASDAQ: NVDA) to disclose how they plan to prevent their most advanced models from causing potential catastrophic risks.</p>
<div class="lb-trans"><p>週一，加州州長 <strong>加文·紐瑟姆</strong>（D-Calif.）簽署了一項具有里程碑意義的法律，要求 <strong>OpenAI</strong>、<strong>Alphabet Inc.</strong>（NASDAQ: GOOG）（NASDAQ: GOOGL）<strong>谷歌</strong>、<strong>Meta Platforms, Inc.</strong>（NASDAQ: META）和 <strong>英偉達</strong>（NASDAQ: NVDA）等人工智能巨頭披露他們計劃如何防止其最先進的模型造成潛在的災難性風險。</p>
</div><h2><strong>California Takes Lead On AI Regulation</strong></h2>
<div class="lb-trans"><h2><strong>加州在人工智能監管方面走在前列</strong></h2>
</div><p>Newsom described the new law, SB 53, as a critical step in ensuring that AI innovation thrives while protecting public safety.</p>
<div class="lb-trans"><p>紐瑟姆將這項新法律 SB 53 描述為確保人工智能創新蓬勃發展的關鍵步驟，同時保護公眾安全。</p>
</div><p>&#34;California has proven that we can establish regulations to protect our communities while also ensuring that the growing AI industry continues to thrive,&#34; he said in a press release.</p>
<div class="lb-trans"><p>他在新聞稿中表示：“加州已經證明，我們可以建立法規來保護我們的社區，同時確保不斷增長的人工智能行業繼續蓬勃發展。”</p>
</div><p>&#34;AI is the new frontier in innovation, and California is not only here for it – but stands strong as a national leader by enacting the first-in-the-nation frontier AI safety legislation,&#34; the statement read.</p>
<div class="lb-trans"><p>聲明中寫道：“人工智能是創新的新前沿，加州不僅參與其中，還通過制定全國首個前沿人工智能安全立法，堅定地作為國家領導者。”</p>
</div><p>Newsom's office called the law a potential model for the rest of the U.S. If Congress enacts national standards, California lawmakers are expected to align state rules while maintaining the &#34;high bar established by SB 53,&#34; noted Reuters.</p>
<div class="lb-trans"><p>紐瑟姆的辦公室稱該法律可能成為美國其他地區的模型。如果國會制定國家標準，加州立法者預計將調整州規則，同時保持 “SB 53 所設立的高標準”，路透社指出。</p>
</div><h2><strong>What The Law Requires</strong></h2>
<div class="lb-trans"><h2><strong>法律要求</strong></h2>
</div><p>SB 53 applies to AI companies with annual revenues exceeding $500 million.</p>
<div class="lb-trans"><p>SB 53 適用於年收入超過 5 億美元的人工智能公司。</p>
</div><p>These firms must conduct public risk assessments, detailing how their technology could spiral out of human control or be misused to create bioweapons.</p>
<div class="lb-trans"><p>這些公司必須進行公開風險評估，詳細説明其技術如何可能失控或被濫用以製造生物武器。</p>
</div><p>Violations carry penalties of up to $1 million.</p>
<div class="lb-trans"><p>違反規定將面臨高達 100 萬美元的罰款。</p>
</div><p>The law comes after Newsom vetoed an earlier bill that sought annual third-party audits of companies investing more than $100 million in AI models.</p>
<div class="lb-trans"><p>該法律是在紐瑟姆否決了一項早期法案後出台的，該法案要求對投資超過 1 億美元的人工智能模型的公司進行年度第三方審計。</p>
</div><p>That proposal faced heavy industry pushback over the potential compliance burden.</p>
<div class="lb-trans"><p>該提案因潛在的合規負擔遭到行業的強烈反對。</p>
</div><h2><strong>Industry Pushes Back On Patchwork Rules</strong></h2>
<div class="lb-trans"><h2><strong>行業對零散規則的反對</strong></h2>
</div><p><strong>Jack Clark</strong>, co-founder of <strong>Anthropic</strong>, welcomed the move, saying, &#34;Anthropic is proud to have supported this bill.&#34;</p>
<div class="lb-trans"><p><strong>傑克·克拉克</strong>，<strong>Anthropic</strong> 的聯合創始人，歡迎這一舉措，表示：“Anthropic 自豪地支持這項法案。”</p>
</div><p>Sen. <strong>Scott Wiener</strong> (D-Calif.) supported the bill and took to <strong>X</strong>, formerly <strong>Twitter</strong> to say, &#34;It's an exciting step for responsible scaling of AI innovation.&#34;</p>
<div class="lb-trans"><p>加州參議員 <strong>斯科特·維納</strong> 支持該法案，並在 <strong>X</strong>（前 <strong>推特</strong>）上表示：“這是負責任地擴大人工智能創新的激動人心的一步。”</p>
</div><p>However, <strong>Collin McCune</strong>, head of government affairs at Andreessen Horowitz, warned that SB 53 risks creating &#34;a patchwork of 50 compliance regimes that startups don’t have the resources to navigate.&#34;</p>
<div class="lb-trans"><p>然而，<strong>科林·麥庫恩</strong>，安德森·霍洛維茨的政府事務負責人警告稱，SB 53 有可能導致 “50 個合規制度的零散拼湊，初創公司沒有資源去應對。”</p>
</div><h2><strong>Global Context: AI Rules Take Shape Worldwide</strong></h2>
<div class="lb-trans"><h2><strong>全球背景：人工智能規則在全球範圍內成形</strong></h2>
</div><p>California's law follows similar efforts abroad. The EU's AI Act also imposes strict requirements on high-risk systems, from risk assessments to bias controls.</p>
<div class="lb-trans"><p>加州的法律跟隨了國外類似的努力。歐盟的人工智能法案也對高風險系統施加了嚴格要求，從風險評估到偏見控制。</p>
</div><p>Meanwhile, China has called for a global body to coordinate AI governance, highlighting the fragmented state of international rules.</p>
<div class="lb-trans"><p>與此同時，中國呼籲建立一個全球機構來協調人工智能治理，突顯了國際規則的碎片化狀態。</p>
</div>

Gavin Newsom Says He's Signing A Law To Install 'Common-Sense Guardrails' For AI Safety: What This Means For Google, Meta And Nvidia

- 加州州長紐森簽署新法，要求 AI 公司披露風險防範措施。  
- 法案適用於年收入超過 5 億美元的公司，違規最高罰款 100 萬美元。  
- 該法案被視為美國 AI 監管的潛在模型，可能影響全國標準。  

加文·紐瑟姆表示他將簽署一項法律，為人工智能安全設置 “常識性護欄”：這對谷歌、Meta 和英偉達意味着什麼