加文·紐瑟姆表示他將簽署一項法律，為人工智能安全設置 “常識性護欄”：這對谷歌、Meta 和英偉達意味着什麼

週一，加州州長 加文·紐瑟姆（D-Calif.）簽署了一項具有里程碑意義的法律，要求 OpenAI、Alphabet Inc.（NASDAQ: GOOG）（NASDAQ: GOOGL）谷歌、Meta Platforms, Inc.（NASDAQ: META）和 英偉達（NASDAQ: NVDA）等人工智能巨頭披露他們計劃如何防止其最先進的模型造成潛在的災難性風險。

加州在人工智能監管方面走在前列

紐瑟姆將這項新法律 SB 53 描述為確保人工智能創新蓬勃發展的關鍵步驟，同時保護公眾安全。

他在新聞稿中表示：“加州已經證明，我們可以建立法規來保護我們的社區，同時確保不斷增長的人工智能行業繼續蓬勃發展。”

聲明中寫道：“人工智能是創新的新前沿，加州不僅參與其中，還通過制定全國首個前沿人工智能安全立法，堅定地作為國家領導者。”

紐瑟姆的辦公室稱該法律可能成為美國其他地區的模型。如果國會制定國家標準，加州立法者預計將調整州規則，同時保持 “SB 53 所設立的高標準”，路透社指出。

法律要求

SB 53 適用於年收入超過 5 億美元的人工智能公司。

這些公司必須進行公開風險評估，詳細説明其技術如何可能失控或被濫用以製造生物武器。

違反規定將面臨高達 100 萬美元的罰款。

該法律是在紐瑟姆否決了一項早期法案後出台的，該法案要求對投資超過 1 億美元的人工智能模型的公司進行年度第三方審計。

該提案因潛在的合規負擔遭到行業的強烈反對。

行業對零散規則的反對

傑克·克拉克，Anthropic 的聯合創始人，歡迎這一舉措，表示：“Anthropic 自豪地支持這項法案。”

加州參議員 斯科特·維納 支持該法案，並在 X（前 推特）上表示：“這是負責任地擴大人工智能創新的激動人心的一步。”

然而，科林·麥庫恩，安德森·霍洛維茨的政府事務負責人警告稱，SB 53 有可能導致 “50 個合規制度的零散拼湊，初創公司沒有資源去應對。”

全球背景：人工智能規則在全球範圍內成形

加州的法律跟隨了國外類似的努力。歐盟的人工智能法案也對高風險系統施加了嚴格要求，從風險評估到偏見控制。

與此同時，中國呼籲建立一個全球機構來協調人工智能治理，突顯了國際規則的碎片化狀態。