加文·纽瑟姆表示他将签署一项法律，为人工智能安全设置 “常识性护栏”：这对谷歌、Meta 和英伟达意味着什么

周一，加州州长 加文·纽瑟姆（D-Calif.）签署了一项具有里程碑意义的法律，要求 OpenAI、Alphabet Inc.（NASDAQ: GOOG）（NASDAQ: GOOGL）谷歌、Meta Platforms, Inc.（NASDAQ: META）和 英伟达（NASDAQ: NVDA）等人工智能巨头披露他们计划如何防止其最先进的模型造成潜在的灾难性风险。

加州在人工智能监管方面走在前列

纽瑟姆将这项新法律 SB 53 描述为确保人工智能创新蓬勃发展的关键步骤，同时保护公众安全。

他在新闻稿中表示：“加州已经证明，我们可以建立法规来保护我们的社区，同时确保不断增长的人工智能行业继续蓬勃发展。”

声明中写道：“人工智能是创新的新前沿，加州不仅参与其中，还通过制定全国首个前沿人工智能安全立法，坚定地作为国家领导者。”

纽瑟姆的办公室称该法律可能成为美国其他地区的模型。如果国会制定国家标准，加州立法者预计将调整州规则，同时保持 “SB 53 所设立的高标准”，路透社指出。

法律要求

SB 53 适用于年收入超过 5 亿美元的人工智能公司。

这些公司必须进行公开风险评估，详细说明其技术如何可能失控或被滥用以制造生物武器。

违反规定将面临高达 100 万美元的罚款。

该法律是在纽瑟姆否决了一项早期法案后出台的，该法案要求对投资超过 1 亿美元的人工智能模型的公司进行年度第三方审计。

该提案因潜在的合规负担遭到行业的强烈反对。

行业对零散规则的反对

杰克·克拉克，Anthropic 的联合创始人，欢迎这一举措，表示：“Anthropic 自豪地支持这项法案。”

加州参议员 斯科特·维纳 支持该法案，并在 X（前 推特）上表示：“这是负责任地扩大人工智能创新的激动人心的一步。”

然而，科林·麦库恩，安德森·霍洛维茨的政府事务负责人警告称，SB 53 有可能导致 “50 个合规制度的零散拼凑，初创公司没有资源去应对。”

全球背景：人工智能规则在全球范围内成形

加州的法律跟随了国外类似的努力。欧盟的人工智能法案也对高风险系统施加了严格要求，从风险评估到偏见控制。

与此同时，中国呼吁建立一个全球机构来协调人工智能治理，突显了国际规则的碎片化状态。