SB1047加州出台人工智能管理法案防范AI灾难还是引发硅谷危机。

除了科幻片子，人工智能体系杀人或被用于收集进击的先例尚无先例。然而，一些立法者愿望在坏人将这种反乌托邦的将来酿成实际之前实施保障步伐。加州的一项法案（称为 SB 1047）试图在实际天下中阻止人工智能体系造成的劫难，该法案将于 8 月下旬在该州参议院进行终极投票。

（ChatGPT免费版用户DALL-E 3天生，逐日只可以天生两张图片，后果若何）

固然这彷佛是我们都能杀青同等的目的，但 SB 1047 却引起了硅谷年夜年夜小小的介入者的恼怒，包含风险投资家、年夜型科技商业团体、研讨职员和始创公司开创人。今朝，美国各地都在讨论很多人工智能法案，但加州的《前沿人工智能模子平安立异法案》已成为最具争议的法案之一。缘故原由如下。

SB 1047 起什么作用。

SB 1047 试图防止年夜型人工智能模子被用于对人类造成“严重危害”。

该法案列举了“严重伤害”的例子，例如，不良行动者使用人工智能模子制作兵器，造成年夜量职员伤亡，或指导人工智能模子谋划收集进击，造成跨越 5 亿美元的损失（相比之下，CrowdStrike 故障估量造成的损失高达50 亿美元）。该法案要求开发者（即开发模子的公司）实施足够的平安协定，以防止此类效果。

哪些车型和公司受这些规矩束缚。

SB 1047 的规矩只实用于天下上最年夜的 AI 模子：本钱至少为 1 亿美元，训练时代使用 10^26 FLOPS 的模子——这是伟大的计算量，但 OpenAI 首席执行官 Sam Altman 表现，GPT-4 的训练本钱年夜约是这么多。这些门槛可以依据必要进步。

今朝，很少有公司开发出足够年夜的公共 AI 产物来满意这些要求，但 OpenAI、谷歌和微软等科技巨擘可能很快就会如许做。AI 模子（本色上是辨认和猜测数据模式的年夜型统计引擎）通常跟着范围的扩展而变得加倍精确，很多人预计这一趋向将连续下去。马克-扎克伯格比来表现，下一代 Meta 的 Llama 将必要 10 倍以上的计算才能，这将使其受到 SB 1047 的统领。

对付开源模子及其衍生品，该法案划定，一旦另一方消费 2500 万美元进行开发或微调，他们将对该衍生模子卖力，而不是原始开发者。

该法案还要求订定平安协定，以防止滥用所涵盖的人工智能产物，包含封闭整小我工智能模子的“紧迫结束”按钮。开发职员还必需创立测试法式来应对人工智能模子带来的风险，而且必需每年聘任第三方审计师来评估他们的人工智能平安实践。

成果必需是“合理保证”，即遵循这些协定将防止产生严重危害——而不是绝对切实其实定性，这当然是弗成能提供的。

谁来执行。若何执行。

加州新成立的机构 Frontier Model Division (FMD) 将卖力监视这些规矩。每个相符 SB 1047 门槛的新公共 AI 模子都必需零丁认证，并提供其平安协定的书面副本。

FMD 将由一个由五人构成的董事会治理，此中包含来自人工智能行业、开源社区和学术界的代表，由加州州长和立法机构录用。该委员会将就可能违背 SB 1047 的行动向加州法律部长提供建议，并向人工智能模子开发者宣布平安实践指示。

开发商的首席技术官必需向 FMD 提交年度认证，评估其 AI 模子的潜在风险、其平安协定的有用性以及公司若何遵照 SB 1047 的描写。与违规关照相似，假如产生“AI 平安变乱”，开发商必需在相识变乱后 72 小时内向 FMD 申报。

假如开发者未能遵照任何这些划定，SB 1047 容许加州总查察长对开发者提起平易近事诉讼。对付一个消费 1 亿美元训练的模子，第一次违规的罚款可能高达 1000 万美元，后续违规的罚款高达 3000 万美元。跟着 AI 模子变得越来越昂贵，罚款率也会随之增长。

末了，该法案还划定，假如员工试图向加州总查察长表露有关不平安的人工智能模子的信息，则将为员工提供举报人掩护。

支撑者怎么说。

加州参议员斯科特-维纳 (Scott Wiener) 是该法案的草拟人，他代表旧金山向 TechCrunch 表现，SB 1047 旨在汲取曩昔社交媒体和数据隐私政策失败的教训，在为时已晚之前掩护国民的平安。

“我们看待科技的立场是，期待伤害产生，然后一筹莫展，”维纳说。“我们不要等着坏事产生。我们要抢在它之前采取行为。”

纵然一家公司在德克萨斯州或法国训练了代价 1 亿美元的模子，只要它在加利福尼亚州开展营业，它就会受到 SB 1047 的掩护。维纳表现，国会“在曩昔 25 年里险些没有订定任何有关技术的立法”，是以他以为加利福尼亚州应该在这里创始先例。

当被问及是否就 SB 1047 与 OpenAI 和 Meta 会见时，维纳说“我们已经与所有年夜型试验室会见了。”

两位有时被称为“人工智能教父”的人工智能研讨职员杰弗里-辛顿 (Geoffrey Hinton) 和约书亚-本吉奥 (Yoshua Bengio) 都支撑这项法案。这两位都属于人工智能社区的一个派系，他们担忧人工智能技术可能造成的危险、天下末日的情景。这些“人工智能末日论者”在研讨界已经存在了一段光阴，SB 1047 可能会将他们偏心的一些保障步伐编入司法。另一个帮助 SB 1047 的组织，人工智能平安中心，在 2023 年 5 月写了一封公开信，呼吁天下将“减轻人工智能灭尽的风险”作为优先事变，就像流行病或核战争一样严肃看待。

人工智能平安中心主任 Dan Hendrycks 在给 TechCrunch 的一封电子邮件中表现：“这相符加州甚至美国财产的历久好处，由于重年夜平安事故可能是进一步成长的最年夜障碍。”

比来，亨德里克的念头也受到了质疑。据一份消息稿称，本年 7 月，他公开成立了一家名为 Gray Swan 的始创公司，该公司开发“赞助公司评估其 AI 体系风险的对象” 。有批驳人士称，假如该法案得到经由过程，亨德里克的始创公司可能会从中获益，成为 SB 1047 要求开发商聘任的审计师之一，是以他剥离了在 Gray Swan的股权。

“我撤资是为了发出一个明白的旌旗灯号，”亨德里克在给 TechCrunch 的电子邮件中表现。“假如否决知识性人工智能平安的亿万大亨风险投资家想注解他们的念头是纯洁的，那就让他们效仿吧。”

否决者怎么说。

越来越多的硅谷人士否决 SB 1047 法案。

Hendrycks 所说的“亿万大亨风险投资否决者”可能指的是 Marc Andreessen 和 Ben Horowitz 创建的风险投资公司 a16z，该公司强烈否决 SB 1047。8 月初，该风险投资公司的首席司法官 Jaikumar Ramaswamy 向参议员维纳提交了一封信，声称该法案“将因其随意率性且赓续变化的门槛而给始创企业带来负担”，对人工智能生态体系发生了寒蝉效应。跟着人工智能技术的提高，其本钱将越来越高，这意味着更多的始创公司将突破 1 亿美元的门槛，并将受到 SB 1047 的掩护；a16z 表现，他们的几家始创公司已经得到了这么多的资金用于训练模子。

常常被称为人工智能教母的李飞飞在 8 月初冲破了对 SB 1047 的缄默，她在《财富》杂志的专栏中写道，该法案将“侵害我们方才起步的人工智能生态体系”。李飞飞是斯坦福年夜学备受推重的人工智能研讨前驱，据报道，她还于 4 月创立了一家名为 World Labs 的人工智能始创公司，估值 10 亿美元，由 a16z 提供支撑。

她与斯坦福年夜学研讨员吴恩达等有影响力的人工智能学者站在一路，吴恩达在 7 月的 Y Combinator 运动演讲中称该法案是“对开源的进击”。开源模子可能会给其创立者带来额外的风险，由于与任何开放软件一样，它们更容易被改动并部署到随意率性和潜在的恶意目标。

Meta 首席人工智能科学家 Yann LeCun 在X 上的一篇文章中表现，SB 1047 将侵害研讨事情，而且是基于“少数梦想军师团推进的‘生计风险’幻觉” 。Meta 的 Llama LLM 是开源 LLM 的典型例子之一。

始创公司也对这项法案不满。人工智能始创公司 Omniscience 的首席执行官兼旧金隐士工智能始创公司中心 AGI House SF 的开创人杰里米-尼克松 (Jeremy Nixon) 担忧 SB 1047 会摧毁他的生态体系。他以为，应该处分造成严重侵害的坏人，而不是公开开发和分发该技术的人工智能试验室。

“法案的焦点内容让人很迷惑，LLM 的危险才能程度可能会有所分歧，”尼克松说。“在我看来，所有型号都具有法案界说的危险才能，这是很有可能的。”

但该法案直接存眷的年夜型科技公司也对 SB 1047 觉得恐慌。代表谷歌、苹果、亚马逊和其他年夜型科技巨擘的商业组织提高商会 ( Chamber of Progress ) 颁发了一封公开信，否决该法案，称 SB 1047 限定了言论自由并“将科技立异赶出了加州”。客岁，谷歌首席执行官 Sundar Pichai 和其他科技高管支撑联邦对人工智能进行监管的设法主意。

代表硅谷的美国众议员罗-卡纳周二颁发声明 否决 SB 1047 法案。他表现担忧该法案“无效，会处分个别企业家和小企业，并侵害加州的立异精力”。

硅谷传统上不喜欢加州订定如斯普遍的科技监管划定。2019 年，当另一项州隐私法案《加州花费者隐私法案》也威逼要转变科技格式时，年夜型科技公司也打出了相似的牌。硅谷曾游说否决该法案，在该法案生效的几个月前，亚马逊开创人杰夫-贝佐斯和其他 50 名高管写了一封公开信，呼吁订定联邦隐私法案。

接下来会产生什么。

8 月 15 日，SB 1047 将连同得到同意的修正案一路提交加州参议院。维纳表现，这是法案在加州参议院“存亡攸关”的时候。鉴于迄今为止立法者们的压服性支撑，该法案有望得到经由过程。

7 月尾，Anthropic 提交了多项针对 SB 1047 的修订建议，维纳表现，他和加州参议院政策委员会正在积极斟酌这些建议。Anthropic 是首家公开表现乐意与维纳互助订定 SB 1047 的先进 AI 模子开发商，只管它并不支撑今朝的法案。这在很年夜水平上被视为该法案的成功。

Anthropic 提出的改动包含破除 FMD、减弱法律部长在造成危害之前告状人工智能开发商的权利，以及破除 SB 1047 中的举报人掩护条目。维纳表现，他总体上对这些修正案持积极立场，但在将其添加到法案中之前，必要获得参议院几个政策委员会的同意。

假如 SB 1047 在参议院得到经由过程，该法案将被送至加州州长加文-纽瑟姆的办公桌，他将在 8 月尾之前终极决议是否签订该法案。维纳表现，他尚未与纽瑟姆谈过该法案，也不知道他的态度。

该法案不会立刻生效，由于 FMD 将于 2026 年景立。此外，假如该法案得到经由过程，它很可能在那之前面对司法挑战，大概来自如今正在评论辩论该法案的一些雷同集团。

▲ 滑动查看往期内容