多方担忧抑制创新，科技巨头公开反对，加州AI法案让硅谷陷入“分裂”
【环球时报驻美国特约记者 卓然 环球时报特约记者 王逸】“加州人工智能（AI）法案引发硅谷分裂。”据法新社25日报道，美国加利福尼亚州立法机构正在推进一项旨在监管人工智能模型的法案（即“SB 1047法案”，全称“前沿人工智能模型安全创新法案”）。该法案于今年2月被提交给加州议会，引起很大争议。8月19日，加州立法机构公布了法案修订版。法案得到有“人工智能教父”之称的杰弗里·辛顿和约书亚·本吉奥的支持，但也遭到杨立昆、李飞飞等科学家，以及头部人工智能企业的反对。
8月20日，机器人在亚马逊位于旧金山的人工智能实验室前漫步。（视觉中国）既想规避风险，又想促进创新
美媒称，SB 1047法案旨在为训练成本超过1亿美元或者达到一定算力的开发者制定安全标准，确保大规模人工智能模型的安全开发。该法案要求大型前沿人工智能模型的开发者采取预防措施，例如部署前测试、模拟黑客攻击、安装网络安全保障，以及为举报人提供保护等。
SB 1047法案发起人、美国民主党参议员斯科特·维纳称，“随着国会在人工智能监管问题上陷入僵局，加州必须采取行动，在迅速发展的人工智能带来可预见的风险之前采取行动，同时也要促进创新。”维纳认为，人工智能安全与创新并不互斥，该法案的修订版已经解决了此前一些批评者的担忧。
据美国《商业内幕》25日报道，8月19日公布的修订版包含几项修改。首先，它限制了对未造成伤害或带来紧迫风险的违法行为的民事处罚范围。法案的一些关键措辞也变得宽松。法案联合提出机构——人工智能安全行动基金中心的高级政策顾问卡尔文表示，这“有助于明确法案的重点是测试和缓解风险”。其次，法案不再要求设立前沿模型部门，但仍将设立前沿模型委员会，并将其置于现有的政府运营机构内。更新后的法案还取消了伪证处罚，从而免除了相关企业的刑事责任，只规定了民事责任。
一些知名人士表示支持
加州人工智能初创公司Anthropic在最初的法案公布后提出了一系列修改意见，又在一个月后表示“谨慎认可”。 在致加州州长加文·纽森的信中，Anthropic首席执行官达里奥·阿莫迪表示，该法案目前“好处多于缺陷”。但他补充说，“我们对此并不确定，法案中仍有一些方面让我们感到担忧或模棱两可”。
不过，法案还是得到不少人工智能界知名人士的支持。例如蒙特利尔大学教授约书亚·本吉奥以及计算机科学家杰弗里·辛顿。辛顿在美国《财富》杂志的专栏文章中写道，“强大的人工智能带来令人难以置信的希望，但风险也很现实，应极其认真地对待。SB 1047法案采取了非常明智的方法来平衡这些担忧。”
美国人工智能安全中心创始人丹·亨德里克在接受《纽约时报》采访时表示，该法案将推动大型科技公司识别并消除其昂贵技术中包含的危害。
反对者：“弊大于利”
尽管科技界人士普遍认为有必要遏制新型人工智能模型的风险，但批评人士认为，维纳的提议将扼杀初创企业，让美国的竞争对手受益，并削弱加州在人工智能领域的地位。
斯坦福大学计算机科学教授李飞飞是反对该法案的知名学者之一，她表示SB 1047法案并不能解决其想要解决的问题，而且会严重损害人工智能学术界、开源社区等，因为开发者将承担过量的责任，这将限制他们创新。此外，法案要求所有超过特定阈值的模型都设置“终止开关”，这是一种可以随时关闭程序的机制，会使开发者在编写代码和协作方面更加犹豫，同时公共部门和学术界的研究也将因缺少协作等原因被削弱。她还表示，最令人担忧的是，该法案并未解决人工智能发展的潜在危害，包括偏见和深度伪造。
美国人工智能公司OpenAI日前也公开表示反对这一法案，该公司首席战略官贾森·权在给维纳的信中写道，法案威胁到“加州作为人工智能全球领导者的独特地位”。他补充说，这可能“减缓创新步伐，并导致世界级工程师和企业家离开该州到其他地方寻找机会”。另一家科技公司Meta认为，该法案“阻止了开源人工智能模型的发布”。
包括美国民主党议员在内的批评人士认为，威胁对一个新兴领域的开发者采取惩罚性措施，可能会抑制创新。前众议院议长佩洛西16日也发表了一份反对该法案的声明。声明称，“国会中的许多人认为，SB 1047法案虽然出发点良好，却是错误的。”她表示，民主党高层已经与维纳分享了他们的担忧，“虽然我们希望加州在保护消费者、数据、知识产权等方面引领人工智能发展，但SB 1047法案弊大于利”。
加州立法者希望让州长纽森签署一项争议较小的人工智能法案，因此对SB 1047法案进行了大幅修改，但未能说服硅谷最重要的人工智能实验室认为该法案值得通过。SB 1047法案目前正在加州议会进行最终投票，并可能在本月底提交到纽森的办公桌上。纽森尚未表明他对该法案的看法，但他的决定受到硅谷和美国科技界的广泛关注。
举报/反馈
0
0
收藏
分享
