加州限制 Deepfakes 技术

加州，一个经常影响全球立法者的司法管辖区，通过了一系列监管深度伪造 (Deepfakes) 的新法律。

最新动态：加州州长加文·纽瑟姆 (Gavin Newsom) 签署了八项法案，旨在限制生成式人工智能在政治和娱乐领域的使用。

运作方式：立法禁止在政治竞选中使用人工智能生成的欺骗性媒体；需要获得使用演员、音乐家和其他艺人的数字替身的许可；并将未经主体同意而生成露骨的性图像定为犯罪。

具体措施：

政治领域：

一项法律禁止在选举前 120 天到选举后 60 天内故意传播人工智能生成的有关候选人、选举官员或投票过程的欺骗性信息。该法案将“实质欺骗性内容”定义为故意创建或修改但在正常人看来是真实的图像、音频或视频。

两项相关法律要求在人工智能用于制作政治广告时进行披露。第一个要求人工智能生成的竞选广告包含这样的声明：“使用人工智能生成或大幅改变的广告。”另一种呼吁大型在线平台标记或删除人工智能生成的与选举相关的媒体。

娱乐领域：

两项法律通过控制“数字复制品”来保护表演者，“数字复制品”被定义为“计算机生成的、高度逼真的个人声音或肖像的电子表现形式”。如果表演者在签订协议时没有法律或工会代表，则使用数字复制品的合同无效。另一项则禁止在未经其遗产许可的情况下将已故表演者的数字复制品用于商业用途。

色情内容：

两项法律规范露骨的色情合成内容。有人将未经同意的人工智能生成的色情内容的创建和传播视为一种扰乱治安的轻罪。另一个要求社交媒体平台报告露骨的色情深度伪造内容。

来源披露：

另一项法律要求人工智能生成的媒体披露其来源。

背景信息：纽瑟姆尚未对参议院第 1047 号法案采取行动，这是一项有争议的法律，会给人工智能模型开发人员带来沉重负担。他表示该法案可能会干扰创新，特别是在开源项目方面。

重要性：加州通过的法律常常为美国其他州、联邦政府乃至其他国家的立法者指明道路。监管政治竞选中深度造假的新法律填补了联邦选举委员会 (FEC) 留下的空白，该委员会表示缺乏监管人工智能在政治广告中使用的权力。与此同时，美国联邦通信委员会 (FCC) 提出了要求披露政治广告中人工智能使用情况的规则，但尚未实施。

我们的看法：我们很高兴看到加州针对的是不良应用程序而不是人工智能模型。监管应用程序而不是具有多种用途（其中许多是有益的）的通用技术，可以避免加州 SB-1047 的危险，该法案仍在等待州长签署或否决。该法律旨在限制人工智能模型，将危及创新，尤其是开源。