加州州长加文·纽瑟姆最近签署了九项法案,旨在解决人工智能生成内容的风险,尤其是深度伪造。在 9 月 30 日该州立法会议结束之前,还有 29 项与人工智能相关的立法等待他签署或否决。
其中最具争议的是 SB 1047,该法案要求人工智能开发者实施保护措施,以降低其技术引发灾难(如大规模伤亡事件或网络攻击)的风险。到目前为止,纽森一直不愿透露他对该法案的计划。
他最近签署的两项法案旨在保护演员和表演者(无论健在还是已故)的数字肖像不被人工智能和其他数字技术未经授权使用:
- AB 2602 要求签订合同来使用人工智能生成的表演者的声音或肖像的深度伪造,并且表演者在谈判合同时必须有专业人士代表。
- AB 1836 禁止在未经表演者遗产同意的情况下在电影、电视节目、视频游戏、有声读物、录音和其他媒体中对已故表演者的深度伪造进行商业使用。
纽森表示:“在人工智能和数字媒体如何改变娱乐业方面,我们仍在探索未知领域,但我们的北极星一直是保护工人。这项立法确保该行业能够继续蓬勃发展,同时加强对工人的保护,并规定他们的肖像是否可以被使用。”
有三项法案旨在打击滥用人工智能生成内容,包括色情深度伪造:
- SB 926 规定,制作和传播看似真实人物的色情图片,若其目的是为了引起他人精神困扰则属于犯罪行为。
- SB 981 要求社交媒体平台建立一种机制,供人们举报自己的色情深度伪造内容,一旦被举报,平台必须在调查期间暂时屏蔽相关材料,一经确认,则必须永久删除。
- SB 942 要求生成式人工智能系统在其生成的内容上添加隐形水印,并提供免费工具来检测它们,以便轻松识别人工智能生成的内容。
纽森说:“任何人都不应该受到网络上那些可以深度伪造他们的人(尤其是色情伪造)的威胁。我们正处于这样一个时代,人工智能等数字工具拥有巨大的能力,但它们也可能被滥用于他人。我们正在加紧保护加州人民。”
四项法案旨在打击在竞选活动中使用深度伪造和其他欺骗性的数字生成或更改内容。
- AB 2655 要求大型网络平台在选举期间的特定时期内删除或标记欺骗性或数字化更改的政治内容,并要求它们提供举报方式。
- AB 2839 扩大了禁止政治实体故意分发带有欺骗性人工智能生成内容的广告或其他选举材料的时间范围。
- AB 2355 要求使用人工智能生成内容的政治广告披露材料已被更改。
- AB 2905 要求自动电话呼叫必须通知接收者是否是人工生成的。
纽森表示:“维护选举的公正性对民主至关重要,我们必须确保人工智能不会通过虚假信息破坏公众的信任,尤其是在当今紧张的政治气氛下。”“这些措施将有助于打击政治广告和其他内容中深度伪造的有害使用,这是国家积极推动透明和值得信赖的人工智能的几个领域之一。”
原创文章,作者:点点,如若转载,请注明出处:https://www.dian8dian.com/jia-zhou-zhou-zhang-qian-shu-9-xiang-fa-an-gui-fan-ren-gong