就在 11 月大选前几周,加州州长加文·纽瑟姆 (Gavin Newsom) 签署了三项法案,禁止在竞选广告中使用深度伪造和其他误导性的数字创建或修改内容。
纽森说:“维护选举的完整性对民主至关重要,我们必须确保人工智能不会通过虚假信息来破坏公众的信任,尤其是在当今紧张的政治气氛中。”
“这些措施将有助于打击政治广告和其他内容中深度伪造的有害使用,这是国家积极推动透明和值得信赖的人工智能的几个领域之一。”
这些法案以州长于 2019 年签署的一项立法为基础,该立法规定在选举前 60 天内传播旨在破坏政治候选人和误导选民的经过操纵的视频属于违法行为,同时还有一项立法赋予加州人起诉在未经他们同意的情况下将深度伪造视频放入色情内容中的个人的权利。
这三项法案与选举广告及通讯有关。
第一项法案由议员马克·伯曼提出,要求网络平台在指定时间内删除或标记误导性、数字修改或创建的与选举相关的内容,并建立此类内容的报告机制。
此外,它还允许候选人、民选官员、选举官员、司法部长和地区或市检察官对不遵守法律的平台寻求禁令救济。
“人工智能生成的深度伪造对我们的选举和民主构成了明显而现实的风险,”伯曼说。“AB 2655 是全国首个针对这一日益严重的威胁的解决方案,我感谢纽森州长签署了该法案。
“过去几年,人工智能的进步使得生成超现实但完全虚假的选举相关深度伪造视频变得轻而易举,但 AB 2655 将确保在线平台将其影响降至最低。”
第二项法案由议员盖尔·佩勒林 (Gail Pellerin) 提出,延长了禁止委员会或其他实体故意分发包含欺骗性人工智能生成或操纵内容的广告或其他选举材料的期限。该法案还扩大了禁止“民选官员、候选人、选举官员和其他人发布实质性欺骗性内容”的现行法律的范围,授权他们提起民事诉讼,禁止分发此类材料。
“签署 AB 2839 法案是继续保护民主进程完整性的重要一步,”佩勒林说。“距离大选不到 50 天,迫切需要防止可能干扰选举的误导性、数字化篡改内容。”
第三项法案由议员温迪·卡里罗 (Wendy Carrillo) 提出。该法案要求使用人工智能生成或修改内容的竞选广告必须披露内容已被修改。该法案还授权公平政治实践委员会“通过寻求禁令救济强制遵守或寻求《政治改革法》规定的委员会可获得的其他补救措施来执行违反这些披露要求的行为。”
她说:“使用工具来伪造图像、视频和声音并不是新鲜事。然而,人工智能和大型语言模型的快速进步使得制作令人信服的假图像、视频和声音变得更加容易。”
“随着这些技术越来越普及并被用于政治竞选,它们对民主的影响需要立即采取行动。当生成式人工智能被用于政治广告以大幅改变媒体或创建误导性内容时,必须告知选民。言论自由和政治表达是我们民主的基石,但在人工智能发展的同时,我们不能忽视我们的人性。”
原创文章,作者:点点,如若转载,请注明出处:https://www.dian8dian.com/jia-zhou-jin-zhi-zheng-zhi-guang-gao-zhong-shi-yong-ai