竞选广告已经变得有点混乱和有争议。
现在想象一下，你被一则竞选广告所吸引，其中一位候选人表达了强有力的立场，影响了你的投票——而这则广告甚至不是真的。这是一个深度伪造的广告。
这不是什么未来主义的假设；深度伪造是一个真实存在的普遍问题。我们已经看到人工智能生成的“背书”登上头条新闻，而我们所听到的只是冰山一角。
随着 2024 年美国总统大选的临近，我们正在进入网络安全和信息完整性的未知领域。自从网络安全和人工智能都还是新兴概念以来，我就一直在这两个领域的交叉领域工作，我从未见过像现在这样的事情。
人工智能的快速发展（特别是生成式人工智能，当然还有随之而来的逼真深度伪造的便利）改变了选举威胁的格局。这一新现实要求改变有关选举安全和选民教育的基本假设。
武器化的人工智能
你不必以我的个人经历为证；有大量证据表明，我们今天面临的网络安全挑战正在以前所未有的速度发展。在短短几年的时间里，我们目睹了潜在威胁行为者的能力和方法发生了巨大变化。这种演变反映了我们在人工智能技术中看到的加速发展，但有一个令人担忧的转折。
例如：
- 漏洞快速武器化。如今的攻击者可以快速利用新发现的漏洞，通常比开发和部署补丁的速度更快。人工智能工具进一步加速了这一过程，缩短了漏洞发现和利用之间的时间窗口。
- 扩大攻击面。云技术的广泛采用大大拓宽了潜在的攻击面。如果管理不善，分布式基础设施和云提供商与用户之间的共享责任模型将产生新的攻击载体。
- 传统安全措施过时。防火墙和防病毒软件等传统安全工具难以跟上这些不断演变的威胁，尤其是在检测和缓解人工智能生成的内容方面。
看看谁在说话
在这种新的威胁形势下，深度伪造对选举公正性构成了特别隐蔽的挑战。Ivanti最近的一项研究给出了一些威胁数据：超过一半的办公室工作人员 (54%) 不知道先进的人工智能可以模仿任何人的声音。在我们即将进入关键选举周期之际，潜在选民缺乏这种意识令人深感担忧。
这关系到太多的事。
如今，深度伪造技术日趋复杂，国内外威胁行为者都能够轻而易举地制作出令人信服的虚假音频、视频和文本内容。现在，一个简单的文本提示就能生成越来越难以与真实内容区分的深度伪造内容。这种能力对于虚假信息的传播和舆论操纵有着严重影响。
归因和缓解方面的挑战
归因是我们在应对人工智能干预选举方面面临的最重大挑战之一。虽然我们历来将选举干预与民族国家行为者联系在一起，但人工智能工具的民主化意味着，受各种意识形态动机驱动的国内团体现在可以利用这些技术来影响选举。
潜在威胁行为者的扩散使我们识别和缓解虚假信息来源的能力变得复杂。这也凸显了采取超越传统网络安全措施的多层面选举安全措施的必要性。
协调努力维护选举公正
应对选举中人工智能深度伪造的挑战需要多个部门的协调努力。以下是我们需要重点关注的关键领域：
- 人工智能系统的左移安全。我们需要将“左移”安全原则应用于人工智能系统本身的开发。这意味着从人工智能模型开发的最早阶段开始就考虑安全问题，包括考虑可能被滥用来干预选举。
- 执行安全配置。可能用于生成深度伪造的人工智能系统和平台应默认具有强大、安全的配置。这包括强大的身份验证措施和对可生成内容类型的限制。
- 确保人工智能供应链的安全。正如我们专注于确保软件供应链的安全一样，我们需要将这种警惕性扩展到人工智能供应链。这包括仔细检查用于训练人工智能模型的数据集和生成人工智能系统中使用的算法。
- 增强检测能力。我们需要投资和开发能够识别人工智能生成内容的先进检测工具，特别是在选举相关信息的背景下。这可能涉及利用人工智能本身来打击人工智能生成的虚假信息。
- 选民教育和意识。我们防御深度伪造的关键要素是让选民知情。我们需要全面的教育计划来帮助选民了解人工智能生成内容的存在和潜在影响，并为他们提供工具来批判性地评估他们遇到的信息。
- 跨部门合作。科技行业，特别是 IT 和网络安全公司，必须与政府机构、选举官员和媒体组织密切合作，建立统一战线，抵制人工智能干预选举的行为。
现状如何，未来如何
在实施这些策略时，我们必须不断衡量其有效性。这将需要专门设计的新指标和监控工具，以追踪人工智能生成的内容对选举言论和选民行为的影响。
我们还应该做好迅速调整战略的准备。人工智能领域正在飞速发展，我们的防御措施也必须同样快速发展。这可能涉及利用人工智能本身来创建更强大、适应性更强的安全措施。
选举中人工智能深度伪造的挑战代表着网络安全和信息完整性的新篇章。为了解决这个问题，我们必须超越传统的安全范式，促进跨部门和跨学科的合作。目标是：利用人工智能的力量造福民主进程，同时减轻其危害的可能性。这不仅仅是一个技术挑战，也是一个社会挑战，需要持续的警惕、适应和合作。
我们选举的公正性——以及我们民主制度的健康——取决于我们能否直面这一挑战。这是我们所有人的责任：技术人员、决策者和公民都一样。
原创文章，作者：点点，如若转载，请注明出处：https://www.dian8dian.com/ren-gong-zhi-neng-shen-du-wei-zao-ru-he-wei-xie-xuan-ju
