OpenAI 和 Anthropic 等领先的人工智能开发商正在努力向美国军方出售软件：让五角大楼更有效率，但又不让他们的人工智能杀人。
五角大楼首席数字和人工智能官拉达·普拉姆博士在接受电话采访时表示，今天他们的工具并没有被用作武器，但人工智能让国防部在识别、追踪和评估威胁方面具有“显著优势”。
普拉姆布说：“我们显然正在增加加快杀伤链执行的方法，以便我们的指挥官能够及时做出反应，保护我们的部队。”
“杀伤链”是指军队识别、跟踪和消除威胁的过程，涉及传感器、平台和武器的复杂系统。据 Plumb 称，生成式人工智能在杀伤链的规划和战略制定阶段非常有用。
五角大楼与人工智能开发者之间的关系相对较新。OpenAI、Anthropic 和 Meta在 2024 年撤销了使用政策，允许美国情报和国防机构使用其人工智能系统。然而，他们仍然不允许其人工智能伤害人类。
当被问及五角大楼如何与人工智能模型提供商合作时，普拉姆布表示：“我们非常清楚我们将会使用他们的技术做什么，不会用他们的技术做什么。”
尽管如此，这还是为人工智能公司和国防承包商开启了一轮快速约会。
11 月， Meta与洛克希德马丁和博思艾伦等公司合作，将其 Llama AI 模型引入国防机构。同月，Anthropic 与 Palantir 合作。12 月，OpenAI与 Anduril达成了类似的协议。Cohere 也一直在悄无声息地与 Palantir 合作部署其模型。
随着生成式人工智能在五角大楼证明其实用性，它可能会推动硅谷放宽其人工智能使用政策并允许更多的军事应用。
“演练不同的场景是生成式人工智能可以提供帮助的事情，”普拉姆说。“它不仅能让你充分利用我们的指挥官拥有的各种工具，还能在存在潜在威胁或一系列威胁的环境中创造性地思考不同的响应选项和潜在的权衡，这些威胁需要被起诉。”
目前尚不清楚五角大楼在这项工作中使用了谁的技术；在杀伤链中使用生成式人工智能（即使在早期规划阶段）似乎确实违反了几家领先模型开发商的使用政策。例如， Anthropic 的政策禁止使用其模型来生产或修改“旨在造成伤害或人员死亡的系统”。
在回答我们的问题时，Anthropic介绍了其首席执行官 Dario Amodei最近接受英国《金融时报》采访的情况，他在采访中为自己的军事工作进行了辩护：
我认为，我们永远不应该在国防和情报领域使用人工智能的观点是没有道理的。我们应该大张旗鼓地利用人工智能制造任何我们想要的东西——包括世界末日武器——这显然同样疯狂。我们正在努力寻求中间立场，以负责任的方式做事。
OpenAI、Meta 和 Cohere 没有回应评论请求。
生与死以及人工智能武器
近几个月来，国防科技领域爆发了一场争论，争论的焦点是人工智能武器是否真的应该被允许做出生死攸关的决定。一些人认为，美国军方已经拥有了这样的武器。
Anduril 首席执行官帕尔默·卢基 (Palmer Luckey) 最近在 X 上指出，美国军方长期以来一直在购买和使用CIWS 炮塔等自主武器系统。
“国防部几十年来一直在购买和使用自主武器系统。它们的使用（和出口！）是众所周知的，有严格的定义，并受到非自愿规则的明确监管，”卢基说。
但当询问五角大楼是否购买并使用完全自主的武器（无需人类参与的武器）时，普拉姆原则上拒绝了这个想法。
“答案是不会，”普拉姆说。“出于可靠性和道德方面的考虑，我们总是会让人类参与使用武力的决策，包括我们的武器系统。”
“自主”一词有些模糊，并引发了整个科技行业的争论，关于自动化系统（如人工智能编码代理、自动驾驶汽车或自动射击武器）何时才能真正独立。
普拉姆说，自动化系统独立做出生死决定的想法“太二元化”，现实并不像科幻小说那样。相反，她认为五角大楼对人工智能系统的使用实际上是人与机器之间的合作，高层领导在整个过程中做出积极的决策。
“人们倾向于认为，机器人存在于某个地方，然后 gonculator（一种虚构的自动机器）吐出一张纸，人类只需勾选一个方框即可，”Plumb 说。“人机协作并不是这样运作的，也不是有效利用这类人工智能系统的方式。”
五角大楼的人工智能安全
与军方的合作并不总是受到硅谷员工的欢迎。去年，数十名亚马逊和谷歌员工因抗议公司与以色列签订的军事合同而被解雇和逮捕，这些云计算交易的代号为“Project Nimbus”。
相比之下，人工智能社区的反应则相对平淡。一些人工智能研究人员，如 Anthropic 的 Evan Hubinger，表示人工智能在军队中的应用是不可避免的，与军方直接合作以确保他们正确行事至关重要。
“如果你认真对待人工智能带来的灾难性风险，那么美国政府是一个极其重要的参与者，试图阻止美国政府使用人工智能并不是一个可行的策略，”Hubinger 在 11 月在线论坛 LessWrong 的一篇帖子中表示。“仅仅关注灾难性风险是不够的，你还必须防止政府可能滥用你的模型的任何方式。”
原创文章，作者：王 浩然，如若转载，请注明出处：https://www.dian8dian.com/wu-jiao-da-lou-cheng-ren-gong-zhi-neng-zheng-zai-jia-su-qi
