9 月底，Shield AI 联合创始人 Brandon Tseng 发誓，美国的武器永远不会完全自动化——这意味着人工智能算法将做出杀人的最终决定。“国会不希望这样，”这位国防科技创始人告诉 TechCrunch。“没有人希望这样。”
但曾说得太早了。五天后，Anduril 联合创始人帕尔默·卢基 (Palmer Luckey) 表示对自主武器持开放态度——或者至少对反对它们的论点持强烈怀疑态度。美国的对手“在简短的发言中使用了听起来很不错的短语：好吧，难道你不能同意机器人永远不应该决定谁生谁死吗？”卢基本月早些时候在佩珀代因大学的一次演讲中说道。“我想对他们说的是，地雷连一辆满载孩子的校车和一辆俄罗斯坦克都无法区分，那么道德制高点在哪里呢？”
当被要求进一步评论时，Anduril 的发言人 Shannon Prior 表示，Luckey 并不是说机器人应该被编程来自行杀人，他只是担心“坏人使用坏的人工智能”。
过去，硅谷总是过于谨慎。以 Luckey 的联合创始人 Trae Stephens 为例。去年，他告诉Kara Swisher：“我认为我们正在开发的技术使人类能够对这些事情做出正确的决定。因此，显然，所有可能涉及致命性的决策都有一个负责任的、负责的一方参与其中。”
Anduril 的发言人否认 Luckey（如上图所示）的观点与 Stephens 的观点有任何不一致，并表示 Stephens 的意思并不是总是由人类来做出决定，而只是说要有人承担责任。
公平地说，美国政府本身的立场同样模棱两可。美国军方目前不购买完全自主武器。尽管有人认为地雷和导弹等武器可以自主操作，但这种自主性与无需人工干预就能识别、捕获和射击目标的炮塔等武器在性质上有所不同。
美国并未禁止公司制造全自动致命武器，也没有明确禁止它们 向外国出售此类武器。 去年，美国发布了军事人工智能安全的最新指南，该指南得到了许多美国盟友的认可，并要求高级军事官员批准任何新型自主武器；然而，这些指南是自愿的（安杜里尔表示，它致力于遵循这些指南），美国官员一直表示，现在“还不是考虑对自主武器实施任何具有约束力的禁令的 合适时机” 。
上个月，Palantir 联合创始人兼 Anduril 投资者乔·朗斯代尔 (Joe Lonsdale) 也表示愿意考虑完全自主武器。在智库哈德逊研究所 (Hudson Institute) 主办的一场活动中，朗斯代尔对这个问题被定性为“是”或“否”感到沮丧。相反，他提出了一个假设，即中国已经接受了人工智能武器，但美国必须“每次开火时都按下按钮”。他鼓励政策制定者采取更灵活的方式来决定武器中人工智能的含量。
“你很快就会意识到，如果我制定了一条愚蠢的自上而下的规则，我的假设就是错误的，因为我是一名从未玩过这款游戏的工作人员，”他说。“我可能会在战斗中摧毁我们。”
当 TechCrunch 要求 Lonsdale 进一步发表评论时，他强调国防科技公司不应该成为制定致命人工智能议程的人。“我所说的关键背景是，我们的公司不制定政策，也不想制定政策：制定政策是民选官员的工作，”他说。“但他们确实需要了解其中的细微差别，才能做好工作。”
他还重申愿意考虑在武器上增加自主性。“这不是你所说的二元对立——‘完全自主还是非完全自主’不是正确的政策问题。对于士兵可能做什么以及武器系统可能做什么，有几个不同的维度，有一个复杂的刻度盘，”他说。“在政策制定者制定这些规则并决定在什么情况下需要设置刻度盘之前，他们需要学习这个游戏，了解坏人可能在做什么，以及在美国人生命受到威胁的情况下，如何才能赢得胜利。”
长期以来，活动人士和人权组织一直试图建立国际禁令，禁止使用自主致命武器，但未能成功。美国一直拒绝签署这些禁令。但乌克兰战争可能扭转了局势，对活动人士不利，为国防技术创始人提供了大量战斗数据和战场。目前，公司将人工智能集成到武器系统中，尽管它们仍然需要人类做出最终的杀戮决定。
与此同时，乌克兰官员推动武器自动化，希望这能让他们比俄罗斯更具优势。“我们需要最大程度的自动化，”乌克兰数字化转型部长米哈伊洛·费多罗夫在接受《纽约时报》采访时表示。“这些技术是我们取得胜利的基础。”
对于硅谷和华盛顿特区的许多人来说，最大的担忧是中国或俄罗斯率先推出完全自主武器，迫使美国采取行动。在去年联合国关于人工智能武器的辩论中，一位俄罗斯外交官显得含糊其辞。“我们知道，对于许多代表团来说，优先事项是人类控制，”他说。 “对于俄罗斯联邦来说，优先事项有些不同。”
在哈德逊研究所的活动中，朗斯代尔表示，科技行业需要主动“向海军、国防部和国会传授”人工智能的潜力，“以期让我们领先于中国”。
朗斯代尔和卢基的关联公司正在努力让国会听取他们的意见。据 OpenSecrets 称，今年 Anduril 和 Palantir 累计花费了 400 多万美元进行游说。
原创文章，作者：点点，如若转载，请注明出处：https://www.dian8dian.com/gui-gu-zheng-zai-zheng-lun-shi-fou-ying-gai-yun-xu-ren-gong
