虽然 2024 年美国大选的焦点是经济和移民等传统问题，但它对人工智能政策的悄无声息的影响可能会更具变革性。没有一个关于人工智能的辩论问题或重大竞选承诺，选民们无意中将天平倾向加速主义者——那些主张以最少的监管障碍快速发展人工智能的人。这种加速的影响是深远的，预示着人工智能政策的新时代的到来，该时代优先考虑创新而不是谨慎，并标志着人工智能潜在风险和回报之争的决定性转变。
当选总统唐纳德·特朗普的亲商立场让许多人认为，他的政府将偏袒那些开发和营销人工智能和其他先进技术的企业。他的政党纲领对人工智能几乎没有什么发言权。然而，它确实强调了一种侧重于废除人工智能监管的政策方针，特别是针对即将离任的政府现有行政命令中他们所称的“激进左翼思想”。相比之下，该纲领支持旨在促进言论自由和“人类繁荣”的人工智能发展，呼吁制定促进人工智能创新的政策，同时反对被认为阻碍技术进步的措施。
根据政府主要职位任命的早期迹象强调了这一方向。然而，还有更大的故事正在展开：解决有关人工智能未来的激烈争论。
激烈的辩论
自从2022 年 11 月ChatGPT出现以来，人工智能领域中希望加速人工智能发展的人士与希望减慢人工智能发展的人士之间一直存在着激烈的争论。
众所周知，2023 年 3 月，后者提议暂停开发最先进的人工智能系统六个月，并在一封公开信中警告称，人工智能工具“给社会和人类带来巨大风险”。这封信由未来生命研究所牵头，是由 OpenAI 在 ChatGPT 推出几个月后发布的 GPT-4 大型语言模型 (LLM) 引发的。
这封信最初得到了 1,000 多名技术领袖和研究人员的签名，其中包括埃隆·马斯克、苹果联合创始人史蒂夫·沃兹尼亚克、2020 年总统候选人安德鲁·杨、播客莱克斯·弗里德曼以及人工智能先驱约书亚·本吉奥和斯图尔特·拉塞尔。这封信的签名者人数最终增加到 33,000 多人。他们被统称为“末日论者”，这个词用来表达他们对人工智能可能带来的生存风险的担忧。
并非所有人都同意。OpenAI 首席执行官 Sam Altman 没有签署。比尔·盖茨和其他许多人也没有签署。他们不签署的理由各不相同，尽管许多人都对人工智能可能带来的危害表示担忧。这引发了许多关于人工智能可能失控并导致灾难的讨论。人工智能领域的许多人开始流行谈论他们对毁灭概率的评估，通常将其称为方程式：p(doom)。尽管如此，人工智能开发工作并没有停止。
顺便说一下，我对 2023 年 6 月的 p(doom) 预测为 5%。这个数字可能看起来很低，但并非为零。我认为主要的人工智能实验室在发布前对新模型进行严格测试，并为它们的使用提供重要的保护措施，这是真诚的。
许多担心人工智能危险的观察家认为人工智能的生存风险高于 5%，有些人的评级甚至更高。人工智能安全研究员 Roman Yampolskiy 认为人工智能终结人类的可能性超过 99%。尽管如此，今年早些时候（大选之前）发布的一项研究代表了 2,700 多名人工智能研究人员的观点，该研究表明，“对人类灭绝等极端糟糕结果的预测中值为 5%”。如果飞机坠毁的概率为 5%，你会登机吗？这是人工智能研究人员和政策制定者面临的困境。
必须加快速度
其他人则公开驳斥了对人工智能的担忧，而是指出他们认为这项技术具有巨大的优势。其中包括安德鲁·吴（他创立并领导了谷歌大脑项目）和佩德罗·多明戈斯（华盛顿大学计算机科学与工程教授，《主算法》一书的作者）。相反，他们认为人工智能是解决方案的一部分。正如吴所指出的，确实存在着生存危机，例如气候变化和未来的流行病，而人工智能可以成为解决和缓解这些问题的一部分。
吴恩达认为，人工智能的发展不应该停滞不前，而应该加快步伐。这种对技术的乌托邦观点得到了其他人的呼应，他们被统称为“有效加速论者”，简称“e/acc”。他们认为，技术——尤其是人工智能——不是问题，而是解决世界上大多数（如果不是全部）问题的解决方案。创业加速器Y Combinator首席执行官 Garry Tan 和其他著名的硅谷领袖在 X 的用户名中加入了“e/acc”一词，以表明他们与这一愿景一致。《纽约时报》记者 Kevin Roose 用“全力以赴，不踩刹车”的口吻抓住了这些加速论者的本质。
几年前的Substack简报描述了有效加速主义背后的原则。这是他们在文章末尾提供的总结，以及 OpenAI 首席执行官 Sam Altman 的评论。
人工智能加速发展
2024 年的选举结果可能被视为一个转折点，加速主义的愿景将在未来几年影响美国人工智能政策。例如，当选总统最近任命技术企业家和风险投资家大卫·萨克斯 (David Sacks) 为“人工智能沙皇”。
萨克斯是人工智能监管的直言不讳的批评者，也是市场驱动型创新的支持者，他将自己作为技术投资者的经验带到了这一角色中。他是人工智能行业的领军人物之一，他关于人工智能的言论与新一届民主党纲领中表达的加速主义观点相一致。
针对拜登政府 2023 年发布的 AI 行政命令，萨克斯在推特上写道：“美国的政治和财政状况已经无可救药地糟糕透顶，但作为一个国家，我们拥有一项无与伦比的资产：由完全自由和不受监管的软件开发市场推动的 AI 尖端创新。这一切刚刚结束。”虽然萨克斯对 AI 政策的影响程度还有待观察，但他的任命标志着政策将转向有利于行业自我监管和快速创新。
选举有后果
我怀疑大多数选民在投票时是否认真考虑过人工智能政策的影响。然而，加速主义者在选举中取得了非常明显的胜利，这可能会让那些主张联邦政府采取更谨慎的做法来减轻人工智能长期风险的人被边缘化。
当加速论者规划前进的道路时，风险再高不过了。这个时代是会带来前所未有的进步还是意想不到的灾难还有待观察。随着人工智能发展的加速，知情的公共讨论和警惕的监督变得越来越重要。我们如何驾驭这个时代不仅将决定技术进步，还将决定我们共同的未来。
为了平衡联邦层面的不作为，一个或多个州可能会出台各种法规，加利福尼亚州和科罗拉多州已经在一定程度上实现了这一点。例如，加利福尼亚州的人工智能安全法案侧重于透明度要求，而科罗拉多州则解决了招聘实践中的人工智能歧视问题，为州一级的治理提供了典范。现在，所有人的目光都将集中在 Anthropic、谷歌、OpenAI 和其他人工智能模型开发商的自愿测试和自我设定的护栏上。
总而言之，加速论者的胜利意味着对人工智能创新的限制更少。这种速度的提高确实可能导致更快的创新，但也增加了出现意想不到的后果的风险。我现在将我的 p(doom) 修改为 10%。你的 p(doom) 是多少？
原创文章，作者：王 浩然，如若转载，请注明出处：https://www.dian8dian.com/yi-xiang-bu-dao-de-hou-guo-mei-guo-da-xuan-jie-guo-yu-shi
