美国人工智能安全研究所地位不稳

美国人工智能安全研究所地位不稳

如果国会不批准,美国政府唯一一个专门评估人工智能安全性的办公室将面临被解散的危险。

美国人工智能安全研究所 (AISI) 是一家研究人工智能系统风险的联邦政府机构,于 2023 年 11 月根据拜登总统的人工智能行政命令成立。AISI 在 NIST 下运作,NIST 是商务部的一个机构,负责制定各类技术部署的指导方针。

不过,尽管 AISI 有预算、有主任,并且与英国同行英国人工智能安全研究所建立了研究伙伴关系,但只要拜登的行政命令被废除,AISI 就可能被解散。

人工智能游说团体美国负责任创新组织高级传播总监克里斯·麦肯齐 (Chris MacKenzie) 告诉 TechCrunch:“如果另一位总统上任并废除人工智能行政命令,他们就会解散 AISI。”“而 [唐纳德] 特朗普已承诺废除人工智能行政命令。因此,国会正式授权人工智能安全研究所将确保其继续存在,无论谁入主白宫。”

除了确保 AISI 的未来之外,授权该办公室还可以让国会为其计划提供更稳定、更长期的资金。AISI 目前的预算约为 1000 万美元——考虑到硅谷主要 AI 实验室的集中度,这个数字相对较小。

麦肯齐说:“国会拨款委员会倾向于给予国会正式授权的实体更高的预算优先权,因为他们认为这些实体得到了广泛的支持,并将长期存在,而不仅仅是某个政府的一次性优先事项。”

在今天的一封信中,由 60 多家公司、非营利组织和大学组成的联盟呼吁国会在年底前颁布立法,将 AISI 编入法典。签名者包括 OpenAIAnthropic,这两家公司都已与 AISI签署协议,在 AI 研究、测试和评估方面展开合作。

参议院和众议院各自提出了两党法案,授权 AISI 开展活动。但这些提案遭到了保守派议员的反对,其中包括参议员特德·克鲁兹(德克萨斯州共和党人),他呼吁参议院版本的 AISI 法案撤回多元化计划。

诚然,从执行角度来看,AISI 是一个相对较弱的组织。它的标准是自愿的。但智库和行业联盟——以及微软、谷歌、亚马逊和 IBM 等科技巨头(它们都签署了上述信函)——认为 AISI 是获取 AI 基准的最有希望的途径,可以成为未来政策的基础。

一些利益集团还担心,让 AISI 倒闭可能会让人工智能领导权落入外国之手。在 2024 年 5 月于首尔举行的人工智能峰会上,国际领导人同意组建一个人工智能安全研究所网络,该网络由来自日本、法国、德国、意大利、新加坡、韩国、澳大利亚、加拿大和欧盟以及英国和美国的机构组成

“随着其他政府迅速采取行动,国会议员可以通过永久授权人工智能安全研究所并确定其在推动美国人工智能创新和应用方面的关键作用,确保美国不会在全球人工智能竞赛中落后,”IT 行业贸易协会信息技术产业委员会主席兼首席执行官 Jason Oxman 在一份声明中表示。“我们敦促国会听取今天来自行业、民间社会和学术界的行动呼吁,在年底前通过必要的两党立法。”

原创文章,作者:王 浩然,如若转载,请注明出处:https://www.dian8dian.com/mei-guo-ren-gong-zhi-neng-an-quan-yan-jiu-suo-di-wei-bu-wen

Like (0)
王 浩然的头像王 浩然作者
Previous 2024年10月24日
Next 2024年10月24日

相关推荐

发表回复

Please Login to Comment