拜登总统发布了美国首份关于人工智能的国家安全备忘录 (NSM),阐述了美国如何从安全角度对待这项技术。
该备忘录以拜登早先关于人工智能的行政命令为基础,其前提是尖端人工智能发展将在近期对国家安全和外交政策产生重大影响。
安全专家表示,人工智能的影响已经显现。AppOmni 人工智能总监 Melissa Ruzzi 表示:“人工智能已经对国家安全产生了影响,因为我们知道,越来越多的攻击者正在使用人工智能来发起更大、更复杂的攻击,尤其是在社会工程和虚假信息方面。 ”
NSM 的核心内容概括了三个主要目标:确立美国在安全人工智能发展方面的领导地位、利用人工智能技术保障国家安全以及促进国际治理框架。
备忘录指出:“我们的竞争对手想要颠覆美国人工智能领域的领导地位,并利用经济和技术间谍活动窃取美国技术”,并将保护美国人工智能创新提升为“最高情报优先事项”。
该文件正式指定人工智能安全研究所为人工智能行业的主要政府联络点。该研究所将配备技术专家,并与国家安全机构保持密切的合作关系,包括情报部门、国防部和能源部。
鲁齐解释道:“备忘录中列出的行动是了解现状和获得足够信息以根据数据做出决策的良好起点,而不是仓促下结论并根据模糊的假设做出决策。”
然而,鲁齐警告说:“需要收集的行动数据并不简单,即使有了数据,最终决策也需要假设和权衡。数据收集后的决策才是最大的挑战。”
作为推动人工智能研究民主化的重大举措,该备忘录加强了对国家人工智能研究资源试点计划的支持。该计划旨在将人工智能研究能力从大型科技公司扩展到大学、民间社会组织和小型企业。
NSM 推出了《国家安全领域推进人工智能治理和风险管理框架》(PDF),该框架为在国家安全应用中实施人工智能制定了全面的指导方针。这些指导方针要求严格的风险评估程序,并防止侵犯隐私、偏见、歧视和侵犯人权。
安全考虑在该框架中占有突出地位,Ruzzi 强调了其重要性:“人工智能的网络安全至关重要——我们知道,如果人工智能配置错误,它可能会带来类似于 SaaS 应用程序中配置错误的风险,导致机密数据泄露。”
在国际方面,该备忘录以近期的外交成就为基础,包括七国集团的《人工智能国际行为准则》以及在布莱切利和首尔人工智能安全峰会上达成的协议。值得注意的是,56 个国家已批准由美国牵头的《关于人工智能军事用途和自主性的政治宣言》。
拜登政府还获得了外交胜利,联合国大会通过了第一项有关人工智能的决议,该决议获得了一致支持,包括中国的共同提案。
该备忘录强调了半导体制造在人工智能发展中的关键作用,与拜登早先的《芯片法案》相呼应。它指示采取行动加强芯片供应链的安全性和多样性,确保美国在先进计算基础设施方面的领导地位。
原创文章,作者:点点,如若转载,请注明出处:https://www.dian8dian.com/bai-deng-zong-tong-fa-bu-shou-fen-guan-yu-ren-gong-zhi-neng