您是否对通用人工智能(AGI)感到困惑?OpenAI 一直致力于创造一种“造福全人类”的东西。您可能想认真对待他们,因为他们刚刚筹集了 66 亿美元来更接近这一目标。
但如果你仍然想知道 AGI 到底是什么,那么你并不孤单。
在周四 Credo AI 负责任的 AI 领导力峰会上的一场广泛讨论中,世界知名研究人员、常被称为“AI 教母”的李飞飞表示,她也不知道 AGI 是什么。在其他时候,李飞飞讨论了她在现代 AI 诞生中扮演的角色、社会应如何保护自己免受先进 AI 模型的侵害,以及她为什么认为她的新独角兽初创公司 World Labs将改变一切。
但当被问及她对“人工智能奇点”的看法时,李和我们其他人一样感到迷茫。
“我来自学术 AI 领域,接受过更严格、更基于证据的教育,所以我真的不知道这些词是什么意思,”李飞飞在旧金山一间挤满人的房间里说道,旁边是一扇可以俯瞰金门大桥的大窗户。“坦率地说,我甚至不知道 AGI 是什么意思。就像人们说你看到它就知道它是什么一样,我想我没有看到它。事实上,我没有花太多时间去思考这些词,因为我认为有太多更重要的事情要做……”
如果有人知道什么是 AGI,那可能就是李飞飞了。2006 年,她创建了 ImageNet,这是世界上第一个大型 AI 训练和基准测试数据集,对于催化我们当前的 AI 热潮至关重要。2017 年至 2018 年,她担任 Google Cloud 的 AI/ML 首席科学家。如今,李飞飞领导着斯坦福以人为本的 AI 研究所 (HAI),她的初创公司 World Labs 正在构建“大型世界模型”。(如果你问我,这个术语几乎和 AGI 一样令人困惑。)
OpenAI 首席执行官 Sam Altman去年在《纽约客》的一篇人物简介中尝试定义 AGI。Altman将 AGI 描述为“相当于你可以雇佣为同事的普通人类”。
同时,OpenAI 的章程将 AGI 定义为“在最具经济价值的工作上表现优于人类的高度自主系统”。
显然,这些定义对于一家市值 1570 亿美元的公司来说还不够好。因此,OpenAI 创建了五个级别,用于内部衡量其在 AGI 方面的进展。第一个级别是聊天机器人(如 ChatGPT),然后是推理者(显然,OpenAI o1 就是这个级别),代理(据说接下来是代理),创新者(可以帮助发明东西的 AI),最后一个级别是组织(可以完成整个组织工作的 AI)。
还是很困惑?我也是,李也是。而且,这一切听起来比普通人类同事能做的要多得多。
在早些时候的演讲中,李飞飞说,她从小就对智能这个概念着迷。这促使她在人工智能还没有盈利之前就开始研究它。李飞飞说,在 21 世纪初期,她和其他几个人一直在默默地为这个领域奠定基础。
“2012 年,我的 ImageNet 与 AlexNet 和 GPU 相结合——许多人称之为现代人工智能的诞生。它由三个关键因素驱动:大数据、神经网络和现代 GPU 计算。一旦那一刻到来,我认为整个人工智能领域以及我们的世界的生活将会发生翻天覆地的变化。”
当被问及加州备受争议的人工智能法案 SB 1047 时,李的发言非常谨慎,避免重提上周州长纽森否决该法案而平息的争议。
“你们中的一些人可能知道,我曾公开表达过对这项被否决的法案 [SB 1047] 的担忧,但现在我正在深思熟虑,并怀着激动的心情展望未来,”李说。“我非常荣幸,纽森州长邀请我参与 SB 1047 之后的下一步工作。”
加州州长最近任命李飞飞和其他人工智能专家组建一个工作组,帮助该州制定部署人工智能的防护措施。李飞飞表示,她将采用循证方法,并尽最大努力倡导学术研究和资金。不过,她也希望确保加州不会惩罚技术人员。
“我们需要真正考虑对人类和社区的潜在影响,而不是将负担放在技术本身上……如果汽车被故意或无意地滥用并伤害到人,那么惩罚汽车工程师(比如福特或通用汽车)是没有意义的。仅仅惩罚汽车工程师并不能让汽车更安全。我们需要做的是继续创新以采取更安全的措施,同时也要完善监管框架(无论是安全带还是限速),人工智能也是如此。”
这是我听到的反对 SB 1047 的更好的论点之一,该法案将对开发危险的 AI 模型的科技公司进行惩罚。
李虽然正在为加州的人工智能监管提供咨询,但她也在旧金山经营自己的初创公司 World Labs。这是李第一次创办初创公司,她也是少数领导前沿人工智能实验室的女性之一。
李飞飞表示:“我们距离一个非常多样化的人工智能生态系统还很远。我相信多样化的人类智能将带来多样化的人工智能,并将为我们提供更好的技术。”
在接下来的几年里,她很高兴能让“空间智能”更接近现实。李说,当今大型语言模型所基于的人类语言可能花了一百万年才发展起来,而视觉和感知可能需要 5.4 亿年。这意味着创建大型世界模型是一项更为复杂的任务。
“这不仅让计算机能够看,而且真正让计算机理解整个 3D 世界,我称之为空间智能,”李说道。“我们不只是通过看来命名事物……我们真正通过看来做事、探索世界、相互交流,而缩小看与做之间的差距需要空间知识。作为一名技术专家,我对此感到非常兴奋。”
原创文章,作者:王 浩然,如若转载,请注明出处:https://www.dian8dian.com/shen-zhi-lian-ren-gong-zhi-neng-jiao-mu-dou-bu-zhi-dao-agi