我们被倡导要想明白自己的目标是什么、并做出计划。然而,两位人工智能研究者却认为,这只适用于普通的小愿望。
一旦涉及过于高远的、不确定能否实现的目标,比如打造 AGI(通用人工智能)、登月计划等等——那么根据兴趣进行自由的、开放性的探索,才更能实现想要的。他们把这一观点写成了《为什么伟大不能被计划》一书。
在这本书出版的 2015 年,OpenAI 成立,它一开始就确定了实现 AGI 的目标。九年间,OpenAI 取得的巨大成功,似乎证明了人工智能界是一场「目标导向者」的胜利。「OpenAI 看似是目标导向的,但实际上在内部,它有很多有趣的、开放性的探索。」本书作者之一肯尼斯·斯坦利 (Kenneth Stanley) 告诉极客公园。
2015 年,他任美国中佛罗里达大学计算机科学系助理教授,和前博士生乔尔·雷曼(Joel Lehman)一起合著了该书。第二年,他们进入产业界,加入 Uber AI 团队。2020 年,他们又一起加入了 OpenAI,肯尼斯担任 OpenAI「开放性研究团队」负责人。
OpenAI 的 CEO Sam Altman 是他们这本书的推崇者。他曾在一个公开场合提到,OpenAI 训练模型时会设定指标,指标的上升让人开心,「但对于找出一个新的研究范式,就不起作用了」。受书中观点启发,他愿意尝试更多新奇性探索,「我们愿意耐心等待数月、数年,大多数时候它(探索)并不起作用,但当它起作用的时候、效果惊人地好。」
加入内部,肯尼斯和乔尔看到开放性探索如何塑造了 OpenAI 的成功。例如 ChatGPT 本是一个意料之外的项目,它曾是内部几大方向中最边缘的;碰巧撞上了谷歌的 Transformer 架构;而 Dario Amodei(前 OpenAI 研发副总裁、现 Anthropic CEO)提出 Scaling Law(缩放定律)是为了测试模型安全性、而非涌现智能等等。
随着 2022 年底 GPT-3.5 发布,全球人工智能行业开启了激烈竞赛。在二人看来,AGI 仍然是一个遥远的、而非近在咫尺的目标,仅靠 Scaling Law 这个「踏脚石」还不够。在这种情况下,开放性探索非常重要——而目前行业极具收敛的目标和计划、以及激烈的竞争,反而可能让研究走进「死胡同」。
即便 OpenAI 也面临挑战,乔尔感觉到,一种紧张的氛围开始在内部出现,开放性探索的空间也在缩窄。2022 年,他们离开了 OpenAI。随着人工智能越来越强大,他们希望更多研究一些开放性命题,比如 AI 会如何影响人类和社会、如何从哲学角度看待 AI 等等。
目前,乔尔加入了一家研究虚拟生命的公司,而肯尼斯创办了基于开放性系统的社交网络 Maven、并获得了 Sam Altman 的投资。他们都在开放性探索的路上继续前进着。
以下为极客公园与肯尼斯、乔尔的对话实录,经整理后发布:
《为什么伟大不能被计划》一书的中英版 | 图片来源:受访者
01
OpenAI 看似是
「目标导向型」的成功,
实则是「开放性探索」的成功
极客公园:先从这本书的起源聊起,我很好奇你们十年前是怎么想到提出「为什么伟大不能被计划」这个观点的?你们最早研究人工智能的「开放性系统」,做了图片孵化器、机器人迷宫等实验,好奇哪些事实让你们觉得这个观点是成立的、并且可以应用到除了人工智能以外的其他领域?
Kenneth:最初的想法来自于人工智能领域的研究,也就是我们所说的「开放性系统」(Open-Endedness)。这种系统早已存在,比如生物的演进,在几十亿年中,从单细胞进化为各种各样的动物。又比如简单的发明创造,我们可能花了数千年,才创造了一个轮胎、空间站和计算机等等。
作为历史学家和计算机科学家,我们希望用算法打造一个「开放性系统」,想了解它的工作原理,怎么不断创新、产生非常有趣的东西。所以我们做了「图片孵化器」网站。这个 AI 系统没有任何目标,人们随机在上面将不同图片进行「繁殖」,这些图片会构成类似生物学「分支树」的关系。
虽然每个用户都是从乱涂乱画开始的,但渐渐我们看到了一些熟悉的、可辨认的图片,比如蝴蝶、头颅、行星、汽车等等。我们进而得出一些有意思的洞察,比如你孵化出了一张酷似车的图片,但你最初并不是以此为目标的。而如果你以此为目标,你根本得不出这张照片。这是矛盾之处。遵循这样的原则,我们提出了基于新奇性探索、而非目标驱动的搜索算法。
最后我们发现,这不仅适用于算法领域,也适用于个人和机构。每一个个人和机构都会设定目标,但这种目标驱动并不总是对我们的创造和发明奏效。Joel 和我觉得这个过程非常重要,值得公开说出来。我们试图找到相关信息、并进行多次对话,这就是我们这本书想法的来源。
极客公园:可否理解为这本书的核心观点是,无论在算法、个人还是组织层面,面对一个更遥远的目标,制定计划不如自由探索有效?
Joel:一般来说,普通的做法是我们树立一个目标、制定计划。但我们是不制定目标、只是去探索新奇的东西。比如迷宫里的机器人,如果给它制定走出迷宫的目标,那它可能很难走出这个死胡同。但如果不告诉它去哪里、而是让它自由探索,它会更容易走出迷宫。
肯尼斯和乔尔做的「图片孵化器」网站,从乱涂乱画中出现了一些熟悉的、可辨认的图片 | 图片来源:受访者
极客公园:我注意到,在你们刚出完这本书不久的 2015 年,OpenAI 成立了。这家公司从创立起就确定了一个非常伟大的目标,那就是实现 AGI,它的每个步骤都是围绕这个目标进行。今天我们看到,OpenAI 似乎取得了成功。所以我想问,在你们这本书出版后的十年里,OpenAI 的故事是否反而证明了「目的驱动模式」的成功?
Kenneth:非常好的问题。我认为非常重要的一点就是要注意到,OpenAI 虽然取得了一定的进展,但还没有取得 AGI 的成功。另外,我们也要意识到,公司往往会向公众讲述目标,但这其实是它们一种叙述的手段,这并不意味着企业内部就是这么推动工作的。
如果你去看 OpenAI 的幕后,你会发现它们不仅仅是目标导向的,它们也有很多有趣的、开放性的探索。实际上,ChatGPT 就是这样一种开放性探索,它是在一个意料之外的项目。我并不认为 OpenAI 的工作人员最早就设立了要做 ChatGPT 这个项目(的目标),或者说预见到了它能取得如此巨大的成功。它们只是在探索过程中发现这个项目非常有意思,然后一步步更新迭代才有了今天的 ChatGPT。
我们书中也提到过,创新究竟该如何推进呢?其实就是我们从有趣的一些想法开始,那究竟它是否会将我们引导向最终 AGI 的成功呢?其实这并不一定,但这是非常重要的一步,它们最终都有可能带来革命性的变化。
另外,它也能实现其他一些重要的成就,比如吸引更多的投资。我们知道 GPT-2 并没有带来巨大的革命性变化,但我们仍然要尽可能地宣传,才能吸引更多投资来发展 GPT-3、GPT-4,并最终向 AGI 的目标前进。OpenAI 就是这么做的,这正体现了我们书中的观点。
Joel:OpenAI 看上去是一个目标导向型的成功,但其实 OpenAI 刚成立的时候,内部有尝试很多不同的发展方向。比如当时他们非常看重强化学习,包括视频、游戏的强化学习,为此内部做了很多尝试。
而且 GPT 背后的核心技术是 Transformer 架构,这是由谷歌推出的,所以 OpenAI 也是在谷歌这样的巨人的肩膀上不断发展的。如果回顾 10 年前、20 年前、30 年前、40 年前,没有这么多「踏脚石」的情况下,OpenAI 也不可能取得这样的成功。
极客公园:你们定义了 OpenAI 看似是目标导向、但其实是自由探索式的成功。OpenAI 内部人士曾跟我们说,铺垫 GPT 3.5 的几个「踏脚石」都是随机碰撞出来的,比如聊天机器人曾是内部最边缘的项目、碰巧撞上了谷歌的 Transformer 架构、而 Dario 提出 Scaling Law 也不是为了智能涌现而是想测试模型是否安全……这是否跟你们了解的情况接近?
Joel:是的,这些随机探索的确是非常重要的。尤其是 OpenAI,它很早就开始推进 Scaling Law 等尝试,并且不断在做选择,这是非常正确的。
Kenneth:的确探索很多时候是随机的、根据兴趣进行的。但 Dario 提出 Scaling Law,这不仅是一个随机的探索、这其实也是一个目标导向性的做法。
这背后是团队从自己的兴趣出发、做了很多尝试,想要找到解决方案,最终提出了 Scaling Law 这个解决方案。这某种意义上也是一种目标导向。
极客公园:所以开放探索和目标驱动并不是彼此对立的,而是可以统一和融合的?
Kenneth:的确两者是可以并存的,能够从一方转向另一方。但是在我看来,这其实也是一个非常困难的问题。什么时候该进行转向?什么时候是目标导向、什么时候是兴趣导向?这非常微妙,很难去找到最佳的转变时机。
极客公园:你们能够看到 OpenAI 的内核其实是一个「开放性探索」的组织,这是当初吸引你们加入 OpenAI 的重要原因吗?
Joel:哈哈,有许多原因。一个最主要的当然因为 OpenAI 是 AI 领域的前沿公司。另外,它的确一开始就是一家「开放性探索」的公司,虽然它们肯定有一些目标导向的元素存在。这与我的个人兴趣也是相关的。所以确实很难拒绝这样一份工作。
极客公园:那么 Sam 有看过你们这本书吗、他是否认同你们提出的「开放性探索」观点?这是他招募你们进入 OpenAI 的原因吗?
Kenneth:Sam 非常喜欢我们书中的想法,我相信他是在观看了我关于这本书的演讲时接触到这些想法的。他曾在公众场合提到,他受到了这本书的一些想法的影响。Sam 对这些想法是非常包容和开放的,我觉得他暴露在这些想法当中、他认为这些想法非常有意思。
当然,我在 OpenAI 也不仅仅是因为 Sam,内部很多人都有开放的想法。比如 Jeff Clune(前 OpenAI 研究团队负责人),他在我们之前加入 OpenAI。他也觉得,开放性探索是一个有趣且值得投资的领域。我们在那个时候达成了共识,所以我们被雇佣了。
在我看来,这本书并不是 OpenAI 的工具书。但我相信,这一文化确实对他们有影响,开放性探索是非常重要的。
极客公园:Ken 当时是 OpenAI「开放性探索」团队的负责人,当时 OpenAI 对你们的期待是怎样的?有给你们制定了怎样的目标吗?
Kenneth:我们面临的挑战在于,几乎任何一家公司都会感兴趣设定目标。但如果我们探索的一些想法,并不完全是目标导向的、甚至会背离目标的话,我们肯定会面临一些沟通上的挑战。这有一些复杂,因此在日常的工作中,我们需要取得一个平衡。
有时候很难理解我们来自哪里、雇佣我们干嘛。他们可能会非常奇怪,觉得我们做的是非客观性的一些东西。不过最终他们意识到,对于推动 AGI 来说,这些工作是非常有用的。这已经超出了传统团队的认识。
Joel:这里面分为两部分:一个层面是关于组织的架构,很多人会困惑我们的工作,所以我们要跟他们解释我们在做什么,并找到我们工作跟 AGI 目标的关联度;另一方面是我们实际工作的开放性,要创造新的东西。
就像 Ken 说的,我们需要在公司内部找到一种开放性的方法,既要让大家了解我们在做什么,也要新奇探索、取得进步,这两者的平衡是一种微妙的舞蹈。
极客公园:你们是否感受到,在「开放性探索」上,OpenAI 这样的初创公司可能比科技巨头做得更好?我曾听说,Google 虽发明了 Transformer 架构,但没有率先做出 GPT,是因为它的技术路线更目标导向——Google 更强调 Encoder(输入),因为它可以解决更多具体业务问题;而 OpenAI 更强调 Decoder(输出),因为它没有那么强的业务导向,更愿意像无头苍蝇一样做「开放性探索」,你们怎么看?
Joel:我的理解是谷歌也有这种对话模型,也是很领先的。谈到好奇、兴趣、技术能力、率先应用于大众等,我认为其中包含了不同的变量。谷歌是一个更大的机构,可能有更多的「橡皮章」、繁文缛节这些东西,而 OpenAI 可能更开放。
Kenneth:我只是想说,涉及到任何一个大机构的成功,都包含了很多要素。不过我有一点我同意,OpenAI 确实在探索方面做得更好、它有更大的意愿去冒险,而谷歌可能在这方面更加谨慎和犹豫,比如在公众面前展示技术,谷歌可能会慢一步。
这可以理解。因为谷歌作为一个大公司,在发布东西之前,需要做很多尝试和实验。他们更不愿意失败,它对于风险更有顾虑。但这并不一定是确定的,只是我们的看法。
我们看到,谷歌注重强化学习和各种方法,OpenAI 也注重强化学习、并在不同领域下注,最终它们都取得了成功。
极客公园:距离你们当时写这本书已经过去快 10 年了,中间你们还加入了 OpenAI、Uber 等科技公司,经历了这些再看这本书,你们觉得书中哪些观点仍历久弥新?哪些需要变化更新?
Kenneth:回头望,这已经是我们这本书出版的第九年了。关于建立目标,我们有过非常多的、激进的争论,但许多事情随着时间的推移得到了验证。
正如你刚才提到的一些例子,有些人可能会认为有些目标是有效的。但在过去十年的时间里,我们越来越发现,目标导向有时会让人感到困惑,会让你有盲点、抓不到其他机会、看不到更多的可能。我们认为十年后、甚至一百年后,这个观点可能都不会过时。
在每一章中,我们都引入了一些历史案例和引语,比如「行者无疆」——一个好的旅行者是没有固定计划的,他对于要到达哪里并不太清楚——我不确定中国的哲学家老子是否在几千年前提出了这种描述。这是一种哲学的观点、一种经验之谈,并不是有很多科学证据,有时候听上去是反直觉的、是一个离经叛道的东西。
社会中确实有一些问题,例如,整个社会的组织都在围绕目标推动,并且把「目标是非常重要的」这种文化意识强加给我们。以教育为例,老师根据考试内容教学、学生根据考试内容学习,这就是目标对教育的影响。在书中,我们强调了目标的影响是无处不在的,我们需要去挣扎往前走。
再次强调一下,我们认为「伟大无法被计划」这个观点,是不会发生变化的。如果我们的人生只是目标导向的话,将无法取得完整的幸福。这也是为什么我们这本书如此成功和受欢迎的原因。
02
沿着 Scaling Law、卷模型性能,
可能会走到「死胡同」
极客公园:虽然你们反对「目标导向」,但似乎目前全球人工智能界的目标都非常收敛且明确,一是追上 OpenAI 等公司、二是尽快实现 AGI,你们怎么看这种现象?这种「目标至上」会是你们反对的吗?
Kenneth:谢谢您的问题。我同意在目前的人工智能行业中,大家定了这两个宏伟的目标,觉得「北极星」就在那儿、我们要朝着那儿走。不过回到我一开始说的,企业往往会对外有一套说辞,但它们内部可能并不是这样做的。
我主要想谈一谈,我们到底离这样的目标有多远?如果说只差一个「踏脚石」、离得非常近,就像上世纪 60 年代制定登月计划的时候、已经有很好的技术基础,那么我们可以通过制定目标去实现。
但问题在于,如果我们还需要很多个「垫脚石」、离目标还很远,那设定目标可能会让我们陷入困境、无法前进。历史上有很多这样的例子。比如在 2017 年,我们听到有人说第二年就会有自动驾驶汽车上路,但其实不是这样。
因此,单纯采取目标导向的方法往往会无法实现目标,可能是因为目标设定的时间太早、或者太过雄心勃勃。很多人认为现在人工智能领域只差一个「踏脚石」,只需要扩大规模就可以了,这其实是过于简单化了这个问题。但在我看来,真正核心的「踏脚石」还没有被发现、我们并不仅仅差一个「踏脚石」。我们很可能正在陷入目标的陷阱和迷思之中。
Joel:的确我们现在处于一个「荒诞」的历史阶段,全球的科技公司都在追求 AGI,这种过于聚焦的目标是人类「革命性的时刻」。但我们要知道,AGI 的发展还要很长的时间。
现在许多人认为,只需要扩大规模、参数,有更多的数据和算力,就可以可发展人工智能。这对我来说有些无聊,或者说有些无趣。这并不是最核心的「踏脚石」,我相信还有其他的路径和方法需要我们去探索。
极客公园:为什么我们离 AGI 不只是「一步之遥」、不只差一个「踏脚石」?你们做出这个判断的依据是什么?
Joel:我们到底距离 AGI 有多远,其实大家是有认知偏差的。就像自动驾驶一样,并不太清楚到底需要多少个「踏脚石」。我们唯一确信的是,如果有一步之遥的东西,你必须要在那里、你必须去做、必须去放大。
Kenneth:最近有一个类比,GPT-3 就像是一个孩子,GPT-4 像是高中生。但实际上,ChatGPT 更像是教科书中的知识,在某些方面,它可能超越了我们,而在其他方面,它可能不如我们。奇特之处在于,我们会感到某些东西非常接近了,但这不一定是 AGI。
但我们也不清楚究竟还要等待多久。我们甚至可能需要一位「爱因斯坦」的出现,才能达到下一个台阶。
极客公园:这让我想到你们在书里提到,其实从单细胞到人类的进化过程中,重要的「踏脚石」不只是智力,还包括对称性等。那么对于 AGI 来说,Scaling Law 带来的智能提升会是一个靠谱的踏脚石吗?它能支撑多久?
Kenneth:智能这个词很容易让人困惑,因为它涉及许多方面。Scaling Law 遵循一些普遍的原理,但它也会丧失一些东西。比如在技术上,你必须将大量人类数据进行更好的压缩和训练,它不再是传统意义上的智能、而是不断提升的智能。我们最终可能会遇到一个瓶颈或死胡同、会在训练上遇到走不下去的时刻。
就像 OpenAI 在不断扩大规模、增加参数,但它还是遇到了瓶颈(注:比如 GPT-5 处于难产状态)。这也是为什么我们需要新的踏脚石。
Joel:如果想要达到 AGI 那模糊的彼岸,有点像做一个赌注,很多明显的路径都必须要去尝试。因为 AGI 可能不仅来自 AI,还可能来自数学、哲学和其他领域。
《神经语⾔模型的缩放定律》论文写道,随着模型⼤⼩、数据集⼤⼩和⽤于训练的计算量的增加,语⾔建模性能平稳提升 | 图片来源:OpenAI
极客公园:现在各大人工智能公司都在这一维度激烈竞逐,而你们在书里提到,竞争其实跟「开放性探索」相悖、因为它是极其收敛的目标。你们怎么看待现在人工智能领域的激烈竞争?
Kenneth:这就是目标导向的悖论,它会使得我们更加盲目,对其他方法和路径视而不见。像 OpenAI、Anthropic 和 Google 这样的公司,它们存在激烈竞争,因为哪家如果落后了,就可能无法获得更多资金,公司会受到生存威胁。
在这种竞争中,大家唯一的目标就是活下来。公司更倾向于继续沿着既定路径前进、扩大规模。如果这时候尝试创新,会面临失败的风险、可能会被踢出局。所以创新往往会减少。我认为在这样的竞争环境下,很容易进入死胡同。
不过当这些企业遇到瓶颈时,他们可能会意识到需要转向、进行更多开放性探索。
极客公园:这跟很多人的看法相反,一般我们认为激烈竞争会推动模型智能水平的提升、加速 AGI 的实现,但在你们看来反而会适得其反?激烈竞争会弊大于利吗?
Kenneth:是的,这可能有些反直觉。虽然竞争会引发「军备竞赛」,使得模型性能有所提升,但过度的竞争会减少开放性的尝试,使得创新更加聚焦和局限、无法取得真正的进展。
极客公园:说了这么久的「开放性探索」,那么对于现在目标和路径已经相对明确的人工智能企业来说,它们应该怎样才能做好这件事?你们对于「开放性探索」有没有一些建议?
Kenneth:我们会发现,很多公司太早就建立了一套体系,并且非常目标导向。如果一些探索在测试中表现不佳,他们就会放弃研究。我认为这会减少开放性探索的机会,是非常不利的。
对于 AGI 也是如此。当前的 Transformer 架构可能还远远不够,甚至我们对神经网络的运作机制还了解得不够,目前仍有许多失败的案例。我们并不清楚究竟还差多少步才能实现 AGI,因此我们需要多重的、开放性的探索。
在当前阶段,对于 OpenAI 和其他公司来说,它们不仅需要改善现有的模型、更需要探索新的路径,这两件事需要同步推进。
03
离开 OpenAI,人工智能界
还需要更多「开放性探索」
极客公园:不久前 Ken 接受了一个采访,提到你离开 OpenAI 是因为「有一些的沮丧、有一些顿悟」,我好奇你的「沮丧」、「顿悟」是什么?方便跟我们分享一下吗?
Kenneth:让我想一想,我并不是说我对 OpenAI 不满意,而是我越来越意识到,我对人工智能的影响存在一些担忧。现在有很多关于人工智能消极影响、安全以及文明终结的讨论,这都是很明显的一些问题。
我越来越感觉到,社会中存在一些对人工智能的不满情绪、人们感到越来越多的失落,大家会追问生命的意义究竟是什么?比如,未来机器人可能有数百万个非常好的想法,一秒之间就可以超越我们一生的成就、或者比我们个人多年的经验更具智慧,那么我们如何再去做有创意性的工作、并从中获得成就感呢?这是一个非常严重的问题。
我感觉我的工作,似乎在某种程度上加剧了人们的这种担忧和焦虑。因此,我想思考人工智能未来的发展方向、解决它深层次的问题——我们究竟该如何改善人工智能,使其更好地为人类服务,促进人类之间的连接,而不是加剧竞争?
这是我最近非常关注的问题,我认为需要进行开放性探索,我相信这对人类社会会更有助益。基于这样的原则,我成立了一家自己的公司,希望建立一种开放性的社交网络。
极客公园:你创立了 Maven,它是一款基于开放性探索的社交产品,可不可以介绍下 Maven 是一个怎样的产品?为什么它能解决你提到的人工智能存在的问题?
Kenneth:你可能也注意到一些社交媒体存在的问题,比如信息茧房、对立观点、不断争论的意识形态导向、甚至阴谋论等。那么这些问题从何而来呢?实际上,这是因为这些系统的质量有问题。
几十年前人们就曾说过,人们会产生各种各样的观点和内容,但很多内容是负面的或不好的。而现在的社交媒体过于关注内容的受欢迎程度。我们认为这种信息分发模式需要改进。
所以我创立了 Maven,这是一个基于内容质量来推荐的「开放性系统」。人们打分、评价,去找到好的内容。这种客观的评价方式、而不是靠点赞排序,才能带来更好的内容。
极客公园:我注意到 Twitter 的联合创始人投资了你、Sam 也投资了你,为什么 Sam 会决定投资你?他对你这次创业有没有提出建议?
Kenneth:Sam 的确投资了我的公司。我写完这本书之后,也想让「开放性系统」被更多人使用,于是萌生了成立自己公司的想法。从职业发展的角度,Sam 给了我许多建议和见解。
从孵化投资人到 OpenAI 的 CEO,Sam 自己的职业发展就是非常了不起的跨越。他给我的建议是,我们不一定要沿着一份工作、一条道路前进,我们的职业发展也可以非常多元化。这给我很大的启发。
极客公园:Joel 离开 OpenAI 的原因是什么呢?
Joel:主要是我的职业发展追求跟它不再完全契合。最初加入 OpenAI 时,这家公司还处于比较基础的阶段,内部有机器人、人工智能等多个研究方向。然而,后来这家公司变得更加聚焦,我也注意到公司内部存在一些紧张的氛围,这对开放性探索有一定限制。
正如 Ken 提到的,我们需要考虑到 AI 对社会的影响、一些哲学问题、还有如何利用人工智能让个人更好发展等等,这些都是很有趣的研究角度。我希望能继续研究,而 OpenAI 可能并不是发展这些兴趣的最佳场所。
离开 OpenAI 后,我加入了一家研究虚拟生命(artificial life)的初创公司,现在还在继续从事开放性系统的研究。
肯尼斯加入 OpenAI 时发布的推文 | 图片来源:X
极客公园:你们提到,即使是 OpenAI 这样最顶尖的人工智能公司,随着公司规模的扩大,它在开放性探索上的投入也开始变得紧张。你们对此有什么担忧吗?
Kenneth:的确如此,资金的压力还是非常明显的,如果没有明确的回报,管理层可能会减少开放性探索的投入。不过对于一些创新型的初创企业来说,应该还好。
像 llya(注:OpenAI 前首席科学家)刚刚离开了 OpenAI,成立了自己的公司。他说他唯一的目标就是实现 AGI,而且投资不是大问题。这表明即使没有明确的回报,也能得到资金支持,许多研究人员都在进行各式各样有趣的探索。
关于 OpenAI,有人说它现在变得更加商业化,我不太确定。不过内部肯定还有一些开放性探索的机会。因为商业化并不是 OpenAI 的最终目标,也不是很多 OpenAI 研究人员的唯一目标。
极客公园:Sam 有跟你们聊过这方面的困惑吗?比如随着公司规模变大,他是否感到开放性探索更难做了?
Kenneth:这是一个非常有趣的问题。我不太清楚 Sam 的脑袋里在想什么,因为他没有跟我聊过这些。
极客公园:最终回到个人,你们是人工智能研究员和创业者、也是普通人。如果你们自己有一个看起来很远大的、又很不确定的目标,你们会怎么实现它?你们对普通人有什么建议吗?
Joel:作为一个研究者,有些东西可能是似是而非的。我们书中的一些想法并不一定直接带来成功,有时需要我们慎重认真的看待和广泛阅读。
作为个人,我认为保持谦卑、开放探索的心态非常重要。因为伟大是不能被计划的,但我们可以找到伟大中的亮色。
Kenneth:作为个人,你要保持均衡。比如当你过于专注于目标,生活可能就没有那么有趣。就像有人的目标是赚钱,但如果发现了其他有趣的机会,即使这个机会的收入并不高、也不在主流地带,我也建议他尝试。
作为研究者,事实上,我想都没想过什么东西会导致 AGI。我相信直觉。也就是说,我会遵循我的兴趣行动,而这会引导我发现更多的有意思的东西。看起来我离目标更远了,但实际上,兴趣才会通往最终目标的实现。
原创文章,作者:点点,如若转载,请注明出处:https://www.dian8dian.com/jie-mi-openai-xing-qu-qu-dong-de-tan-suo-fei-mu-biao-dao