Anthropic 首席执行官 Dario Amodei 希望你知道，他并不是人工智能“末日论者”。
至少，这是我对 Amodei 上周五晚间在其博客上发表的一篇约 15,000 字文章“mic drop”的解读。（我尝试询问 Anthropic 的 Claude 聊天机器人是否同意，但遗憾的是，这篇文章超出了免费计划的长度限制。）
总体而言，Amodei 描绘了一个世界，在这个世界中，所有人工智能风险都得到了缓解，而这项技术带来了前所未有的繁荣、社会进步和富足。他声称，这并不是为了淡化人工智能的弊端——在文章的开头，Amodei 针对的是那些过度吹嘘和大肆宣传其技术能力的人工智能公司（虽然没有点名）。但有人可能会认为，这篇文章过于偏向技术乌托邦主义，所提出的主张根本没有事实依据。
Amodei 认为“强大的人工智能”最早将在 2026 年出现。 他所说的强大的人工智能是指在生物学和工程学等领域“比诺贝尔奖得主更聪明”的人工智能，可以执行诸如证明未解数学定理和撰写“极其优秀的小说”等任务。Amodei 表示，这种人工智能将能够控制任何可以想象到的软件或硬件，包括工业机械，并且基本上可以完成当今人类所做的大多数工作 – 而且做得更好。
“[这种人工智能] 可以参与任何行动、通信或远程操作……包括在互联网上采取行动、接受或向人类发出指示、订购材料、指导实验、观看视频、制作视频等等，”Amodei 写道。“它没有物理实体（除了存在于计算机屏幕上），但它可以通过计算机控制现有的物理工具、机器人或实验室设备；理论上它甚至可以设计供自己使用的机器人或设备。”
要达到那个目标，必须要发生很多事情。
即使是当今最好的人工智能也无法像我们理解的那样“思考”。模型并不会推理，而是复制它们在训练数据中观察到的模式。
假设 Amodei 的论点是人工智能行业很快就能“解决”类似人类的思维问题，那么机器人技术是否能迎头赶上，让未来的人工智能进行实验室实验、制造自己的工具等等？当今机器人的脆弱性意味着这不太可能。
然而阿莫迪很乐观——非常乐观。
他相信，在未来 7-12 年内，人工智能可以帮助治疗几乎所有传染病、消除大多数癌症、治愈遗传性疾病，并在早期阶段阻止阿尔茨海默病的发生。在未来 5-10 年内，Amodei 认为，创伤后应激障碍、抑郁症、精神分裂症和成瘾等疾病将通过人工智能配制的药物治愈，或通过胚胎筛选进行基因预防（这是一个有争议的观点），而且人工智能开发的药物也将存在，这些药物可以“调节认知功能和情绪状态”，以“让我们的大脑表现得更好，拥有更充实的日常体验”。
如果这一目标实现，Amodei 预计人类的平均寿命将会翻一番，达到 150 岁。
“我的基本预测是，人工智能驱动的生物学和医学将使我们能够将人类生物学家在未来 50-100 年内取得的进展压缩到 5-10 年内，”他写道。“我将其称为‘压缩的 21 世纪’：强大的人工智能开发出来后，我们将在几年内取得整个 21 世纪在生物学和医学方面取得的所有进展。”
考虑到人工智能尚未彻底改变医学，而且可能在相当长的一段时间内，甚至永远都不会改变医学，这些似乎也有些牵强。即使人工智能确实减少了将药物进行临床前测试所需的劳动力和成本，它也可能会在后期失败，就像人类设计的药物一样。考虑到当今医疗保健领域部署的人工智能已被证明在许多方面存在偏见和风险，或者在现有的临床和实验室环境中难以实施。提出所有这些问题以及更多问题将在十年内得到解决似乎是一种抱负。
但 Amodei 并未止步于此。
他声称，人工智能可以解决世界饥饿问题。它可以扭转气候变化的趋势。它可以改变大多数发展中国家的经济；Amodei 认为，人工智能可以在 5-10 年内将撒哈拉以南非洲的人均 GDP（截至 2022 年为 1,701 美元）提高到中国的人均 GDP（截至 2022 年为 12,720 美元）。
这些都是大胆的宣言，但任何听过“奇点”运动信徒讲话的人可能都熟悉这些宣言，他们期待着类似的结果。值得赞扬的是，阿莫迪承认，这样的发展需要“全球卫生、慈善事业和政治倡导方面的巨大努力”，他认为这会发生，因为这符合世界的最佳经济利益。
如果真是这样，那将是人类行为的巨大变化，因为人们已经一次又一次地表明，他们的主要兴趣在于短期内对他们有利的事情。（砍伐森林只是成千上万个例子中的一个。）同样值得注意的是，许多负责标记用于训练人工智能的数据集的工人的工资远低于最低工资，而他们的雇主却从结果中获得了数千万甚至数亿美元的资本。
Amodei 简要谈到了人工智能对公民社会的危害，他建议民主国家联盟保护人工智能的供应链，并阻止那些打算利用人工智能来达到有害目的的对手获得强大的人工智能生产手段（半导体等）。同时，他还表示，如果人工智能在正确的人手中，它可以用来“破坏专制政府”，甚至减少司法系统的偏见。（从历史上看，人工智能加剧了司法系统的偏见。）
Amodei 写道：“真正成熟且成功的人工智能实施有可能减少偏见并对每个人更加公平。”
那么，如果人工智能接管了所有可以想象到的工作，并且做得更好更快，那么从经济角度来说，这是否会让人类陷入困境？Amodei 承认，是的，情况确实如此，而且到那时，社会将不得不讨论“经济应该如何组织”。
但他没有提出任何解决方案。
“人们确实想要一种成就感，甚至是一种竞争感，在后人工智能时代，人们完全有可能花费数年时间，用复杂的策略尝试一些非常困难的任务，就像今天人们开始研究项目、试图成为好莱坞演员或创办公司时所做的那样，”他写道。“(a) 某个地方的人工智能在原则上可以更好地完成这项任务，(b) 这项任务不再是全球经济中一个有经济回报的元素，但在我看来，这些事实似乎并不重要。”
Amodei 在总结时提出了这样一种观点，即人工智能只是一种技术加速器——人类自然倾向于“法治、民主和启蒙价值观”。但在这样做时，他忽略了人工智能的诸多成本。人工智能预计将对环境产生巨大影响——而且已经产生了影响。它正在造成不平等。诺贝尔经济学奖得主约瑟夫·斯蒂格利茨和其他人指出，人工智能造成的劳动力中断可能会进一步将财富集中在公司手中，让工人比以往任何时候都更加无能为力。
这些公司包括 Anthropic，尽管 Amodei 不愿承认这一点。毕竟，Anthropic 是一家企业——据报道，其市值接近 400 亿美元。从其人工智能技术中受益的人，总体而言，都是那些唯一责任是提高股东回报，而不是改善人类的公司。
事实上，怀疑论者可能会质疑这篇文章发表的时机，因为据说 Anthropic 正在筹集数十亿美元的风险基金。OpenAI 首席执行官 Sam Altman在 OpenAI 完成 65 亿美元融资前不久发表了类似的技术主义宣言。也许这只是一个巧合。
不过，阿莫迪并不是一个慈善家。和其他首席执行官一样，他也有产品要推销。碰巧的是，他的产品将“拯救世界”——而那些不这么认为的人可能会被抛在后面。或者说，他想让你相信这一点。
原创文章，作者：点点，如若转载，请注明出处：https://www.dian8dian.com/anthropic-shou-xi-zhi-xing-guan-fa-biao-15-000-zi-zan-song
