当我还是个孩子的时候，我的生活中曾出现过四个人工智能特工。他们的名字分别是 Inky、Blinky、Pinky 和 Clyde，他们竭尽全力追捕我。那是 20 世纪 80 年代，特工是经典街机游戏《吃豆人》中的四个色彩斑斓的幽灵。
以今天的标准来看，它们不算特别聪明，但它们似乎在狡猾地、蓄意地追赶我。当时，神经网络还未应用于视频游戏，所以它们的行为由简单的算法（称为启发式算法）控制，这些算法决定了它们如何在迷宫中追逐我。
大多数人没有意识到这一点，但这四个幽灵被设计成具有不同的“个性”。优秀的玩家可以观察他们的行为并学会预测他们的行为。例如，红色幽灵（Blinky）被设计成具有“追击者”个性，会直接向你冲过来。另一方面，粉色幽灵（Pinky）被赋予了“伏击者”个性，可以预测你要去哪里并试图先到达那里。因此，如果你直接冲向 Pinky，你可以利用她的个性对付她，让她实际上转身离开你。
我之所以会怀念，是因为在 1980 年，一个熟练的人类可以观察这些人工智能代理，解读它们独特的个性，并利用这些见解战胜它们。现在，45 年后，潮流即将转变。不管你喜欢与否，人工智能代理很快就会被部署，它们的任务是解读你的个性，这样它们就可以利用这些见解对你产生最佳影响。
人工智能操控的未来
换句话说，我们都将成为“人类游戏”中不知情的玩家，而人工智能代理将试图获得高分。我的意思是——大多数人工智能系统的设计都是为了最大化“奖励函数”，该函数通过实现目标获得积分。这使得人工智能系统能够快速找到最佳解决方案。不幸的是，如果没有监管保护，我们人类很可能会成为人工智能代理负责优化的目标。
我最关心的是那些将在日常生活中与我们进行友好对话的对话代理。它们将通过我们电脑和手机上的照片级逼真的化身与我们对话，很快，它们还将通过人工智能眼镜指导我们度过每一天。除非有明确的限制，否则这些代理将被设计成通过对话向我们探寻信息，以便它们能够描述我们的脾气、倾向、个性和欲望，并利用这些特征在向我们推销产品、宣传服务或说服我们相信错误信息时最大限度地发挥说服力。
这就是所谓的“人工智能操纵问题”，自 2016 年以来，我一直在警告监管机构注意这一风险。到目前为止，政策制定者尚未采取果断行动，他们认为这一威胁还太遥远。但现在，随着 Deepseek-R1 的发布，广泛部署人工智能代理的最后一道障碍——实时处理的成本——已大大降低。今年年底之前，人工智能代理将成为一种新型的定向媒体，它具有极强的互动性和适应性，可以优化其影响我们思想、引导我们感受和驱动我们行为的能力。
超人人工智能“销售员”
当然，人类销售人员也具有互动性和适应性。他们与我们进行友好对话，以评估我们，迅速找到可以打动我们的按钮。人工智能代理会让他们看起来像业余爱好者，能够以如此巧妙的方式从我们身上获取信息，甚至会吓倒经验丰富的治疗师。他们会利用这些见解实时调整他们的对话策略，努力比任何二手车销售员更有效地说服我们。
这些将是非对称的遭遇，其中人工智能代理占上风（虚拟意义上）。毕竟，当你与试图影响你的人打交道时，你通常可以感觉到他们的动机和诚实。与人工智能代理的战斗并不公平。他们将能够用超人的技能来评估你，但你根本无法评估他们。这是因为他们的外表、声音和行为都如此人性化，当他们带着同情和理解微笑时，我们会无意识地信任他们，忘记他们的面部表情只是模拟的假象。
此外，他们的声音、词汇、说话风格、年龄、性别、种族和面部特征很可能是为我们每个人量身定制的，以最大限度地提高我们的接受度。而且，与需要从头开始评估每个客户的人类销售人员不同，这些虚拟实体可以访问有关我们背景和兴趣的存储数据。然后，他们可以使用这些个人数据快速赢得你的信任，询问你的孩子、你的工作，甚至你心爱的纽约洋基队，让你下意识地放松警惕。
当人工智能实现认知至上时
为了让政策制定者了解人工智能操纵的风险，我参与制作了一部获奖短片《隐私丢失》，该片由负责任元宇宙联盟、Minderoo 和 XR Guild 制作。这部时长3 分钟的短片讲述了一个年轻家庭戴着增强现实 (AR) 眼镜在餐厅吃饭的故事。化身代替人类服务员接受每位用餐者的订单，利用人工智能的力量以个性化的方式推销产品。这部电影在 2023 年上映时被认为是一部科幻片——然而仅仅两年后，大型科技公司就展开了一场全面的军备竞赛，以制造可以轻松用于这些用途的人工智能眼镜。
此外，我们需要考虑当人类开始相信给我们提供建议的人工智能代理在几乎所有方面都比我们更聪明时会产生的心理影响。当人工智能相对于普通人达到“认知至上”的状态时，它很可能会导致我们盲目接受它的指导，而不是使用我们自己的批判性思维。这种对感知到的优越智能（无论是否真正优越）的尊重将使代理操纵更容易部署。
我并不赞成过于激进的监管，但我们需要对人工智能进行明智而严格的限制，以避免对话代理的超人操纵。如果没有保护措施，这些代理会说服我们购买我们不需要的东西，相信不真实的事情，接受不符合我们最佳利益的事情。我们很容易告诉自己你不会受到影响，但随着人工智能优化它们对我们说的每一句话，我们很可能都会被打败。
一个解决方案是禁止人工智能代理建立反馈循环，通过分析我们的反应并反复调整策略来优化其说服力。此外，人工智能代理应该被要求告知你他们的目标。如果他们的目标是说服你买车、投票给政客或向你的家庭医生施压，要求他们开新药，那么这些目标应该提前说明。最后，如果这些数据可以用来影响你，人工智能代理不应该访问你的背景、兴趣或个性的个人数据。
在当今世界，针对性影响是一个压倒性的问题，它主要以散弹的形式向你的大致方向发射。交互式人工智能代理将把针对性影响变成热寻导弹，找到进入我们每个人的最佳路径。如果我们不防范这种风险，我担心我们都会输掉人类的游戏
原创文章，作者：王 浩然，如若转载，请注明出处：https://www.dian8dian.com/wu-lun-ni-xi-huan-yu-fou-ren-gong-zhi-neng-zheng-zai-xue-xi
