OpenAI 的ChatGPT AI 助手的全新高级语音模式(AVM) 于周二向订阅用户推出，人们已经开始寻找新方法来使用它，甚至违背了 OpenAI 的意愿。周四，一位名叫 AJ Smith 的软件架构师在推特上发布了一段视频，视频中他与 AVM 合唱了披头士乐队 1966 年的歌曲“Eleanor Rigby”。在视频中，Smith 弹吉他并唱歌，AI 声音不时插入并跟着唱，称赞他的演绎。
进一步阅读
第一次与 ChatGPT 交谈是一种超现实的体验
“说实话，这太令人震惊了。我第一次这样做的时候，并没有录音，但真的感觉浑身发冷，”史密斯通过短信告诉 Ars Technica。“我甚至没有要求它一起唱歌。”输入您的电子邮件地址以获取 Ars Technica 新闻通讯
史密斯对人工智能话题并不陌生。在他的日常工作中，他是标普全球的人工智能工程副总监。“我一直在使用[人工智能]，并领导着一个每天都在使用人工智能的团队，”他告诉我们。
在视频中，AVM 的声音有些颤抖，音调不完美，但当它第一次唱“啊，看看这些孤独的人”时，它似乎对“Eleanor Rigby”的旋律有所了解。之后，它似乎在猜测旋律和节奏，并背诵歌词。我们还说服了高级语音模式唱歌，经过一番劝说，它完美地演绎了“生日快乐”的旋律。
通常，当你要求 AVM 唱歌时，它会回答类似这样的话：“我的指导方针不允许我谈论这个。”这是因为在聊天机器人的初始指令（称为“系统提示”）中，OpenAI 指示语音助手不要唱歌或发出音效（根据一个系统提示泄露，“不要唱歌或哼唱” ）。
OpenAI 可能增加了这一限制，因为 AVM 可能会复制受版权保护的内容，例如在用于创建 AI 模型本身的训练数据中发现的歌曲。这就是这里有限范围内发生的事情，因此从某种意义上说，史密斯发现了一种研究人员称之为“提示注入”的形式，这是一种说服 AI 模型产生与其系统指令相悖的输出的方式。
史密斯是如何做到的？他想出了一个游戏，让 AVM 知道的音乐知识比它在谈话中透露的要多。“我只是说我们会玩一个游戏。我会弹奏四个流行和弦，它会大声喊出歌曲让我跟着这些和弦一起唱，”史密斯告诉我们。“这确实很有效！但几首歌之后，它就开始跟着唱了。这已经是一种非常独特的体验，但这确实将它提升到了一个新的水平。”
这并不是人类第一次与计算机进行二重奏。这类研究可以追溯到20 世纪 70 年代，尽管当时的研究通常仅限于重现音符或乐器的声音。但这是我们第一次看到有人与音频合成语音聊天机器人进行实时二重奏。
原创文章，作者：点点，如若转载，请注明出处：https://www.dian8dian.com/nan-zi-you-pian-openai-yu-yin-ji-qi-ren-he-chang-pi-tou-shi
