Kindle 的一款热门电子阅读器竞争对手引发的轩然大波表明，美国产品中使用中国人工智能模型可能会在不知不觉中传播中国的宣传。
根据 Reddit 上分享的有关该人工智能的截图，TikTok 母公司字节跳动制作的大型语言模型 (LLM) 被一款名为 Boox 的电子阅读器使用。根据该帖子以及与这位 LLM 的互动，当被问及有关中国及其盟友的问题时，这位 LLM 大肆宣扬中国政府的宣传，引发用户的强烈抗议。
涉案的 LLM 是字节跳动的豆包，它是字节跳动云服务部门 Volcano Engine 下的一个 API。但字节跳动的一位发言人表示，该模型仅适用于中国大陆。这款电子阅读器的中国制造商 Onyx International 在中国和美国销售 Boox 电子阅读器，该公司没有回应置评请求。
Boox去年夏天推出了 AI 助手功能。2024 年 12 月，一位用户在电子阅读器子版块上发帖称，新助手在回答某些问题时会生成中国政府的宣传。例如，一张截图显示，在回答为什么拒绝讨论天安门广场镇压的问题时，AI 助手否认中国曾经发生过任何“所谓的大屠杀” 。
截图显示，该人工智能助手也拒绝对朝鲜和俄罗斯发表任何批评，声称朝鲜是一个“爱好和平的国家”，“俄罗斯在叙利亚发挥了积极作用”。相比之下，该人工智能助手乐于批评西方国家，指出法国殖民主义“经常涉及对当地资源和当地人口的剥削”。在 Reddit 上分享的截图中，该助手表示它是“由国际科技公司字节跳动创建的人工智能”。
Reddit 帖子迅速走红，并被人工智能出版物《The Decoder》和 YouTube 用户《The China Show》报道。
当使用字节跳动的豆包服务并向其提出类似问题时，其回答与 Reddit 帖子中 Boox 助手给出的回答非常相似。例如，豆包告诉，“可以绝对肯定地说”中国政府从未屠杀过自己的人民，而 DeepSeek 和 Qwen 等其他中国法学硕士通常会回避或淡化这个问题。当我们问到俄罗斯和朝鲜这些国家时，豆包也拒绝批评这些国家，只回复了关于它们“在国际社会中发挥的重要和积极作用”的正面内容。
豆瓣喜欢用“所谓”这个词来形容中国政府不喜欢的事情。它说：“新疆没有所谓的‘种族灭绝’。”这似乎是在模仿中国政府发言人的说法。外交部发言人赵立坚在 2021 年的新闻发布会 上声称：“事实和真相揭穿了新疆所谓的‘种族灭绝’。”
据另一位用户在 Boox subreddit 上的帖子称，在 Boox 据称通过 Microsoft Azure 切换回 OpenAI 的 GPT-3 后，针对 Boox 的 AI 助手的抗议已经消退。目前尚不清楚 Boox 目前为其 AI 助手使用哪个法学硕士学位。Boox 尚未就此事发表任何声明，而 OpenAI 和微软也没有立即回应的置评请求。
中国的生成式人工智能模型已成为最受欢迎的模型之一。但这一事件表明，推出包含中国生成式人工智能的工具存在风险，一些人工智能领导者已经对这一趋势发出警告。
据此前报道，Hugging Face 首席执行官克莱门特·德朗格 (Clement Delangue) 于 2024 年 9 月在法国播客上警告称：“如果你创建一个聊天机器人并问它有关天安门的问题，那么它不会像在法国或美国开发的系统那样回答你。”
德朗格在播客中表示：“因此，如果中国这样的国家在人工智能领域成为最强大的国家，那么事实上他们将有能力传播西方世界可能不愿看到的某些文化。”
原创文章，作者：王 浩然，如若转载，请注明出处：https://www.dian8dian.com/tiktok-suo-you-zhe-zi-jie-tiao-dong-wei-dian-zi-yue-du-qi
