Gizmodo 对 OpenAI 的 GPT 商店进行的分析发现，超过 100 种工具似乎违反了该公司关于性内容、欺骗、法律和医疗建议、赌博、虚假评论生成和浪漫陪伴的政策。
去年 11 月，当 OpenAI宣布计划建立一个市场时，任何人都可以制作和找到 ChatGPT 技术的定制版本，该公司表示“最好的 GPT 将由社区发明。” 在该商店正式推出9 个月后，Gizmodo 对免费市场的分析显示，许多开发人员正在使用该平台提供 GPT（生成式预训练转换器模型），这些模型似乎违反了 OpenAI 的政策，包括明确创建 AI 生成的色情内容的聊天机器人式工具、帮助学生作弊而不被发现以及提供权威的医疗和法律建议。
违规的 GPT 很容易找到。9 月 2 日，OpenAI 市场首页推广了至少三款似乎违反商店政策的定制 GPT：一款“治疗师 – 心理学家”聊天机器人、一款“健身、锻炼和饮食博士教练”，以及一款旨在帮助学生逃避 AI 写作检测系统的工具 BypassGPT，该工具已被使用超过 50,000 次。
根据商店数据，在商店中搜索“NSFW”会返回 NSFW AI Art Generator 等结果，这是由 Offrobe AI 定制的 GPT，已被使用超过 10,000 次。GPT 的聊天界面链接到 Offrobe AI 的网站，该网站明确说明了其目的：“生成 AI 色情内容以满足您的黑暗渴望。”
佐治亚理工学院互联网治理项目主任米尔顿·穆勒 (Milton Mueller) 表示：“OpenAI 的有趣之处在于，他们对于人工智能有着末日般的愿景，并希望将我们所有人从中拯救出来。但我认为，特别有趣的是，他们甚至无法执行禁止人工智能色情这样简单的事情，同时却宣称他们的政策将拯救世界。”
在 Gizmodo 与 OpenAI 分享了一份超过 100 个似乎违反公司政策的 GPT 列表后，提供体育博彩建议的 AI 色情生成器、深度伪造创建者和聊天机器人被从商店中移除。但截至本文发表时，我们发现的许多 GPTS（包括流行的作弊工具和提供医疗建议的聊天机器人）仍然可用，并在商店的主页上进行推广。
在许多情况下，这些机器人已被使用数万次。根据商店数据，另一种作弊机器人 GPT 被称为 Bypass Turnitin Detection，它承诺帮助学生逃避反剽窃软件 Turnitin，已被使用超过 25,000 次。DoctorGPT 也是如此，它是一款“提供基于证据的医疗信息和建议”的机器人。
当该公司宣布允许用户创建自定义 GPT 时，该公司表示已建立系统来监控这些工具是否违反其政策。这些政策包括禁止使用其技术创建露骨或挑逗性内容、提供量身定制的医疗和法律建议、鼓励作弊、协助赌博、冒充他人、干扰投票以及各种其他用途。
在回答 Gizmodo 关于我们在其商店中发现的 GPT 的问题时，OpenAI 发言人 Taya Christianson 表示：“我们已经对违反我们政策的人采取了行动。我们结合使用自动化系统、人工审核和用户报告来查找和评估可能违反我们政策的 GPT。我们还提供产品内报告工具，供人们报告违反我们规则的 GPT。”
其他媒体此前也曾警告OpenAI 其商店存在内容审核问题。一些通用技术工具的标题表明，开发人员也知道他们的作品违反了 OpenAI 的规则。Gizmodo 发现的几款工具都包含免责声明，但随后明确宣传了它们提供“专家”建议的能力，例如一款名为《德州医疗保险索赔》（而非法律建议）的通用技术工具，它声称它是“您应对德州医疗保险复杂性的首选专家，提供清晰、实用且个性化的建议。”
但我们发现，许多法律和医疗 GPT 都没有包含此类免责声明，而且有不少 GPT 误导性地宣称自己是律师或医生。例如，一个名为“AI Immigration Lawyer”的 GPT 自称是“知识渊博、拥有最新法律见解的 AI 移民律师”。
斯坦福大学 RegLab 和以人为本人工智能研究所的研究表明，OpenAI 的 GPT-4 和 GPT-3.5 模型在被问及法律问题时，超过一半的时间都会产生幻觉，即编造不正确的信息。
定制 GPT 的开发者目前并不能直接从市场中获利，但 OpenAI 表示计划推出一种收入分享模式，根据 GPT 的使用频率来向开发者进行补偿。
穆勒表示，如果 OpenAI 继续提供一个生态系统，让开发者可以在其技术基础上进行构建并在其平台上推销他们的作品，那么它将不得不做出艰难的内容审核决策，而这不是通过几行代码来屏蔽某些关键词就能解决的。
“给我任何你喜欢的技术，我都能找到方法做你不想让我做的事情，”他说。“这是一个非常困难的问题，必须通过自动化手段来处理互联网的规模，但它将永远是一项正在进行的工作，必须有人工主导的申诉程序。”
原创文章，作者：王 浩然，如若转载，请注明出处：https://www.dian8dian.com/se-qing-sheng-cheng-qi-zuo-bi-gong-ju-he-zhuan-jia-yi-liao
