人工智能初创公司 Mistral推出了一种用于内容审核的新 API。
Mistral 表示，该 API 与支持 Mistral 的 Le Chat 聊天机器人平台审核的 API 相同，可以根据特定应用和安全标准进行定制。它由经过微调的模型 ( Ministral 8B ) 提供支持，该模型经过训练可以将英语、法语和德语等多种语言的文本分为九个类别之一：性、仇恨和歧视、暴力和威胁、危险和犯罪内容、自残、健康、财务、法律和个人身份信息。
Mistral 表示，审核 API 可应用于原始文本或对话文本。
Mistral 在一篇博文中写道：“在过去的几个月里，我们看到整个行业和研究界对新的基于人工智能的审核系统的热情日益高涨，这有助于使审核在各个应用程序中更具可扩展性和稳健性。”“我们的内容审核分类器利用最相关的政策类别来提供有效的护栏，并通过解决模型产生的危害（例如不合格的建议和 PII）引入了一种务实的模型安全方法。”
理论上，人工智能审核系统很有用。但它们也容易受到其他人工智能系统存在的偏见和技术缺陷的影响。
例如，一些经过训练以检测毒性的模型认为，非裔美国人白话英语（AAVE，一些非裔美国人使用的非正式语法）中的短语不成比例地“有毒”。研究发现，社交媒体上有关残疾人的帖子也经常被常用的公众情绪和毒性检测模型标记为更负面或更有毒。
Mistral 声称其审核模型非常准确，但也承认这项工作仍在进行中。值得注意的是，该公司没有将其 API 的性能与其他流行的审核 API（如 Jigsaw 的Perspective API和OpenAI 的审核 API）进行比较。
该公司表示：“我们正在与客户合作，构建和共享可扩展、轻量级和可定制的审核工具，并将继续与研究界合作，为更广泛的领域贡献安全进步。”
Mistral 今天还宣布了一项批处理 API。该公司表示，通过异步处理大量请求，可以将通过其 API 提供的模型成本降低 25%。Anthropic、OpenAI、Google 等公司也为其 AI API 提供了批处理选项。
原创文章，作者：王 浩然，如若转载，请注明出处：https://www.dian8dian.com/mistral-tui-chu-le-shen-he-api
