法国人工智能初创公司Mistral AI周四推出了一种新的内容审核 API ,这是其与 OpenAI 和其他人工智能领导者竞争的最新举措,同时解决了人们对人工智能安全和内容过滤日益增长的担忧。
新的审核服务由 Mistral 的Ministral 8B 模型的微调版本提供支持,旨在检测九个不同类别中的潜在有害内容,包括性内容、仇恨言论、暴力、危险活动和个人身份信息。该 API 提供原始文本和对话内容分析功能。
Mistral 团队在发布会上表示:“安全性在使 AI 发挥作用方面发挥着关键作用。在 Mistral AI,我们认为系统级护栏对于保护下游部署至关重要。”
多语言审核能力使 Mistral 能够挑战 OpenAI 的主导地位
此次发布正值人工智能行业的关键时刻,因为各公司面临着越来越大的压力,需要对其技术实施更强有力的保护措施。就在上个月,Mistral 与其他主要人工智能公司一起签署了英国人工智能安全峰会协议,承诺负责任地开发人工智能。
Mistral 自己的Le Chat 平台已开始使用该审核 API ,该 API 支持 11 种语言,包括阿拉伯语、中文、英语、法语、德语、意大利语、日语、韩语、葡萄牙语、俄语和西班牙语。这种多语言能力使 Mistral 比一些审核工具主要关注英语内容的竞争对手更具优势。
该公司表示:“在过去的几个月里,我们看到整个行业和研究界对新的基于 LLM 的审核系统的热情日益高涨,这有助于使审核在各个应用程序中更具可扩展性和稳健性。”
企业合作伙伴关系表明 Mistral 在企业 AI 中的影响力日益增强
此次发布是 Mistral 最近与微软 Azure、高通和SAP达成一系列高调合作之后的又一举措,这些合作将这家年轻公司定位为企业 AI 市场中日益重要的参与者。上个月,SAP 宣布将在其基础设施上托管 Mistral 的模型(包括 Mistral Large 2),为客户提供符合欧洲法规的安全 AI 解决方案。
Mistral 的方法尤其引人注目,因为它同时关注边缘计算和全面的安全功能。虽然 OpenAI 和 Anthropic 等公司主要专注于基于云的解决方案,但 Mistral 同时支持设备 AI 和内容审核的策略解决了人们对数据隐私、延迟和合规性日益增长的担忧。这对受到严格数据保护法规约束的欧洲公司来说可能特别有吸引力。
该公司的技术方法也显示出超越其时代的先进性。通过训练其审核模型来理解对话上下文,而不仅仅是分析孤立的文本,Mistral 创建了一个系统,可以捕捉到可能通过更基本的过滤器的微妙有害内容。
审核 API可通过 Mistral 的云平台立即使用,价格根据使用情况而定。该公司表示,将继续提高系统的准确性,并根据客户反馈和不断发展的安全要求扩展其功能。
Mistral 的举动表明了人工智能格局的变化速度之快。就在一年前,这家总部位于巴黎的初创公司还不存在。现在,它正在帮助塑造企业对人工智能安全的看法。在一个由美国科技巨头主导的领域,Mistral 对隐私和安全的欧洲视角可能会成为其最大的优势。
原创文章,作者:王 浩然,如若转载,请注明出处:https://www.dian8dian.com/mistral-ai-tui-chu-quan-xin-shen-he-api-tiao-zhan-openai