Cohere 更新 API,让开发人员更轻松地从其他模型切换

Cohere 更新 API,让开发人员更轻松地从其他模型切换

Cohere宣布发布其 AI 模型 Chat、Embed、Rerank 和 Classify 的应用程序编程接口 (API) 的更新版本。

新的 API 更新统称为 API V2,Cohere 公开表示,这些更新旨在与 AI 行业标准更加紧密地保持一致,以便开发人员更轻松地将他们的应用程序切换到由 Cohere 的模型提供支持,而不是由竞争对手 OpenAI、Anthropic、Google、Mistral 和 Meta 提供支持。

本月早些时候,Andreessen Horowitz(A16z)的普通合伙人Martin Casado 在 X 上发布了一张图表,该图表展示了 AI API 平台Kong对 800 名企业领导人进行的一项调查的结果,揭示了他们正在使用的大型语言模型 (LLM)。

OpenAI 的 ChatGPT 以 27% 的市场份额占据榜首,而使用微软 Azure AI 云服务的市场份额为 18%,Google Gemini 的市场份额为 17%。Cohere 以 5% 的市场份额排在倒数第二,这表明这家总部位于多伦多的初创公司(由2017 年开创生成式人工智能时代的 Transformer 论文背后的一些前谷歌研究人员共同创立)还有很长的路要走才能赢得它所追求的企业客户。

通过更精确的设置提高可靠性

V2 API 版本中最重大的变化之一是要求开发人员在其 API 调用中指定模型版本。

以前,该字段是可选的,这有时会导致在发布新模型且默认模型发生变化时出现意外行为。

通过将模型版本设为必填字段,Cohere 确保开发人员保持一致的应用程序性能,特别是在涉及嵌入模型的场景中,使用不同的版本可能会影响结果。

更新后的聊天 API 引入了多项可用性改进,包括将输入参数合并到单个数组中,取代以前需要单独的、和参数的messages结构。messagechat_historypreamble

这一变化简化了输入过程,允许更复杂的用例,其中可以将system或等角色assistant分配给聊天序列中的最新消息。

改进的工具集成和流媒体支持

Cohere 的新 API 还增强了工具集成功能。在 V2 版本中,工具使用 JSON 模式而不是 Python 类型进行定义,从而使流程更加灵活,并且与更广泛的应用程序兼容。

此外,每个工具调用现在都包含一个唯一的 ID,使得 API 能够正确地将工具结果与其相应的调用进行匹配——这比缺少此功能的 V1 API 有所改进。

对于流式交互,V2 聊天 API 已从 JSON 流事件切换到服务器发送事件 (SSE),为用户提供更强大、响应更迅速的体验。

支持现有 API

Cohere 已确认将继续支持 V1 API 套件,确保尚未准备好迁移的开发人员仍然可以依赖现有的实现。

V1 API 或其相关 SDK 不会发生重大变化。

但是,该公司建议升级到 V2 以增强稳定性并可以使用最新功能,例如模型版本强制和高级聊天功能。

开发人员资源

为了促进向 API V2 的过渡,Cohere 为其更新的端点发布了新的 SDK 和 OpenAPI 规范。

这些资源以及详细的聊天迁移指南均可在 Cohere 平台上获取。我们鼓励开发人员通过公司的 Discord 社区提供反馈和建议。

Cohere 的 API V2 版本标志着其平台在让开发人员更方便使用和更高效方面迈出了重要一步。通过这些更新,该公司旨在提供更精简和可预测的开发体验,并最终赢得 OpenAI 和其他流行 API 的用户。

原创文章,作者:王 浩然,如若转载,请注明出处:https://www.dian8dian.com/cohere-geng-xin-api-rang-kai-fa-ren-yuan-geng-qing-song-di

Like (0)
王 浩然的头像王 浩然作者
Previous 2024年9月30日
Next 2024年9月30日

相关推荐

发表回复

Please Login to Comment