Nvidia 发布了三项新的 NIM 微服务，即大型应用程序一部分的小型独立服务，以帮助企业为其 AI 代理带来额外的控制和安全措施。
其中一项新的 NIM 服务针对内容安全，旨在防止 AI 代理生成有害或有偏见的输出。另一项服务旨在使对话仅集中在已获批准的话题上，而第三项新服务则有助于防止 AI 代理尝试越狱或解除软件限制。
这三个新的 NIM 微服务是Nvidia NeMo Guardrails的一部分，Nvidia NeMo Guardrails 是 Nvidia 现有的开源软件工具和微服务集合，旨在帮助公司改进其 AI 应用程序。
新闻稿称：“通过应用多个轻量级、专门的模型作为护栏，开发人员可以弥补在仅存在更普遍的全球政策和保护时可能出现的漏洞——因为一刀切的方法无法正确保护和控制复杂的代理 AI 工作流程。”
看来人工智能公司可能开始意识到让企业采用他们的人工智能代理技术并不像他们最初想象的那么简单。尽管。Salesforce 首席执行官马克·贝尼奥夫 (Marc Benioff) 等人最近预测，未来 12 个月，仅 Salesforce 的代理数量就会超过 10 亿，但现实可能看起来会有所不同。
德勤最近的一项研究预测，约有 25% 的企业已经在使用 AI 代理或预计在 2025 年使用。该报告还预测，到 2027 年，约有一半的企业将使用代理。这表明，虽然企业显然对 AI 代理感兴趣，但他们采用 AI 技术的节奏并不与 AI 领域的创新同步。
Nvidia 可能希望这样的举措能让采用 AI 代理看起来更安全，更少实验性。时间会证明这是否真的如此。
原创文章，作者：王 浩然，如若转载，请注明出处：https://www.dian8dian.com/nvidia-fa-bu-geng-duo-gong-ju-he-hu-lan-tui-dong-qi-ye-cai
