由于人工智能发展迅速，且害怕错失机会 (FOMO)，生成式人工智能计划通常由自上而下推动，企业领导者往往会对这项突破性技术过度兴奋。但当公司急于构建和部署时，他们通常会处理其他技术实施中出现的所有典型问题。人工智能很复杂，需要专业知识，这意味着一些组织很快就会陷入困境。
事实上，Forrester 预测，近四分之三尝试在内部构建 AI 代理的组织将会失败。
Forrester 分析师 Jayesh Chaurasia 和 Sudha Maheshwari 写道： “挑战在于这些架构非常复杂，需要多种模型、先进的。RAG（检索增强生成）堆栈、先进的数据架构和专业知识。”
那么，企业该如何选择何时采用第三方模型、开源工具或构建定制的内部微调模型？专家们给出了自己的见解。
AI架构远比企业想象的复杂
Forrester 高级分析师 Rowan Curran表示，那些试图自行构建代理的组织通常会在检索增强生成(RAG) 和矢量数据库方面遇到困难。在预期的时间范围内获得准确的输出可能是一个挑战，而且组织并不总是了解重新排序的过程（或重要性），这有助于确保模型使用最高质量的数据。
例如，Curran 指出，用户可能输入 10,000 份文档，模型可能会返回与当前任务最相关的 100 份文档。但较短的上下文窗口限制了重新排序时可以输入的内容。因此，例如，人类用户可能必须做出判断并选择 10 份文档，从而降低模型的准确性。
Curran 指出，RAG 系统可能需要 6 到 8 周的时间来构建和优化。例如，第一次迭代在进行任何调整之前可能具有 55% 的准确率；第二次迭代可能有 70%，而最终部署理想情况下将接近 100%。
开发人员需要了解数据的可用性（和质量），以及如何对模型进行重新排序、迭代、评估和建立模型（即将模型输出与相关、可验证的来源相匹配）。此外，调高或调低温度决定了模型的创造性——但有些组织对创造力“非常严格”，因此会限制事情，Curran 说。
“人们一直认为，解决这些事情很容易，”他指出。“但事实并非如此。”
Curran 表示，构建人工智能系统需要大量的人力，并强调测试、验证和持续支持的重要性。所有这些都需要专用资源。
“成功部署 AI 代理可能非常复杂，”Databricks 人工智能副总裁、MosaicAI创始人兼前首席执行官Naveen Rao 表示同意。企业需要访问各种大型语言模型 (LLM)，并且不仅要能够管理和监控代理和模型，还要能够管理和监控底层数据和工具。“这不是一个简单的问题，随着时间的推移，人们对 AI 系统访问的数据和方式的审查将越来越严格。”
探索人工智能代理时需要考虑的因素
专家建议，在考虑部署人工智能代理的选项（第三方、开源或定制）时，企业应该采取可控的战术方法。
咨询公司Intelligence Briefing创始人兼首席人工智能策略师 Andreas Welsch 建议，首先考虑几个重要问题和因素。其中包括：
- 您的团队大部分时间都花在哪里？
- 此流程中的哪些任务或步骤最耗时？
- 这些任务有多复杂？它们是否涉及 IT 系统和可访问数据？
- 速度更快或更具成本效益能让您的企业做什么？您能（以及如何）衡量基准吗？
Welsch 指出，考虑现有的许可证和订阅也很重要。与软件销售代表交谈，了解您的企业是否已经可以使用代理功能，如果是，那么使用这些功能需要什么（例如附加组件或更高级别的订阅）。
从这里开始，寻找一个业务功能中的机会。例如：“您的团队在哪些无法用代码描述的手动步骤上花费了时间？”之后，在探索代理时，了解他们的潜力并“分类”任何差距。
此外，一定要向团队展示代理如何帮助他们完成工作，从而让他们具备能力并接受教育。“不要害怕提及代理的局限性，”韦尔施说。“这将帮助你管理期望。”
制定战略，采取跨职能方法
Curran 强调，在制定企业 AI 战略时，采取跨职能方法非常重要。成功的组织会在这一过程中涉及多个部门，包括业务领导、软件开发和数据科学团队、用户体验经理等。
他建议根据企业的核心原则和目标制定路线图。“作为一个组织，我们的目标是什么？人工智能将如何帮助我们实现这些目标？”
Curran 承认，这无疑会很困难，因为技术发展速度太快了。“目前还没有一套最佳实践和框架，”他说。谈到 AI 代理，没有多少开发人员有发布后集成和 DevOps 的经验。“构建这些东西的技能还没有真正得到广泛的开发和量化。”
因此，组织很难让各种类型的 AI 项目顺利启动，许多组织最终转向咨询公司或现有的技术供应商之一，这些供应商拥有在其技术堆栈之上构建的资源和能力。最终，组织与合作伙伴密切合作将取得最大成功。
“第三方供应商可能会拥有足够的带宽来跟上最新的技术和架构来构建这个系统，”Curran 说。
他指出，这并不是说不可能在内部构建定制代理；恰恰相反。例如，如果企业拥有强大的内部开发团队以及 RAG 和机器学习 (ML) 架构，他们就可以利用这些来创建自己的代理 AI。他强调，如果“您的数据得到良好的管理、记录和标记”，并且没有“一团糟”的 API 策略，那么这也适用。
无论如何，企业必须从一开始就将持续的、部署后的需求纳入其 AI 战略中。
“部署后没有免费的午餐，”Curran 说。“所有这些系统都需要某种类型的发布后维护和支持，以及持续的调整和调整，以保持其准确性并使其随着时间的推移更加准确。”
原创文章，作者：王 浩然，如若转载，请注明出处：https://www.dian8dian.com/ru-he-kai-shi-shi-yong-ai-dai-li-bing-zheng-que-shi-yong
