对于企业来说，找出正确的提示以从生成式 AI 模型中获得最佳结果并不总是一件容易的事。在某些组织中，这已经落到了新出现的提示工程师的职位上，但LinkedIn的情况并非如此。
该专业社交平台归微软所有，目前拥有超过 10 亿个用户账户。尽管 LinkedIn 是一家大型组织，但它面临着与几乎所有规模的组织一样的基本挑战，即弥合技术和非技术业务用户之间的差距。对于 LinkedIn 而言，新一代人工智能用例既面向最终用户，也面向内部用户。
虽然有些组织可能选择只通过电子表格或 Slack 和消息渠道分享提示，但 LinkedIn 采取了一种略显新颖的方法。该公司建立了所谓的“协作提示工程游乐场”，使技术和非技术用户能够协同工作。该系统使用了一种非常有趣的技术组合，包括大型语言模型 (LLM)、LangChain 和 Jupyter Notebooks。
LinkedIn 已经采用这种方法来帮助改进其具有 AI 功能的销售导航产品，特别专注于 AccountIQ——一种将公司研究时间从 2 小时缩短到 5 分钟的工具。
与地球上的其他组织一样，LinkedIn 最初的人工智能之旅始于试图弄清楚什么是有效的。
LinkedIn 员工软件工程师 Ajay Prakash 表示：“当我们开始使用 gen AI 开展项目时，产品经理总是有太多想法，比如‘嘿，为什么我们不能尝试这个？为什么我们不能尝试那个’。”“整个想法是让他们能够进行快速工程并尝试不同的事情，而不是让工程师成为一切的瓶颈。”
在技术企业中部署人工智能的组织挑战
可以肯定的是，LinkedIn 对机器学习 (ML) 和人工智能领域并不陌生。
在 ChatGPT 出现之前，LinkedIn 已经构建了一个工具包来衡量 AI 模型的公平性。该公司概述了其 AI 战略（当时）。然而，Gen AI 有点不同。它不需要工程师专门使用，而且更容易被接受。这就是 ChatGPT 引发的革命。构建基于 gen AI 的应用程序与构建传统应用程序并不完全相同。
Prakash 解释说，在人工智能出现之前，工程师通常会从产品管理人员那里获得一组产品需求。然后他们就会出去制造产品。
相比之下，有了新一代人工智能，产品经理就会尝试不同的方法，看看哪些方法可行，哪些方法有效。与非技术人员无法使用的传统机器学习相比，新一代人工智能对所有类型的用户来说都更容易上手。
传统的快速工程往往会造成瓶颈，工程师充当任何变更或实验的守门人。LinkedIn 的方法通过定制的 Jupyter Notebooks 提供用户友好的界面来改变这种动态，而 Jupyter Notebooks 传统上用于数据科学和机器学习任务。
LinkedIn 提示工程游乐场里有什么
LinkedIn 使用的默认 LLM 供应商是OpenAI ，这应该不足为奇。毕竟，LinkedIn 是微软的一部分，而微软托管着 Azure OpenAI 平台。
LinkedIn 高级工程经理 Lukasz Karolewski 解释说，使用 OpenAI 更方便，因为他的团队在 LinkedIn/Microsoft 环境中更容易访问。他指出，使用其他模型需要额外的安全和法律审查流程，这将需要更长的时间才能投入使用。该团队最初优先考虑验证产品和想法，而不是优化最佳模型。
LLM 只是该系统的一部分，其中还包括：
- Jupyter Notebooks 用于界面层；
- LangChain 用于快速编排；
- Trino 用于测试期间的数据湖查询；
- 基于容器部署，方便接入；
- 为非技术用户自定义 UI 元素。
LinkedIn 的协作式快速工程平台是如何运作的
近十年来，Jupyter Notebooks 在机器学习社区中被广泛使用，它是一种使用交互式 Python 语言界面帮助定义模型和数据的方式。
Karolewski 解释说，LinkedIn 预先编程了 Jupyter Notebooks，以便非技术用户更容易使用。笔记本包括文本框和按钮等 UI 元素，使任何类型的用户都能更轻松地开始使用。笔记本的打包方式允许用户以最少的说明轻松启动环境，而无需设置复杂的开发环境。主要目的是让技术和非技术用户都可以尝试使用 gen AI 的不同提示和想法。
为了实现这一目标，该团队还集成了对 LinkedIn 内部数据湖数据的访问。这允许用户以安全的方式提取数据以用于提示和实验。
LangChain 是编排新一代人工智能应用程序的库。该框架帮助团队轻松地将不同的提示和步骤串联在一起，例如从外部来源获取数据、过滤和合成最终输出。
尽管 LinkedIn 目前并不专注于构建完全自主的、基于代理的应用程序，但 Karolewski 表示，他认为 LangChain 是未来朝这个方向发展的基础。
LinkedIn 的方法还包括多层次的评估机制：
- 基于嵌入的相关性检查，用于输出验证；
- 通过预先构建的评估器自动检测危害；
- 基于法学硕士的评估，使用较大的模型来评估较小的模型；
- 集成人工专家审查流程。
从几小时到几分钟：对快速工程领域产生的真实影响
LinkedIn 的 AccountIQ 功能证明了此方法的有效性，它将公司的研究时间从两小时缩短到五分钟。
这种改进不仅仅意味着处理速度更快——它代表了人工智能功能如何通过领域专家的直接输入进行开发和改进的根本性转变。
“我们不是销售领域的专家，”Karolewski 说道。“这个平台允许销售专家直接验证和改进 AI 功能，从而创建以前不可能实现的紧密反馈循环。”
尽管 LinkedIn 不打算开源其 gen AI 即时工程平台，因为它与内部系统深度集成，但这种方法为其他寻求扩大 AI 开发的企业提供了经验教训。虽然可能无法完全实现，但其他组织可以使用相同的基本构建块（即 LLM、LangChain 和 Jupyter 笔记本）来构建类似的方法。
Karolewski 和 Prakash 都强调，对于新一代人工智能来说，关注可访问性至关重要。从一开始就实现跨职能协作也很重要。
“我们从社区获得了很多想法，也从社区学到了很多东西，”Lukasz 说道。“我们主要好奇其他人的想法，以及他们如何将主题专家的专业知识带入工程团队。”
原创文章，作者：王 浩然，如若转载，请注明出处：https://www.dian8dian.com/jiang-ren-gong-zhi-neng-dai-ru-shi-jian-linkedin-jie-he-llm
