Forum Ventures是一家早期的 B2B SaaS 基金、加速器和 AI 创业工作室，今天宣布发布其最新的综合报告“ 2024：企业中代理 AI 的崛起”。该报告详细分析了代理 AI的现状和未来发展轨迹，为企业、投资者和初创公司提供了宝贵的见解。该报告基于对美国100 名高级 IT 决策者的调查和对领先的 AI 创新者的采访，强调了在企业环境中采用 AI 代理所面临的挑战、机遇和战略重点。
代理型人工智能（一种自主的、由人工智能驱动的系统，能够在没有人工干预的情况下推理和执行复杂任务）的兴起标志着企业技术的重大转变。这些系统通常建立在大型语言模型(LLM) 之上，有可能通过自动化工作流程、减少手动任务和提高效率来改变业务运营。然而，尽管潜力巨大，但企业级采用人工智能代理仍处于早期阶段，许多组织在等待技术成熟时采取了谨慎的态度。
报告揭示了人工智能应用准备情况的差异：虽然只有29%的企业领导团队有近期（1-3 年）愿景，以实现企业范围的人工智能应用，即人工智能成为至少五个核心功能的关键部分，但更大比例（46%）的企业预计在长期内（3 年或更长时间）达到这一应用水平。
Forum Ventures 的调查还发现，48% 的企业已经开始采用 AI 代理系统，另有33% 的企业正在积极探索这些解决方案。这种日益增长的兴趣反映了这样一种信念：即使企业正在努力应对性能、安全性和信任等挑战，AI 代理也可以带来显著的运营改进。
信任是人工智能代理采用的主要障碍
该报告的核心发现之一是，信任仍然是企业广泛采用人工智能代理的最大障碍。对数据隐私、人工智能输出的准确性以及这些系统的整体可靠性的担忧被强调为主要障碍。49 % 的受访者表示，他们犹豫是否采用人工智能代理的主要原因是性能（14%）、数据隐私（10%）、准确性（8%）、道德问题（5%）和太多未知因素（12%）。
Forum Ventures 普通合伙人兼首席运营官Jonah Midanik强调了企业与人工智能系统之间存在的信任鸿沟： “信任鸿沟非常大。虽然人工智能代理可以非常高效地执行任务，但它们的输出是基于统计概率而不是固有事实。”
人工智能领域的领军人物，包括Personal AI联合创始人兼首席技术官Sharon Zhang和Sierra Ventures管理合伙人Tim Guleri强调，透明度、安全性和合规性将是弥合这一信任鸿沟的关键驱动因素。Zhang 在开发人工智能员工“双胞胎”方面的工作凸显了隐私优先解决方案的重要性，尤其是在受监管的行业。Zhang 解释了如何隔离用户数据以确保其不会被混合或用于更广泛的培训，这对于与企业建立信任至关重要。
Tim Guleri补充道：“企业需要确保其数据安全，并且 AI 代理符合其价值观和政策。如果没有这些保证，企业将犹豫是否全面部署 AI 代理，尤其是当这些系统变得更加自主时。”
为了解决这些问题，该报告概述了与企业客户建立信任的三种关键方法：
- 优先考虑透明度：企业希望了解人工智能代理如何做出决策。提供清晰的文档和可解释的人工智能(XAI) 框架来分解决策过程至关重要。定期更新审计线索并确保数据流透明度将进一步增强信任。
- 确保合规性和安全性：安全性是首要关注的问题，31% 的受访者认为这是决定投资 AI 代理时最重要的因素。初创公司必须整合强大的数据保护措施，并遵守GDPR、CPRA和HIPAA等法规。
- 构建人机协同 (HITL) 框架：使用HITL框架进行人为监督对于企业采用 AI 仍然至关重要，尤其是在受监管行业。报告指出，23% 的受访者强调需要在高风险环境中保持对 AI 代理的人为控制。AI 解决方案应提供不同程度的人为控制，从完全自动化到“副驾驶模式”，具体取决于任务的敏感度。
初创企业在人工智能代理应用方面的机会
尽管面临信任和合规方面的挑战，为企业开发人工智能代理的初创企业仍拥有大量可以利用的机会。51 % 的决策者表示愿意与初创企业合作，特别是那些提供大型企业可能无法提供的定制创新解决方案的企业。
该报告为寻求引导企业采用人工智能代理的初创企业概述了路线图：
- 教育企业：初创企业面临的主要挑战之一是教育企业客户了解代理 AI 的全部潜力。许多组织仍然将 AI 代理与聊天机器人等更简单的工具混为一谈。
- 展示防御性：创始人需要通过强调专有数据、知识产权或深厚的行业专业知识来展示其解决方案的防御性。企业寻求的解决方案不仅具有创新性，而且具有长期防御性，具有独特的深度和专有数据集，使其有别于竞争对手。
- 展示深厚的专业知识：专注于垂直 AI 代理（为金融服务、保险或医疗保健等特定行业设计的解决方案）的初创公司更有可能取得成功。Fortive高级总监Sam Strickling建议初创公司展示其在单一行业的深厚专业知识，展示他们的解决方案如何解决行业特定的挑战。
- 使用合成数据证明潜力：在销售流程的早期阶段，初创公司可能难以获得企业数据的访问权限。通过使用模拟企业提供的数据的合成数据，初创公司可以展示其解决方案的潜力，并克服对数据共享和合规性的最初担忧。
- 展示快速扩展的便捷性：企业重视能够跨部门快速扩展的解决方案。Tim Guleri强调了构建具有模块化架构的AI 代理的重要性，这些代理可以轻松集成到现有系统中，提供灵活的 API并确保与常见企业平台的兼容性。
对 Agentic AI 未来的预测
随着代理人工智能的不断发展，该报告预测了影响未来商业运营和技术的几个关键趋势：
- 专业化和代码生成系统： Differential Ventures 合伙人David Magerman预测，人工智能代理将发展成为高度专业化的工具，能够处理代码生成等复杂任务，并在特定环境中充当专家问题解决者。
- 人工劳动力的出现：Sam Strickling预测人工劳动力的出现，其中人工智能代理可以自主执行通常由初级员工执行的任务。这些代理可以合作完成更复杂的项目，一些代理甚至可以管理其他人工智能代理的团队。
- 多智能体网络和编排：Sharon Zhang和Taylor Black预见了多智能体网络的发展，其中人工智能智能体协同工作以实现单个智能体无法单独完成的复杂目标。这些网络可能会彻底改变企业协作解决问题的方式。
- 从基于任务到基于结果：Jonah Midanik设想从基于任务的系统向基于结果的系统转变，其中人工智能代理提供全面的解决方案，而不仅仅是协助完成单个任务。这种转变代表了业务运营的根本变化。
- 真正的差异化将会出现：随着人工智能代理领域的竞争加剧，Tim Guleri认为，随着初创公司开始通过成功的部署展示真正的价值，真正的差异化将在未来12-18 个月内出现。这将标志着当前炒作周期的结束，并导致更广泛的企业采用。
结论：前路光明
Forum Ventures 发布的《2024：企业中代理式人工智能的崛起》报告强调了代理式人工智能对全球企业的变革潜力。尽管信任、安全和可扩展性方面的挑战仍然存在，但未来的道路对企业和初创公司来说都充满了令人兴奋的机遇。
随着人工智能代理逐渐发展成为复杂的自主系统，企业将受益于效率的提高、运营成本的降低以及大规模处理复杂任务的能力。然而，采用人工智能在很大程度上取决于克服信任障碍，并通过试点项目、合成数据和可扩展的解决方案展示现实世界的价值。
对于初创企业，该报告提供了驾驭企业 AI 格局的可行策略，从通过透明度和合规性建立信任，到展示深厚的专业知识和快速的可扩展性。通过正确的方法，初创企业有可能推动代理 AI 的广泛采用并塑造工作的未来。
原创文章，作者：点点，如若转载，请注明出处：https://www.dian8dian.com/agentic-ai-ru-he-gai-bian-qi-ye-lai-zi-forum-ventures-bao
