云计算领导者亚马逊网络服务 (AWS) 的2024 年年度 re:Invent 大会本周于内华达州拉斯维加斯举行,它有望成为该系列12 年前推出以来规模最大的一次大会。
为什么?当然是生成式人工智能,以及科技巨头和初创公司之间日益激烈的竞争,为企业提供有用的工具——这是 AWS 的主要收入来源。
高级 AI 记者 Emilia David直接从会议上报道,并与我们其他人一起远程报道对商业领袖和那些希望采用和部署最新、最有用的 AWS 技术的人最重要的新闻。
以下是迄今为止我们从节目中发现的重大新闻:
AWS 为 Bedrock 引入多代理编排:AWS 已将多代理编排引入其 Bedrock 平台,使企业能够构建协作式 AI 代理和简化的工作流程。此次升级使穆迪等公司能够通过协调专门的代理来完成复杂的任务,从而实现更准确的分析。
AWS 称,新的 Bedrock 自动推理可捕捉 100% 的 AI 幻觉:Amazon Bedrock 的新功能包括用于训练更小、更快的 AI 模型的模型蒸馏和用于减少幻觉的自动推理检查。这些工具旨在提高响应准确性,并使企业能够根据特定需求创建定制模型。
AWS SageMaker 转型为数据和 AI 综合中心:AWS 推出了下一代 SageMaker,将分析和 ML 工具集成到统一平台中。升级包括 Lakehouse 和 Unified Studio 功能,使企业能够无缝链接来自各种来源的数据,从而加快 AI 应用程序开发速度。
亚马逊推出用于生成文本、图像和视频的 Nova AI 模型系列:亚马逊在 re:Invent 2024 上首次推出了 Nova 生成式 AI 模型系列,旨在创建文本、图像和视频。Nova 模型与 Bedrock 集成,为企业提供可定制的创意内容开发和高级 AI 应用程序工具。
Qodo 推出 AI 回归测试代理 Qodo Cover:Qodo 推出了完全自主的回归测试代理 Qodo Cover,通过自动生成和验证测试套件来简化软件质量验证。该工具基于 Meta 的 TestGen-LLM 构建,最近通过提供被主要 ML 存储库 Hugging Face 接受的生产质量测试展示了其功能。
Amazon HyperPod 任务管理让 GPU 保持运行,将成本降低 40%:AWS 推出了 HyperPod 任务管理功能,这是 SageMaker HyperPod 的一项功能,可优化 GPU 使用率并减少空闲时间,从而将 AI 基础设施成本降低高达 40%。通过智能管理资源分配和确定任务优先级,系统可确保更高的利用率,即使在非高峰时段也是如此,从而解决了企业扩展 AI 计划的关键效率挑战。
AWS 现支持 Prompt Caching,成本降低 90%:AWS 宣布在 Bedrock 上推出智能 Prompt Routing 和 Prompt Caching,运行 AI 应用程序时分别可节省高达 30% 和 90% 的成本。智能 Prompt Routing 通过将查询定向到适当大小的模型来优化提示处理,而 Prompt Caching 通过存储常见查询以供重复使用来降低令牌生成成本,从而显著降低企业的费用和延迟。
今年的 AWS 公告突出了该公司为企业提供先进 AI、数据分析和生成工具的努力。探索这些创新,在 AI 竞赛中保持领先地位。
原创文章,作者:王 浩然,如若转载,请注明出处:https://www.dian8dian.com/ya-ma-xun-wang-luo-fu-wu-aws-re-invent-2024-de-zhong-bang