
引言
全球支付巨头Visa在200多个国家和地区开展业务,每个地方都有其独特且复杂的规则与法规。当客户服务团队面对政策相关问题时,比如“我们是否可以在这个国家处理这种类型的支付?”,他们需要了解这些细微差别。然而,仅凭记忆掌握所有这些信息是不可能的。这意味着他们通常必须手动查找相关信息,这是一个可能耗时数天的繁琐过程,具体取决于信息的可访问性。随着生成式AI的出现,Visa发现这是一个完美的应用场景,通过应用检索增强生成(RAG)技术,不仅可以将信息提取速度提高1000倍,还能追溯信息来源。
Visa的“安全ChatGPT”
2022年11月30日,ChatGPT问世,这一天在AI历史上将被铭记为一个重要时刻。不久后,Visa的员工们纷纷询问:“我的ChatGPT在哪里?”“我能使用ChatGPT吗?”“我没有ChatGPT的访问权限。”“我想要ChatGPT。”然而,作为世界上最大的数字支付提供商之一,Visa自然对其客户的敏感数据感到担忧,特别是要确保这些数据保持安全、不泄露给公众,并且不会被用于未来的模型训练。
为了满足员工的需求同时平衡这些担忧,Visa推出了所谓的“安全ChatGPT”,它部署在防火墙之后,并在Microsoft Azure上内部运行。公司可以通过数据丢失防护(DLP)筛查来控制输入和输出,确保没有敏感数据离开Visa的系统。“所有的数百PB数据,一切都是加密的,在存储和传输过程中都是安全的,”Visa数据与AI高级副总裁Sam Hamilton解释道。
尽管名字相似,但“安全ChatGPT”实际上是一个多模型接口,提供六种不同的选项:GPT(及其各种迭代版本)、Mistral、Anthropic的Claude、Meta的Llama、Google的Gemini和IBM的Granite。Hamilton将其描述为模型即服务或RAG即服务。“可以将其视为一种抽象层,”他说。人们无需自己构建向量数据库,而是可以选择最适合其特定用例的API。例如,如果他们只需要进行少量微调,通常会选择较小的开源模型,如Mistral;相反,如果他们正在寻找更复杂的推理模型,则可以选择像OpenAI GPT-3这样的模型。通过这种方式,人们不会感到受限或觉得错过了公开领域中轻易可用的内容(这可能导致“影子AI”,即使用未经批准的模型)。
“安全ChatGPT”只是“一个模型之上的外壳,”Hamilton解释说,“现在他们可以在此基础上选择他们想要的模型。”
RAG即服务的实际应用
“安全ChatGPT”最强大的用例之一是处理特定于某个地区的政策相关问题。“你可以想象,在200个国家拥有不同的法规,文档可能成千上万,甚至数十万,”Hamilton指出,“这变得非常复杂。你必须准确掌握这些信息,对吗?而且它必须是一次详尽的搜索。”更不用说,当地的政策会随着时间的推移而变化,因此Visa的专家必须保持最新状态。
现在,有了基于可靠且最新数据的强大RAG,Visa的AI不仅能够快速检索答案,还能提供引文和源文件。“它会告诉你你可以做什么或不能做什么,并说,‘这是你想要的文件,我是基于这个文件给出答案的,’”Hamilton解释说,“我们已经根据构建到RAG中的知识缩小了答案范围。”通常,这个详尽的过程可能需要“数小时,甚至数天”才能得出确切结论。“现在我只需要两分钟或五分钟就能得到答案,”Hamilton说。
Visa的四层数据基础设施
这些功能得益于Visa在过去10年中对数据基础设施的大力投资。据Hamilton说,这家金融巨头在其技术栈上花费了约30亿美元。他将该技术栈描述为一个“四层生日蛋糕”:基础层是数据平台即服务层,上面是数据即服务层,再上面是AI和机器学习(ML)生态系统层,最上面是数据服务和产品层。
数据平台即服务层本质上是一个基于数据湖构建的操作系统,它聚合了“数百PB的数据”,Hamilton解释说。其上一层,数据即服务层,就像一条拥有多条车道且速度各异的数据高速公路,为数百个应用程序提供动力。第三层是AI/ML生态系统层,Visa在这里不断测试模型,以确保它们按预期运行,并且不会受到偏见和漂移的影响。最后,第四层是Visa为员工和客户构建产品的地方。
阻止400亿美元的欺诈行为
作为受信任的支付提供商,Visa的首要任务之一是欺诈预防,而AI在这里也发挥着越来越大的作用。Hamilton解释说,该公司已投资超过100亿美元来帮助减少欺诈并增强网络安全。最终,这帮助该公司在2024年单独阻止了400亿美元的欺诈交易尝试。
例如,Visa的新深度授权工具提供交易风险评分,以帮助管理无卡支付(CNP)交易(例如,当用户通过网页或移动应用程序支付时,这是我们的日常做法)。这是由基于PB级上下文数据的深度学习循环神经网络(RNN)模型提供支持的。同样,实时账户到账户的支付保护(例如,通过数字钱包或即时支付系统)是由深度学习AI模型提供的,这些模型产生即时风险评分并自动阻止恶意交易。
Hamilton解释说,Visa使用基于Transformer的模型(一种通过跟踪数据中的关系来学习上下文和意义的神经网络)来增强这些工具,并快速识别和阻止欺诈行为。“我们想在交易过程中做到这一点,”他说,“这意味着我们的响应时间少于一秒,我应该说,是毫秒级的。”
在欺诈预防中,合成数据也提供了价值。Hamilton的团队使用合成数据来增强现有数据,以对新出现的欺诈手段进行模拟。“这有助于我们了解现在正在发生什么,以及短期内和长期内可能发生什么,因此我们可以进行模拟并训练模型来捕捉这些数据,”他说。他指出,欺诈是一场军备竞赛,而且威胁行为者的进入门槛很低。“我们需要领先一步,预见并阻止他们,”Hamilton强调说。
原创文章,作者:王 浩然,如若转载,请注明出处:https://www.dian8dian.com/visa-de-ai-you-shi-rag-ji-fu-wu-yu-shen-du-xue-xi-ru-he