生成式人工智能已成为许多行业的关键基础设施，医疗保健也不例外。然而，随着葛兰素史克等组织不断突破生成式人工智能所能实现的界限，它们面临着重大挑战——尤其是在可靠性方面。幻觉，即人工智能模型生成不正确或虚假的信息，是药物研发和医疗保健等高风险应用中的长期问题。对于葛兰素史克来说，应对这些挑战需要利用测试时计算扩展来改进生成式人工智能系统。以下是他们的做法。
生殖健康护理中的幻觉问题
医疗保健应用对准确性和可靠性的要求极高。错误不仅会带来不便，还可能带来改变生活的后果。这使得大型语言模型 (LLM) 中的幻觉成为 GSK 等公司面临的一个关键问题，因为这些公司将人工智能应用于科学文献审查、基因组分析和药物研发等任务。
为了缓解幻觉，GSK 采用了先进的推理时间计算策略，包括自我反思机制、多模型采样和迭代输出评估。据 GSK 人工智能和机器学习 (ML) 高级副总裁 Kim Branson 介绍，这些技术有助于确保代理“强大而可靠”，同时使科学家能够更快地产生可操作的见解。
利用测试时间计算扩展
测试时计算扩展是指在 AI 系统的推理阶段增加计算资源的能力。这允许进行更复杂的操作，例如迭代输出细化或多模型聚合，这对于减少幻觉和提高模型性能至关重要。
布兰森强调了规模化在 GSK 人工智能工作中的变革作用，并指出“我们致力于增加 GSK 的迭代周期 — 我们如何更快地思考。”通过使用自我反思和集成建模等策略，GSK 可以利用这些额外的计算周期来产生既准确又可靠的结果。
布兰森还谈到了更广泛的行业趋势，他说：“你会看到这场战争的焦点在于我能提供多少服务、每个代币的成本和每个代币的时间。这使得人们能够引入以前在技术上不可行的不同算法策略，这也将推动代理的部署和采用。”
减少幻觉的策略
GSK 已将幻觉视为医疗保健领域人工智能面临的关键挑战。该公司采用了两种主要策略，在推理过程中需要额外的计算资源。应用更彻底的处理步骤可确保在可靠性至关重要的临床或研究环境中提供每个答案之前，检查其准确性和一致性。
自我反思和迭代输出审查
一项核心技巧是自我反思，法学硕士会批评或修改自己的答案以提高质量。该模型“一步一步思考”，分析其初始输出，找出弱点并根据需要修改答案。GSK 的文献检索工具就是一个例子：它从内部存储库和法学硕士的记忆中收集数据，然后通过自我批评重新评估其发现以发现不一致之处。
这个迭代过程会产生更清晰、更详细的最终答案。布兰森强调了自我批评的价值，他说：“如果你只能做一件事，那就去做吧。”在提供结果之前完善自己的逻辑，可以让系统产生符合医疗保健严格标准的见解。
多模型采样
GSK 的第二种策略是依靠多个 LLM 或单个模型的不同配置来交叉验证输出。实际上，系统可能会在不同的温度设置下运行相同的查询以生成不同的答案，使用同一模型的微调版本专门用于特定领域，或者调用在不同数据集上训练的完全独立的模型。
比较和对比这些输出有助于确认最一致或最收敛的结论。“你可以用不同的正交方式得出相同的结论，”布兰森说。虽然这种方法需要更多的计算能力，但它可以减少幻觉并增强对最终答案的信心——这是高风险医疗环境中必不可少的好处。
推理之战
GSK 的战略依赖于能够处理更大计算负载的基础设施。在布兰森所谓的“推理战争”中，人工智能基础设施公司（如Cerebras、Groq 和 SambaNova）竞相实现硬件突破，以提高代币吞吐量、降低延迟并降低每个代币的成本。
专用芯片和架构可实现复杂的推理程序，包括大规模多模型采样和迭代自我反思。例如，Cerebras 的技术每秒可处理数千个 token，使先进技术能够在实际场景中发挥作用。“您会看到这些创新的结果直接影响我们如何在医疗保健领域有效部署生成模型，”Branson 指出。
当硬件与软件需求保持同步时，就会出现保持准确性和效率的解决方案。
挑战依然存在
即使有了这些进步，扩展计算资源仍存在障碍。较长的推理时间会减慢工作流程，尤其是当临床医生或研究人员需要迅速得到结果时。更高的计算使用率也会推高成本，需要谨慎的资源管理。尽管如此，GSK 认为这些权衡对于提高可靠性和丰富功能是必要的。
Branson 指出：“随着我们在代理生态系统中启用更多工具，系统对人们的用处会越来越大，最终计算使用率也会提高。”平衡性能、成本和系统功能使 GSK 能够保持务实而又具有前瞻性的战略。
下一步是什么？
GSK 计划继续完善其 AI 驱动的医疗保健解决方案，并将测试时间计算扩展作为首要任务。自我反思、多模型采样和强大的基础设施相结合有助于确保生成模型满足临床环境的严格要求。
这种方法也为其他组织提供了路线图，展示了如何协调准确性、效率和可扩展性。保持计算创新和复杂推理技术的领先优势不仅可以解决当前的挑战，还可以为药物发现、患者护理等领域的突破奠定基础。
原创文章，作者：王 浩然，如若转载，请注明出处：https://www.dian8dian.com/ren-gong-zhi-neng-zhong-de-huan-jue-ge-lan-su-shi-ke-ru-he
