GPU
-
GPU迈向生物领域:BBB发布Bionode,打造基于实验室培育活神经元的AI计算平台
在人工智能(AI)技术的飞速发展进程中,计算硬件的革新始终是推动其前进的关键力量。长久以来,图形处理单元(GPU)作为昂贵的计算机芯片,一直由Nvidia、AMD等行业巨头主导,是…
-
Nvidia 对 AI 芯片的霸主地位可能会因此而减弱
在过去几年的人工智能淘金热中,Nvidia 一直主导着“铲子”市场(即训练模型所需的芯片)。但许多领先的人工智能开发商的策略转变为竞争对手提供了机会。 Nvidia 老板黄仁勋呼吁…
-
AMD 裁员 4%
AMD 已确认将裁员 4%,以专注于“巨大的增长机会”。 目前尚不清楚此次裁员影响了多少员工,以及哪些部门受到影响。根据AMD 的年度 10-K 文件,截至去年,AMD 拥有约 2…
-
以下是增强 AI 性能的 3 个关键 LLM 压缩策略
在当今快节奏的数字环境中,依赖人工智能的企业面临着新的挑战:运行人工智能模型的延迟、内存使用和计算能力成本。随着人工智能的快速发展,支持这些创新的模型变得越来越复杂和资源密集。虽然…
-
Simplismart 通过个性化、软件优化的推理引擎增强 AI 性能
企业全力投入 AI。他们希望自己的模型能够在生产环境中顺利运行,并尽可能提高性能,以获得高投资回报。然而,即使市场上有各种先进的模型,团队仍然在部署问题上苦苦挣扎。 去年,Ever…
-
Zyphra 的新 Zyda-2 数据集可让企业以高精度训练小型 LLM
Zyphra Technologies是一家致力于开发多模式代理系统的公司,该系统结合了下一代状态空间模型架构、长期记忆和强化学习方面的先进研究,该公司刚刚发布了 Zyda-2,这…
-
Lightmatter 获得 4 亿美元融资,AI 超大规模企业对光子数据中心充满期待
光子计算初创公司Lightmatter已筹集 4 亿美元,旨在突破现代数据中心的一个瓶颈。该公司的光学互连层可让数百个 GPU 同步工作,从而简化了昂贵而复杂的 AI 模型训练和运…
-
联邦政府太穷且太愚蠢,无法应对AI革命
不管你喜欢还是讨厌,人工智能正在世界各地的办公室里蓬勃发展。除非这些办公室里都是为美国联邦政府工作的员工。Fedscoop 的一份新报告对华盛顿能否跟上时代的步伐表示怀疑。根据其对…
-
引领人工智能的财务挑战:OpenAI 的运营成本概览
OpenAI目前面临着重大的财务挑战。例如,据报道,2023 年,为了维护其基础设施并运行其旗舰产品,OpenAI每天需要支付约 70 万美元。然而,到 2024 年,由于计算需求…
-
移动网络运营商如何利用人工智能革新电信行业
三十多年来,移动网络运营商 (MNO) 一直将研发重点放在五个关键领域:消息传递、漫游、策略、信令和清算。鉴于这些系统处理的数据量巨大,MNO 越来越注重利用人工智能 (AI)来增…