跳至主要內容

GenAI 对数据中心基础设施有何影响?

人工智能(AI)和机器学习(ML)已经在彻底改变各行各业,并应对全球性挑战。现在,新一代人工智能正在崛起:生成式人工智能(GenAI)由深度神经网络驱动,能够释放新的能力。GenAI 将成为数字时代的加速器,改变组织运作和社会功能的方式。

企业领导者正在采用 GenAI 来获得竞争优势,公开可用的模型刺激了需求,使数据中心的格局发生了巨大变化–从超大规模数据中心到企业数据中心。随着数据中心努力实施复杂的硬件、数据收集和模型培训,一个关键问题出现了:如何确保我们的基础设施能够支持 GenAI 复杂而苛刻的工作负载?

GenAI 的力量要求重新思考数据中心

GenAI 训练需要对来自多个来源的数据进行大规模并行处理,同时进行数千次计算。基于 CPU 的普通服务器无法处理这种训练负荷。这就是图形处理器(GPU)服务器或节点的用武之地。

大型超大规模 GenAI 集群可由数千个相互连接的节点组成,这些节点的功耗最多可提高 10 倍,并通过高速、低延迟的传输进行互连。即使是企业集群,也需要多个 GPU 持续全力工作,才能训练出一个模型,而且随着用例的发展和效益的可衡量性,集群规模只会越来越大。

要支持 GenAI,数据中心基础设施必须支持

  • 更高的带宽和更低的延迟– 100G 至 800G 的速度以及后端节点之间实时(<20 ms)的东西向数据传输,前端交换速度可达 800G 和 1.6T
  • 功率和冷却能力增强– 每个机架的功率密度达到 30-100 千瓦,需要更高效的冷却方法(液体冷却)来处理更高的发热量
  • 先进的协议– 后端采用 InfiniBand,用于节点之间的高带宽、低延迟连接;前端采用以太网,用于交换、存储和管理
  • 高密度、高性能布线– 用于节点间连接、存储、管理和交换

生成式人工智能解决方案指南

探索创新的网络基础架构解决方案,帮助您为复杂的高性能计算人工智能环境轻松设计、部署和扩展后端、前端和存储网络结构。

详情请点击

我们已为人工智能做好准备

您是准备利用尖端人工智能提升服务的超级分销商或云提供商?或者您是一家追求专用模型以实现复杂任务自动化并节省运营成本的企业?Siemon 先进的数据中心解决方案是让您的基础设施为 GenAI 革命做好准备的重要基础。

从可为任何规模集群提供高性能、超低损耗传输的高密度端到端光纤系统,到用于企业级和边缘 AI 部署中点到点节点连接的全面高速互连产品线,我们的解决方案支持 InfiniBand 和以太网协议,最高可达 800G,适用于后端和前端 GenAI 网络(从服务器和交换机到存储和管理)中的任何配置。Siemon 不仅仅提供基础设施解决方案,还提供完整的数据中心服务,根据您的特定 GenAI 用例、预算、现有基础设施和未来需求,提供优化基础设施设计的专业知识。

英伟达解决方案顾问

Siemon 宣布推出使用英伟达™(NVIDIA®)加速计算的 GenAI 网络光配线解决方案。

了解更多

GenAI 基础设施的先进解决方案

高密度、超低损耗 (ULL)LightVerse® 光纤布线系统

经过验证的 ULL 多模和单模连接系统以及各种模块和适配器为高性能 800G 及以上 GenAI 部署奠定了坚实的基础。

了解更多

即插即用 ULL MTP/MPO 光纤干线和组件

多模和单模 MTP/MPO 中继器、分线组件和跳线采用紧凑型设计和 2 毫米直径的 RazorCore 电缆,可减少拥塞,改善高密度 GenAI 集群的接入和气流。

了解更多

直接连接电缆 (DAC) 和有源光缆 (AOC)

高速 SFP、QSFP 和 OSFP DAC 和 AOC 提供成熟的 AI 就绪 InfiniBand 和以太网性能,最高可达 800G,具有更大的灵活性和各种配置,可实现点对点、低延迟的 GPU 节点连接。

了解更多

支持 GenAI 从正确的经验和支持开始

Siemon 与全球人工智能和高性能计算 (HPC) 领域的领先企业合作,成功设计并部署了高速 InfiniBand 和以太网基础设施。与此同时,我们还是领先的人工智能协会的积极成员,致力于打造负责任的未来。我们将数据中心的专业知识集中到一个全球服务网络中,指导您选择和设计底层物理基础设施,确保您的数据中心为人工智能做好准备,同时为您提供持续支持,快速响应不断变化的需求,防止停机并保持最高性能。

  • Siemon 的数据中心设计服务可提供对当前基础设施的详细分析、改进指导和全面设计,以帮助您确保支持 GenAI。
  • Siemon 的数据中心合作伙伴生态系统包括专门从事互补 GenAI 解决方案和服务的数据中心合作伙伴,这些解决方案和服务结合了我们同类最佳的基础设施解决方案,以利用 GenAI 环境的真正潜力。
  • Siemon 参与了人工智能领先协会和标准的制定,对数据中心基础设施支持当前和未来 GenAI 部署所需的条件有了深刻的了解。
准备好踏上 GenAI 之旅了吗?
与 Siemon 合作,释放数据中心基础设施的全部潜能,以支持这一革命性技术的独特功能。
申请免费咨询
您是否需要帮助?
siemon logo
电子产品手册 合作伙伴访问中心 寻找分销商 寻找安装商
Siemon GPS Logo
webTRAC™ Login Ticket Request head to siemon.com