El rápido crecimiento de la IA Generativa, que se prevé que atraiga una inversión de 1,4 billones de dólares en 2027 y que ya ha sido adoptada por más del 70% de las organizaciones, presenta importantes retos de integración. En concreto, el 82% de los encuestados en un estudio de Flexential informaron de problemas con limitaciones de ancho de banda, conectividad poco fiable y dificultades para ampliar la capacidad y la potencia de los centros de datos. La rápida evolución de la IA y el confuso panorama de recomendaciones contradictorias complican aún más las decisiones de infraestructura.
Como gestor de un centro de datos, necesita información directa e imparcial que le ayude a navegar por las opciones de topología y cableado y a integrar eficazmente la IA en función de sus objetivos y entornos específicos.
Las dos caras de la IA en red
Para gestionar cargas de trabajo HPC como la formación Gen AI, los centros de datos en la nube y de grandes empresas deben implementar redes back-end que permitan la transmisión de datos a velocidad ultrarrápida y baja latencia dentro de los pods o clústeres de AI. Al mismo tiempo, las redes frontales tradicionales deben mantener una conectividad perfecta para las cargas de trabajo de uso general y una transferencia de datos eficiente hacia y desde las redes back-end. Este doble enfoque es esencial para acelerar las solicitudes de inferencia de IA y mejorar la experiencia general del usuario.
En las redes de back-end, las modernas arquitecturas spine-leaf facilitan el tráfico este-oeste de baja latencia entre los nodos GPU interconectados. Los conmutadores spine y leaf se conectan a 800 Gigabit (G) Ethernet, con velocidades de 1,6 Terabit (T) Ethernet en el horizonte, y los conmutadores leaf se conectan a los nodos utilizando 400G Ethernet o InfiniBand. Por su parte, las redes frontales están pasando rápidamente a Ethernet de 200 G y 400 G para los enlaces entre conmutadores y a Ethernet de 25 G, 50 G y 100 G para las conexiones entre conmutadores y servidores.
En consecuencia, los gestores de centros de datos deben seleccionar cuidadosamente la topología y el cableado adecuados para cuatro áreas de conexión de red distintas frente a tipos: conmutador a conmutador de extremo posterior, conmutador a nodo de extremo posterior, conmutador a conmutador de extremo frontal y conmutador a servidor de extremo frontal.
Selección de la topología y el cableado adecuados
Las topologías de infraestructura de red de back-end y front-end utilizan cableado punto a punto o estructurado a través de distancias variables. Los enlaces de conmutador a conmutador y de conmutador a servidor también pueden aprovechar las configuraciones de separación para optimizar la densidad de puertos y el espacio. A la hora de seleccionar la topología y el cableado adecuados, los responsables de los centros de datos deben tener en cuenta el espacio, la distribución, la flexibilidad, la escalabilidad, la alimentación, la refrigeración, la latencia y el rendimiento ante pérdidas.
Las soluciones de cableado preparadas para IA de Siemongarantizan una conectividad fluida y de alto rendimiento en redes de back-end y front-end, desde despliegues de IA en los bordes hasta clústeres de formación a gran escala. Con una completa cartera de soluciones de cableado estructurado, conexión directa y fibra de alta velocidad, Siemon proporciona la fiabilidad, escalabilidad y flexibilidad necesarias para soportar la próxima generación de cargas de trabajo de IA.
Los centros de datos impulsados por la IA exigen una planificación estratégica. SiemonLa nueva Guía de arquitecturas y aplicaciones de redes de centros de datos de IA emergente de SGS proporciona información experta que le ayudará a superar los retos que plantea la evolución de la infraestructura. Descárguela ahora para explorar estrategias probadas para una implementación perfecta de la IA.
Autor:
Gary Bernstein, RCDD, CDCD
Director Senior de Soluciones Globales de Centros de Datos, Siemon
Gary Bernstein es Director Senior de Ventas Globales de Centros de Datos en Siemon. Cuenta con más de 25 años de experiencia en el sector y amplios conocimientos en infraestructura de centros de datos, telecomunicaciones y sistemas de cableado estructurado de cobre y fibra. Gary ha ocupado puestos de ingeniería, ventas, gestión de productos, marketing y gestión corporativa a lo largo de su carrera. Gary ha sido miembro de los comités de cobre y fibra TIA TR42.7 y TR42.11 y de varios grupos de trabajo y grupos de estudio IEEE802.3, incluidos 40/100G «ba», 200/400G «bs» y 400/800G «df» y 800G/1.6T «dj». Gary ha impartido conferencias sobre cableado de centros de datos en varios eventos del sector en Norteamérica, Europa, Latinoamérica y Asia-Pacífico, como 7×24, AFCOM, BICSI, Cisco Live y Datacenter Dynamics, y ha escrito varios artículos en publicaciones especializadas del sector. Gary es licenciado en Ingeniería Mecánica por la Universidad Estatal de Arizona, RCDD por BICSI y Diseñador Certificado de Centros de Datos (CDCD) por Datacenter Dynamics.
Coautor:
Ryan Harris
Director de Ingeniería de Ventas – Conjuntos de cables de alta velocidad, Siemon
Ryan Harris es el Director de Ingeniería de Ventas de Siemon, con sede en Watertown, CT. Ryan cuenta con más de 12 años de experiencia como ingeniero de ventas orientado al cliente, ofreciendo soluciones de cableado punto a punto a fabricantes de equipos de red, usuarios finales de hiperescala, fabricantes de equipos originales e integradores de sistemas. Especializado en el despliegue de conexiones de sistemas de servidores en entornos de centros de datos y telecomunicaciones. Con un sólido conocimiento de las aplicaciones Top-of-Rack y un historial de mantenerse al día con las tecnologías emergentes, Ryan comunica los beneficios técnicos para proporcionar el mejor núcleo de clase DC y soluciones Edge. Con el objetivo de ayudar a los ingenieros de red a comprender sus opciones para desplegar sistemas a tiempo y dentro del presupuesto con atención al detalle y una fuerte ética de servicio al cliente.
Gary Bernstein
Global Data Center Cabling Solutions Specialist, Siemon
Gary Bernstein is Sr. Director of Global Data Center Sales at Siemon with more than 25 years of industry experience and extensive knowledge in data center infrastructure, telecommunications, and copper and fiber structured cabling systems. Gary has held positions in engineering, sales, product management, marketing and corporate management throughout his career. Gary has been a member of TIA TR42.7 and TR42.11 Copper and Fiber Committees and various IEEE802.3 task forces and study groups including 40/100G “ba”, 200/400G “bs” and 400/800G “df” and 800G/1.6T “dj”. Gary has spoken on Data Center Cabling at several industry events in North America, Europe, LATAM and APAC including 7x24, AFCOM, BICSI, Cisco Live, Datacenter Dynamics and has authored several articles in industry trade publications. Gary received a Bachelor of Sciences in Mechanical Engineering from Arizona State University, is an RCDD with BICSI and a Certified Data Center Designer (CDCD) with Datacenter Dynamics.
