Comunidad de CIOs Revista Byte TI | Noticias tecnología

Únete a la Comunidad de Directivos de Tecnología, Ciberseguridad e Innovación Byte TI

Encontrarás un espacio diseñado para líderes como tú, donde podrás explorar tecnologías emergentes, compartir estrategias y colaborar en soluciones de vanguardia

ASUS impulsa la IA Generativa: NVIDIA Blackwell

ASUS impulsa la IA Generativa con innovadoras soluciones NVIDIA Blackwell

Con casi 30 años de experiencia en el sector de servidores, ASUS ha revolucionado la IA Generativa con sus soluciones basadas en NVIDIA Blackwell, diseñada para aplicaciones avanzadas, marcando una nueva era de rendimiento para los centros de datos. Uno de los productos destacados es el ASUS ESC AI POD, una solución de rack innovadora equipada con el sistema NVIDIA GB200 NVL72, que integra 36 CPUs NVIDIA Grace y 72 GPUs NVIDIA Blackwell. Todo esto en un solo dominio NVIDIA NVLink a escala de rack, funcionando como una GPU masiva.

El ESC AI POD ofrece opciones de refrigeración combinadas líquido-aire y líquido-líquido, optimizadas para una eficiencia energética máxima, desde racks individuales hasta grandes centros de datos. Esta solución está diseñada para acelerar la inferencia de grandes modelos de lenguaje (LLM), proporcionando un rendimiento en tiempo real para aplicaciones que requieren enormes recursos computacionales, como los modelos de lenguaje con billones de parámetros.

Otro lanzamiento importante es el ASUS ESC NM2-E1, un servidor 2U basado en la plataforma NVIDIA GB200 NVL2. Está diseñado para IA generativa y computación de alto rendimiento (HPC). Este equipo ofrece una comunicación de alto ancho de banda, optimizado para toda la pila de software NVIDIA, proporcionando una plataforma poderosa para desarrolladores e investigadores que buscan nuevas formas de impulsar la innovación en IA.

Mejora del rendimiento de IA con la arquitectura NVIDIA MGX y GPUs NVIDIA H200 Tensor Core

La compañía también presentó su servidor ASUS 8000A-E13P, un modelo 4U que admite hasta ocho GPUs NVIDIA H200 Tensor Core. Este servidor, completamente compatible con la arquitectura NVIDIA MGX, está diseñado para implementaciones rápidas en infraestructuras de IA a gran escala.

Con una configuración que incluye la topología NVIDIA 2-8-5 (CPU-GPU-DPU/NIC) y cuatro SuperNIC ConnectX-7 o BlueField-3 de gran ancho de banda, mejora significativamente el tráfico de datos entre nodos (tráfico este-oeste) así como el rendimiento general del sistema.

Sesión destacada en la Cumbre Global OCP 2024: Arquitectura modular para centros de datos

La sesión especial de ASUS en la Cumbre Global OCP 2024, celebrada el 16 de octubre, tuvo una notable repercusión. Durante esta charla, ASUS presentó el Sistema de Hardware Modular para Centros de Datos (DC-MHS) desarrollado por OCP, que emplea la arquitectura modular de NVIDIA MGX.

Además, se exploró cómo esta arquitectura está revolucionando el diseño de servidores, brindando flexibilidad, con un mantenimiento simplificado y una escalabilidad eficiente, características clave para los centros de datos modernos.

Deja un comentario

Scroll al inicio