Dell Technologies y AMD crearán un nuevo ecosistema de IA generativa
Dell Technologies usará los Aceleradores AMD Instinct para llevar al límite las capacidades de la IA generativa. Checa las novedades que se avecinan.
Dell Technologies y AMD suman fuerzas con el objetivo de expandir su portafolio enfocado en IA generativa. La finalidad es ofrecer un mayor número de alternativas a sus socios comerciales.
¿Cómo? A través del Dell PowerEdge XE9680, la solución más rápida creada por la compañía, el cual admitirá el próximo acelerador AMD Instinct MI300X. ¿Qué beneficios traerá esto a los usuarios? Te lo contamos a continuación.
Pero antes, si estás en busca de comprar o mejorar tu paquete de internet para navegar a una supervelocidad, aquí te dejamos las ofertas del mes:
Dell PowerEdge XE9680 y AMD Instinct MI300X: por un mayor aprovechamiento
La alianza entre ambos corporativos beneficiará a los consumidores con un amplio catálogo de opciones de IA dotadas con un rendimiento superior.
Imagen de Colin Behrens en Pixabay
Para ello, jugarán un papel muy importante los ecosistemas abiertos y diversidad de silicio, con los cuales se capacitará a los clientes en soluciones simples, confiables y personalizadas, que manejarán la IA a sus datos.
"La Inteligencia Artificial Generativa (GenAI) es el acelerador más prometedor de la década para la innovación. La mayoría ve GenAI como un medio para obtener ganancias de productividad, optimizar procesos y lograr ahorros de costos. Aprovechar esta tecnología es crucial para garantizar que las organizaciones puedan competir en esta nueva era digital", menciona Raymundo Peixoto, Vicepresidente Senior de Soluciones de Infraestructura de Dell Technologies en América Latina.
Con esto en mente, el trabajo conjunto del PowerEdge XE9680 con AMD Instinct MI300X ayudará a las personas a desbloquear el valor de sus datos y a implementar modelos de lenguaje grandes personalizados (LLMs).
Así, las empresas dispondrán de GPUs MI300X, 192 GB de memoria de alta velocidad de 5,3 TB/s (HBM3) por GPU, equivalentes a una capacidad total HBM3 de 1,5 TB por servidor, y más de 600 TFLOPS 21 petaflops cuyo pico será de FP32FP16.
Foto de Kevin Ku en Unsplash
Uno de los objetivos principales de dicho proyecto es beneficiar la democratización de la inteligencia artificial para quienes desean entrenar modelos más grandes, reducir la huella del centro de datos, disminuir el TCO y gozar de una ventaja competitiva.
“La selección de la infraestructura TI es la base para implementar proyectos de IA que puedan ser escalables, garantizar la conectividad entre aplicaciones y un consumo energético razonable. Contamos con el portafolio de infraestructura más amplio del mundo, pero el desafío para el cliente comienza mucho antes, al definir los casos de uso. Por eso, Dell también se diferencia en el mercado por contar con un equipo de consultoría con una visión holística, capaz de mapear con el cliente su madurez en el viaje de transformación digital y diseñar casos de uso, con acceso a un ecosistema completo y robusto en IA”, concluye Peixoto.
Vale la pena mencionar que PowerEdge XE9680 y MI300X aprovecharán la plataforma Infinity de AMD potenciada por ocho aceleradores, lo que derivará en una escalabilidad casi lineal y un entrenamiento de baja latencia con Interconexión Global de Memoria (xGMI).
De tal manera, se contemplará un clúster de servidores PowerEdge interconectando GPUs MI300X a través de una malla de inteligencia artificial basada en Ethernet con una malla de GPU validada por Dell con el Dell PowerSwitch Z9664F-ON.
El futuro de la IA Generativa en Dell
A todo lo ya señalado es necesario agregar que Dell Technologies también está trabajando para facilitar todavía más la implementación de GenAI confiable a través del nuevo Diseño Validado de Dell enfocado en IA Generativa con AMD. ROC.
Se trata de un conjunto de controladores de diálogo abierto, kits de herramientas de desarrollo y APIs para aceleradores AMD Instinct.
Además, se sumarán LLMs de código abierto, lo cual hará más sencilla la estructuración de plataformas GenAI confiables y adaptadas a las exigencias de los consumidores, al mismo tiempo que asegura una integración, rendimiento y dimensionamiento óptimos.
Imagen vía Freepik
En cuanto al software Dell Open Manage Enterprise, simplificará y acelerará la implementación de infraestructura generativa, en tanto que CloudIQ proporcionará automatización inteligente desde donde se requiera.
Es así como Dell Technologíes reafirma su compromiso con el Consorcio de Ethernet Ultra (UEC) y continúa abogando por una red de altos estándares.
El Dell PowerEdge XE9680 con Aceleradores AMD Instinct MI300X y el Diseño Validado de Dell para IA Generativa con AMD estarán disponibles en la primera mitad de 2024.
