Comunidad de Byte TI

Únete a la Comunidad de Directivos de Tecnología, Ciberseguridad e Innovación Byte TI

Encontrarás un espacio diseñado para líderes como tú.

Digital Realty ServiceFabric inferencia en IA

Digital Realty y Blackfuel colaboran para ofrecer una plataforma de inferencia de IA en ServiceFabric 

Digital Realty ha anunciado que Blackfuel ha elegido el centro de datos BCN1 de Digital Realty en Barcelona como base para desplegar y escalar su plataforma de inferencia de IA. Desarrollado con infraestructura AI Factory de Dell Technologies con refrigeración líquida y GPUs de AMD, el despliegue reúne una importante capacidad dedicada para IA, el ecosistema global PlatformDIGITAL de Digital Realty y ServiceFabric, la plataforma de interconexión definida por software de la compañía.  

Diseñada de forma abierta, la plataforma de Digital Realty admite una amplia variedad de infraestructuras de IA y arquitecturas de aceleración en su ecosistema global, proporcionando a los clientes la flexibilidad necesaria para desplegar la IA donde y como mejor se adapte a sus cargas de trabajo. 

El núcleo de la colaboración es la integración de la plataforma de inferencia de Blackfuel con ServiceFabric, lo que permitirá ofrecer servicios de IA a través del ecosistema conectado de Digital Realty, más cerca de las aplicaciones empresariales, los datos y los usuarios a los que están destinados. 

Red de baja fluctuación y latencia 

En lugar de obligar a las organizaciones a mover grandes volúmenes de datos a través de entornos públicos para acceder a capacidades de IA, la solución acerca la inferencia al lugar donde ya residen los datos. Gracias a una conectividad privada, ServiceFabric proporciona baja latencia y una red de baja fluctuación (jitter), que puede reducir el Time-to-First-Token (TTFT), mejorar los tiempos de respuesta y acelerar la ejecución de flujos de trabajo de IA agéntica. Al mismo tiempo, ofrece a las empresas un mayor control sobre la seguridad y el flujo de datos.  

Para los flujos de trabajo agénticos que requieren entre 20 y 50 llamadas secuenciales a APIs de inferencia, una reducción de 50 milisegundos en el TTFT gracias a la latencia optimizada de ServiceFabric puede acortar el tiempo total de finalización de las tareas entre 1 y 2,5 segundos en comparación con la conectividad a través de internet pública. En una escala de millones de tareas diarias, estas mejoras pueden traducirse en importantes ganancias de eficiencia, demostrando la relevancia de una conectividad de baja latencia junto con el rendimiento de inferencia. 

Al conectarse directamente a ServiceFabric, Blackfuel puede acceder a empresas, proveedores cloud, redes y ecosistemas digitales de toda la plataforma global de Digital Realty, creando una vía escalable para que los clientes consuman servicios de inferencia de IA de alto rendimiento dentro de los entornos donde ya desarrollan sus operaciones digitales. 

“La próxima capa de infraestructura se construirá en torno a los tokens. Junto con Digital Realty y ServiceFabric, estamos creando los cimientos de la AI Token Grid de Blackfuel: capacidad dedicada de inferencia con alcance global y control local, conectada a los lugares donde residen los datos y las aplicaciones empresariales. Barcelona es nuestro primer paso hacia algo mucho mayor: poner una capacidad de IA fiable a disposición de las empresas allí donde la necesiten”, afirmó Blackfuel.  

Servicio de IA accesible 

En la actualidad, ServiceFabric se extiende a más de 800 centros de datos de Digital Realty y de terceros en todo el mundo, proporcionando a Blackfuel una infraestructura global de conectividad desde la que podrá escalar sus servicios de IA más allá de Barcelona y facilitar el acceso a conjuntos de datos empresariales distribuidos, herramientas y aplicaciones. Esto contribuye a transformar la IA de un servicio accesible a través de internet en una plataforma de nivel empresarial, mejorando la capacidad de respuesta, la gobernanza y la escalabilidad de su adopción en casos de uso críticos para el negocio. 

“La próxima fase de la IA se medirá en tokens útiles por megavatio, y ofrecerlos requiere mucho más que capacidad de cómputo. Requiere energía, refrigeración y conectividad funcionando conjuntamente como una única plataforma”, señaló Chris Sharp, Chief Technology Officer de Digital Realty. “Al incorporar la plataforma de inferencia de Blackfuel a ServiceFabric, las empresas pueden acceder a servicios de IA de alto rendimiento dentro del mismo ecosistema conectado donde ya residen sus aplicaciones y sus datos. Barcelona es la primera demostración de este modelo, y estamos encantados de ayudar a Blackfuel a ampliar su alcance a partir de aquí”. 

Deja un comentario

Scroll al inicio