El verdadero cuello de botella de la infraestructura de IA: la transferencia de datos, no la potencia de cálculo de la GPU.

Cuando la GPU espera datos, la inversión en cómputo se está desperdiciando

En los últimos 18 meses, las empresas han adquirido GPU de forma frenética, entrenado modelos grandes y desplegado herramientas de IA. Sin embargo, al pasar de la experimentación a la producción, la presión sobre el ROI se ha disparado. El informe de IDC de 2025 señala que las organizaciones están pasando de implementaciones únicas de IA a arquitecturas de producción repetibles y escalables, donde el rendimiento, la seguridad, la fiabilidad y la consistencia operativa son tan importantes como la innovación en modelos.

Pero muchas empresas descubren que la causa raíz del bajo rendimiento de los proyectos de IA no es la falta de potencia de cómputo, sino la ineficiencia en la transferencia de datos. Las costosas GPU se quedan inactivas mientras esperan datos, con un coste por segundo de inactividad que alcanza varios dólares. El análisis de interrupciones de 2025 de Uptime Institute muestra que más de la mitad de las empresas sufren cortes que cuestan más de 100 000 dólares, y una quinta parte supera el millón de dólares, y las interrupciones suelen originarse por la congestión en las rutas de datos.

El modelo del iceberg: el 90% de la infraestructura ignorada

Nirav Shah, vicepresidente sénior de marketing de productos de F5, describe la infraestructura de IA con el modelo del iceberg: sobre la superficie están los LLM, las aplicaciones de IA, los marcos de orquestación y los costosos clústeres de GPU —ese 10% que recibe la mayor parte de la inversión—; bajo el agua están el almacenamiento, la red, la gestión del tráfico, los controles de seguridad y los sistemas encargados de la transferencia de datos —ese 90% que determina si la inversión genera valor real.

Los sistemas de IA modernos dependen de grandes volúmenes de datos no estructurados almacenados en almacenamiento de objetos compatible con S3. Las cargas de trabajo de entrenamiento, ajuste fino, RAG e inferencia requieren un flujo continuo de datos entre el almacenamiento y el entorno de GPU. Cuando las tuberías se limitan, la utilización de las GPU cae en picado. Shah señala: «Los síntomas parecen de cómputo, pero la raíz suele ser la inanición de datos».

A diferencia de las aplicaciones empresariales tradicionales, las cargas de trabajo de IA amplifican cualquier debilidad menor de la infraestructura. Un pico de latencia, un bloqueo de rendimiento o un aumento de tráfico que pasaría desapercibido en un entorno convencional tiene un impacto desproporcionado en los escenarios de IA.

Del acoplamiento estrecho al acoplamiento flexible: el cambio arquitectónico impulsa la flexibilidad

El cuello de botella actual se origina en decisiones arquitectónicas previas a la IA. Históricamente, las empresas conectaban las aplicaciones directamente al entorno de almacenamiento, de forma simple y eficiente. Pero a escala de IA, esa simplicidad se convierte en una carga. El sistema de almacenamiento se ve forzado a gestionar tareas que no le corresponden: terminar conexiones cifradas, gestionar el tráfico de red, aplicar políticas de seguridad y manejar una gran cantidad de solicitudes de IA distribuidas. Cada transacción cifrada consume CPU, cada conexión genera gastos generales, y cada pico de tráfico ejerce presión adicional sobre el almacenamiento.

La solución es pasar a una arquitectura de acoplamiento flexible: insertar un controlador de entrega de aplicaciones (ADC) entre el cómputo y el almacenamiento, que actúe como plano de control inteligente. El ADC se convierte en la puerta de entrada al almacenamiento, encargándose de la terminación TLS, la gestión de certificados, la optimización del tráfico, la aplicación de políticas y el procesamiento de S3 con conocimiento del protocolo. Al trasladar las funciones de red y cifrado a una infraestructura especializada, el sistema de almacenamiento puede centrarse en servir datos. Además, la actualización, ampliación o migración del entorno de almacenamiento no obliga a realizar cambios en las aplicaciones, lo que aporta flexibilidad operativa.

La capa intermedia ya no es solo un «salto extra»: el ADC mejora el rendimiento, no lo reduce

Antes, los equipos de infraestructura desconfiaban de cualquier capa adicional en la ruta de datos, pensando que cada componente añadía latencia.El equipo de infraestructura solía ser escéptico ante cualquier capa adicional en la ruta de datos, pensando que cada componente agregaba latencia. La infraestructura de IA está desafiando esta suposición. Las pruebas independientes de SecureIQLab evaluaron el impacto de colocar un ADC frente al almacenamiento de objetos empresariales, y los resultados mostraron una pérdida de rendimiento insignificante; en condiciones de red reales, el rendimiento del tráfico gestionado por la capa de control suele ser mejor. La razón es que el ADC no solo transmite tráfico, sino que optimiza conexiones, gestiona protocolos, descarga el procesamiento de cifrado, guía inteligentemente las solicitudes y ayuda a que la ruta de datos funcione de manera más eficiente.

Caso práctico: Optimización de la entrega de datos genera 5 veces más rendimiento

Una gran institución de servicios financieros globales se preparaba para expandir su infraestructura de IA, utilizando cargas de trabajo de Kubernetes y almacenamiento de objetos S3. El entorno original dependía de un balanceador de carga virtual compartido, que presentaba problemas de rendimiento y fiabilidad al aumentar el volumen de datos. En lugar de aumentar la capacidad de cómputo, la institución se centró en el límite entre almacenamiento y cómputo: implementó una infraestructura ADC física dedicada frente al almacenamiento de objetos, creando un punto de control centralizado para la gestión del tráfico y la optimización de S3. Resultado: el rendimiento de las operaciones de creación, lectura y eliminación de objetos mejoró al menos 5 veces, la latencia de eliminación mejoró en más de un orden de magnitud, sin regresiones de rendimiento.

Las tres dimensiones de la resiliencia: Accesibilidad, política y entrega

Mark Menger, arquitecto de soluciones de F5, propone tres dimensiones para evaluar la arquitectura de entrega de datos de IA:

• Accesibilidad: Garantizar que las cargas de trabajo de IA siempre puedan acceder a recursos de almacenamiento saludables. Cuando un clúster de almacenamiento se degrada o no está disponible, el tráfico se redirige automáticamente sin interrumpir las aplicaciones de IA.
• Política: Prevenir interrupciones autoinducidas. Las cargas de trabajo de IA pueden generar tráfico anómalo como efectos de "manada", tormentas de reintentos, etc. Una capa de control inteligente puede dar forma al tráfico, aplicar políticas y mantener una postura de seguridad consistente sin sacrificar el rendimiento.
• Entrega: Enfocarse en la continuidad. Fallos de nodos de almacenamiento, actualizaciones de hardware, parches de software: una arquitectura resiliente aísla a los clientes de IA de estos cambios, asegurando que el flujo de datos no se interrumpa incluso cuando la infraestructura subyacente varía.

Juntos, los tres aseguran que las GPU se mantengan eficientes bajo presión del entorno subyacente.

Evolución de ADC a ADSP: Plataforma unificada de entrega y seguridad

A medida que los entornos de IA se vuelven más grandes y distribuidos, la mera gestión del tráfico ya no es suficiente. Las organizaciones necesitan observabilidad, seguridad, aplicación de políticas y consistencia operativa. Esto impulsa el interés en las plataformas de entrega y seguridad de aplicaciones (ADSP), que combinan entrega de aplicaciones, ingeniería de tráfico, controles de seguridad y visibilidad.

"La IA rompe el modelo de tratar la entrega y la seguridad como problemas independientes", dice Shah. "Cuando los datos se mueven continuamente entre almacenamiento, cómputo y aplicaciones en entornos híbridos multicloud, necesitas una plataforma unificada que entregue y proteja el tráfico simultáneamente". Esto es similar a la evolución de la infraestructura web hace 20 años: desde simples balanceadores de carga hasta controladores de entrega de aplicaciones complejos.

CloudTechDaily InsightEl cuello de botella de la infraestructura de IA se está desplazando de la computación a la transferencia de datos. Si las empresas se centran solo en la adquisición de GPU e ignoran la eficiencia del canal de almacenamiento a computación, se enfrentarán a graves desperdicios de inversión y rendimiento poco fiable. La arquitectura débilmente acoplada y la capa de control inteligente (como ADC/ADSP) no solo pueden mejorar la utilización de GPU, sino también reducir la complejidad operativa y mejorar la resiliencia. Para los CIO y arquitectos de nube, la capa de transferencia de datos debe convertirse en un componente central de la estrategia de infraestructura de IA. En el futuro, con el crecimiento de la demanda de inferencia y IA en el borde, la optimización de la ruta de datos determinará el éxito o fracaso de las implementaciones de IA. Las empresas deben reevaluar la arquitectura actual: ¿han separado las funciones de red, seguridad y gestión de tráfico del almacenamiento? ¿Han introducido un plano de control de entrega unificado? Las respuestas afectarán directamente el ROI y la escalabilidad de los proyectos de IA.