Por: Murali Gandluru / Cisco Systems
La ubicación de las cargas de trabajo de IA se ha convertido, discretamente, en uno de los mayores desafíos que enfrentan nuestros clientes en sus implementaciones. Ya no se trata solo de poner en marcha un proyecto, sino de dónde reside esa carga de trabajo. Esa decisión, por simple que sea, acaba determinando muchos aspectos: costes, seguridad, control, consumo energético y latencia.
Para comprender mejor cómo las organizaciones toman decisiones sobre dónde ejecutar sus cargas de trabajo de IA, colaboramos con Omdia para encuestar a más de 1200 líderes de infraestructura. Los resultados revelan tendencias que abarcan diversos sectores y regiones geográficas.
Por qué el 94% de los líderes de infraestructura están replanteando su estrategia de IA.
La conclusión más llamativa de la investigación fue que casi todas las organizaciones encuestadas (94%) ahora manifiestan arrepentimiento con respecto a su estrategia inicial de infraestructura de IA.
La investigación sugiere que el problema no radicaba tanto en un fallo de la tecnología de IA, sino más bien en que las decisiones iniciales se tomaban con demasiada rapidez, sin que los equipos pudieran comprender completamente los aspectos económicos, los requisitos de seguridad y la realidad de la carga de trabajo. Si bien el 96 % de las organizaciones afirmó haber adoptado ya un enfoque híbrido —que abarca la nube, los centros de datos locales y la infraestructura perimetral—, lograr la combinación adecuada está demostrando ser un desafío importante.
El verdadero error: omitir el análisis de la carga de trabajo.
Cuando les preguntamos a estos líderes de infraestructura qué harían de manera diferente, sus respuestas no se limitaron a cambiar de plataforma. En cambio, reflexionaron sobre las deficiencias estratégicas que solo reconocieron a posteriori.
- El 34% de los encuestados deseaba un análisis de costes más riguroso antes del primer despliegue.
- El 33% afirmó que habría invertido antes en su propia infraestructura.
- El 28% consideró que deberían haber presionado más para frenar el ritmo de adopción de la IA.
¿Dónde deben ubicarse las cargas de trabajo de IA: en la nube, en las instalaciones o en ambas?
Una vez que se definen con precisión los objetivos de IA, el debate sobre dónde debería ubicarse deja de ser una discusión general y se convierte en una conversación práctica sobre optimización. De hecho, el 54 % de las organizaciones citan la optimización específica de la carga de trabajo como la principal razón para adoptar una estrategia híbrida.
Por eso estamos viendo un cambio. Las organizaciones están dividiendo sus estrategias en función de las prioridades y los requisitos para una carga de trabajo determinada:
- Control local: Los modelos personalizados basados en datos propios (como algoritmos financieros o especificaciones de fabricación) se mantienen (o se trasladan) a las instalaciones de la empresa. Esto ayuda a garantizar la soberanía de los datos, una mayor seguridad y una estructura de costos predecible.
- La nube para la escalabilidad: Las funciones de IA estandarizadas y menos sensibles pueden ser más adecuadas para enfoques en la nube o híbridos cuando las organizaciones necesitan una implementación más rápida y una escalabilidad flexible.
En la práctica, esto se traduce en que más de la mitad de las organizaciones que adoptan la IA híbrida (54 %) afirman que su principal objetivo es optimizar las cargas de trabajo según sus necesidades específicas. Como lo expresó un CIO del sector manufacturero encuestado: «Todo lo que requiere una decisión en tiempo real se mantiene en las instalaciones, pero todo lo demás puede migrarse a la nube».
Ese tipo de escisión deliberada, realizada desde el principio y revisada con frecuencia, es lo que permite a los líderes evitar el arrepentimiento al que tantos otros se enfrentan ahora.
Cómo se espera que la capacidad de la red se convierta en el próximo cuello de botella de la IA
Relegar la red a un segundo plano es un obstáculo común para escalar la IA. Incluso cuando las organizaciones aumentan la capacidad de sus servidores para la IA, la red se está convirtiendo en un cuello de botella aún más inmediato. Esta es una preocupación creciente para los responsables de infraestructura, ya que el 67 % de los encuestados prevé que su red alcanzará sus límites debido al enorme volumen de tráfico de IA en los próximos 12 meses.
Para los profesionales y los responsables de operaciones de datos, creemos que esto puede ser un punto crítico de fallo. Si su red pierde paquetes, sus costosas GPU permanecen inactivas a la espera de datos. Las GPU inactivas implican retrasos en los tiempos de finalización de tareas (JCT) y una inversión desperdiciada.
A medida que avanzamos hacia la IA distribuida y la computación perimetral, el problema de la coordinación se multiplica. Las decisiones sobre la ubicación de las cargas de trabajo solo resultan rentables si la infraestructura subyacente (computación, red y seguridad) escala como un sistema integrado, con una observabilidad unificada y un modelo operativo coherente que, en conjunto, impulsa el rendimiento.
Tratar la infraestructura de IA como una estrategia continua, no como una apuesta única.
Si actualmente estás evaluando tu estrategia de IA, aquí tienes mi consejo:
- Audite la ubicación de sus cargas de trabajo: Optimice las cargas de trabajo de IA por caso de uso, equilibrando el costo total, el control, el rendimiento y la velocidad para implementarlas en entornos de nube, locales y de borde.
- Considera la capacidad de la red como un requisito previo: No esperes a que tu red alcance su límite antes de planificar su escalabilidad. Es la base del rendimiento de tu IA.
- Diseñe su estrategia como un sistema: Sus estrategias para centros de datos y computación perimetral deben avanzar al unísono, no de forma secuencial.
La apuesta por la infraestructura de IA no es una decisión que se tome una sola vez. Para acertar, es necesario tratar la asignación de cargas de trabajo como un proceso continuo y deliberado, revisando la estrategia a medida que las cargas de trabajo maduran.
Consulte todos los datos que respaldan este cambio en la estrategia de infraestructura de IA.
Descargue el informe completo de investigación de Omdia para ver exactamente lo que 1201 responsables de la toma de decisiones de TI revelaron sobre sus arrepentimientos respecto a la infraestructura de IA, la ubicación de las cargas de trabajo y las decisiones que volverían a tomar. Y para obtener más información sobre cómo Cisco ofrece una arquitectura unificada para entornos de redes de centros de datos, explore Cisco Nexus One.
