¿Puede la computación en el borde hacer que la IA sea más sostenible?

Comprender la ventaja de la IA en el borde en materia de sostenibilidad

La IA en el borde ofrece una serie de ventajas potenciales en materia de sostenibilidad, entre las que se incluyen las siguientes:

La reducción del consumo energético en la transmisión de datos

El envío de datos sin procesar a un centro de datos en la nube centralizado consume energía en cada salto de red. Las arquitecturas en el borde reducen esa carga, ya que procesan localmente y envían solo eventos, excepciones o resúmenes hacia arriba, en lugar de flujos continuos de datos sin procesar.

En aplicaciones como el monitoreo industrial o la videovigilancia, donde los dispositivos generan continuamente grandes volúmenes de datos, la reducción del consumo energético también puede disminuir los costos de energía de la red y los requisitos de computación en la nube.

La eficiencia del procesamiento localizado

La infraestructura de GPU en la nube suele estar optimizada para el entrenamiento a gran escala. Aplicarla a tareas de inferencia repetitivas y específicas implica operarla a una fracción de su capacidad diseñada, sin dejar de asumir el costo total de los gastos generales. Por el contrario, el hardware de borde está diseñado para la inferencia de bajo consumo.

"Si se implementa hardware con exceso de potencia en cada sitio, se ejecutan modelos de manera continua, se infrautiliza el equipo y no se toma en cuenta el ciclo de vida del hardware, el panorama energético se deteriora rápidamente", afirmó James Sheridan, director ejecutivo de Sheridan Technologies, empresa que diseña y fabrica sistemas integrados y productos con inteligencia artificial.

Menores costos de refrigeración e infraestructura

La refrigeración es uno de los mayores consumos de energía en los centros de datos de IA. Según el análisis de abril de 2026 de la International Energy Agency, la refrigeración representa hasta el 30 % del consumo energético de los centros de datos.

Las mayores densidades de GPU generan más calor por rack, lo que obliga a las instalaciones a contar con una infraestructura de refrigeración más intensiva. Los dispositivos de borde no requieren ni sistemas de refrigeración activa ni infraestructura de refrigeración por agua.

¿Cuándo tiene sentido la IA en el borde?

La IA en el borde no es una solución universal para todas las implementaciones de IA, pero sí tiene sentido en situaciones específicas. "Yo comenzaría por la carga de trabajo, no por la preferencia de arquitectura", señaló Sheridan.

Dónde funciona mejor la computación en el borde

El borde ofrece un buen desempeño para aplicaciones que dependen de la latencia y deben estar siempre disponibles, en entornos con conectividad limitada o sensibles a los datos, donde la transmisión a la nube genera riesgos de cumplimiento normativo. El control de calidad en la manufactura, los sistemas autónomos y los diagnósticos en el punto de atención son ejemplos comunes.

Para la inferencia continua de gran volumen, los costos iniciales de hardware suelen compensarse con un menor gasto continuo en la nube, transmisión y energía. Sin embargo, no todas las organizaciones tienen la opción de utilizar la nube.

"La pregunta no debería ser: '¿Es el borde mejor que la nube?'. La pregunta debería ser: '¿En qué entorno necesita realmente sobrevivir este sistema?'", afirmó Tyler Saltsman, director ejecutivo de EdgeRunner AI, quien trabaja en implementaciones de infraestructura de defensa y de misión crítica.

A pesar de esas ventajas, las implementaciones en el borde también presentan inconvenientes. La IA en el borde se ejecuta en unidades de procesamiento neuronal (NPU), chips diseñados específicamente para este fin, que carecen de un estándar dominante en el mercado, lo que a menudo requiere rediseñar los modelos para cada variante de chip.

"El ecosistema de las NPU está muy fragmentado en este momento; los modelos deben ajustarse manualmente para cada variante de chip, lo que anula el argumento del retorno de inversión para la mayoría de los departamentos de TI que no cuentan con equipos especializados de ingeniería de ML [aprendizaje automático]", señaló David Viney, CIO de Alchemy Consulting y consultor de gobernanza de IA que trabaja con diversas organizaciones empresariales.

Empresas como Rentokil y la división ferroviaria de General Electric han logrado que funcione, señaló Viney. Ambas construyeron una infraestructura de IoT años antes de que se acelerara la adopción de la IA y cuentan con la experiencia en ingeniería necesaria para gestionar actualizaciones de modelos, la aplicación de parches, el monitoreo de desviaciones y el reemplazo de hardware a gran escala.

Dónde funciona mejor la nube

La nube funciona mejor para el entrenamiento de modelos a gran escala y las cargas de trabajo generales de IA que requieren una capacidad computacional significativa. Las aplicaciones con actualizaciones frecuentes de modelos y las situaciones que requieren una agregación centralizada de datos siguen siendo más adecuadas para la infraestructura en la nube.

También existe un contraargumento de sostenibilidad respecto a la computación en el borde que los líderes de TI deberían considerar.

"Los proveedores de IA en la nube ya están lidiando con el consumo de energía, la refrigeración, la utilización y la eficiencia de la infraestructura a gran escala", señaló Sheridan. "Si la infraestructura de ellos está mucho más optimizada que la propia, trasladar la carga de trabajo a nivel local no mejora automáticamente el retorno de la inversión ni la sostenibilidad".

Métricas de sostenibilidad para la IA en el borde

Los líderes de TI que desarrollen o evalúen programas de IA en el borde deben dar seguimiento a las siguientes métricas como parte de cualquier estrategia de IA ecológica:

• Eficiencia en el uso de energía. El PUE es la relación entre el consumo total de energía de las instalaciones y el uso de energía de los equipos de TI. Es útil para comparar el desempeño de la infraestructura centralizada, pero tiene una aplicabilidad directa limitada a las implementaciones en el borde, donde no hay gastos generales de las instalaciones que medir. La comparación relevante para el borde es la energía consumida por tarea de inferencia, no la eficiencia a nivel de las instalaciones.
• Consumo de energía por inferencia. Esta es una métrica más eficaz para el borde que el PUE. Mide los joules o vatios-hora por transacción de IA, tanto en opciones de borde como en la nube para la misma carga de trabajo. Un sitio que ejecute inferencia en el borde sobre una carga de trabajo que antes se gestionaba en la nube puede ofrecer una comparación directa del antes y el después.
• Huella de carbono por carga de trabajo de IA. Emisiones totales de gases de efecto invernadero atribuibles a un flujo de trabajo de IA definido, incluyendo la fuente de electricidad, la eficiencia del hardware y la energía de transmisión de la red.
• Costo total de propiedad, incluida la energía. Esto incluye la adquisición de hardware, los gastos operativos, los costos de energía y la gestión de modelos a lo largo de todo el ciclo de vida del despliegue.
• Cumplimiento normativo e informes ESG, incluidas las emisiones de Scope 1, 2 y 3. El Scope 1 abarca las emisiones directas de fuentes propias o controladas. El Scope 2 abarca la electricidad comprada. El Scope 3 se extiende a las emisiones de la cadena de suministro, incluyendo la infraestructura de los proveedores de nube, la fabricación de hardware y los ciclos de reemplazo de dispositivos. En EE. UU., la norma de divulgación climática de la Comisión de Valores y Bolsa (SEC) exige a las empresas de capital abierto que informen sobre las emisiones de Scope 1 y 2. En la UE, la Directiva sobre Informes de Sostenibilidad Corporativa (CSRD) y la Ley de IA establecen requisitos adicionales de reporte energético para los sistemas de IA.

El futuro de la computación en el borde, la IA y la sostenibilidad

Dos avances están transformando la infraestructura de IA en el borde.

El primero son los modelos de lenguaje pequeños (SLM). Los SLM son modelos compactos de IA específicos para tareas, diseñados para ejecutarse en hardware de bajo consumo y, como tales, son muy adecuados para casos de uso de IA en el borde.

La segunda tendencia importante es la IA agéntica, que está generando una nueva demanda de computación e inferencia locales persistentes.

El modelo más lógico es aquel que deriva el trabajo rutinario al hardware local y reserva la capacidad de la nube para las tareas que realmente la necesitan, señaló Sheridan. Los SLM han mejorado lo suficiente como para que esa división sea práctica.

"Más sistemas utilizarán un patrón híbrido: modelos locales pequeños para tareas rápidas, privadas, repetitivas o impulsadas por eventos, y modelos en la nube más grandes solo cuando se requiera un razonamiento más profundo o un contexto más amplio", señaló Sheridan.

La IA agéntica es donde el argumento de la eficiencia se vuelve más complicado. Los agentes que se ejecutan de manera continua e invocan modelos en cada ciclo pueden consumir tanta capacidad de cómputo en el hardware local como lo harían en la nube.

"El beneficio de la sostenibilidad depende de la disciplina: utilizar modelos más pequeños, ejecutarlos solo cuando sea necesario, almacenar los resultados en caché, escalar de manera selectiva y medir la carga de trabajo real", señaló Sheridan.

El cambio hacia la IA agéntica orientará la inversión en infraestructura hacia entornos de colocalización distribuidos más cercanos a los sistemas empresariales existentes, en lugar de ampliar la capacidad a hiperescala, afirmó Viney. En su opinión, ese modelo es intrínsecamente más eficiente que dirigir todo hacia una gran instalación centralizada.

Los requisitos de cumplimiento están convirtiendo el seguimiento del consumo energético a nivel de carga de trabajo en una necesidad empresarial. La CSRD y la Ley de IA de la UE exigen la divulgación de datos sobre energía y carbono para los sistemas de IA. En EE. UU., las normas de divulgación climática de la SEC exigen que las empresas públicas informen sobre las emisiones de Scope 1 y 2.

Esas presiones podrían cambiar la pregunta que las organizaciones se plantean sobre la IA, señaló Sheridan, pasando de "¿Podemos usar la IA aquí?" a "¿Qué modelo, ejecutándose dónde, a qué costo, con qué perfil energético y qué valor comercial?".

Viney prevé que se avecina ese mismo cambio y es muy directo al referirse a la situación actual de la mayoría de las organizaciones. "Las organizaciones que ya están realizando un seguimiento de las emisiones de carbono por carga de trabajo tendrán una ventaja inicial en materia de cumplimiento. La mayoría no lo está haciendo", señaló.

Sean Michael Kerner es consultor de TI, entusiasta de la tecnología y aficionado a los aparatos. Ha instalado redes Token Ring, configurado NetWare y es conocido por compilar su propio kernel de Linux. Asesora a organizaciones de la industria y de los medios de comunicación sobre temas tecnológicos.