Getty Images

Inteligencia artificial, fundamental en la estrategia y las soluciones empresariales

Durante el más reciente Red Hat Summit, la compañía de código abierto reveló las últimas innovaciones que tienen en la IA un componente esencial.

La inteligencia artificial (IA) sigue siendo la protagonista en los diferentes eventos en los que la industria tecnológica presenta sus últimas innovaciones y propuestas de mercado. En esa línea, el Red Hat Summit, que se desarrolla en Boston del 19 al 22 de mayo, tiene en la IA un componente preponderante si se tiene en cuenta que la mayoría de sus anuncios tienen como base esta tecnología que llegó para revolucionarlo todo y a todos.

Teniendo en cuenta que, en las distintas industrias, la IA generativa sigue jugando un papel fundamental en la transformación de la manera como las compañías están gestionando sus operaciones, tomando decisiones y ofreciendo nuevas soluciones, Red Hat presentó la IA generativa para cualquier modelo y acelerador en la nube híbrida a través de Red Hat AI Inference Server, considerado como un paso adelante hacia la democratización de la IA generativa (IAGen) en la nube híbrida.

Se trata de un servidor de inferencia de nivel empresarial, con soporte y listo para producción, diseñado para cargas de trabajo de IA genéricas. Esta solución está basada en el proyecto comunitario vLLM y es posible gracias a la integración de las tecnologías de Neural Magic –que ofrece una solución de inferencia potente, eficiente y de alto rendimiento para cualquier modelo–, un acelerador de inteligencia artificial y la nube.

¿Qué es vLLM?

Red Hat AI Inference Server se basa en el proyecto vLLM, iniciado por UC Berkeley a mediados de 2023, que consiste en una librería rápida y fácil de usar para inferencia y servicio de LLM. Este proyecto comunitario ofrece una inferencia de IA generativa de alto rendimiento, admite contextos de entrada de gran tamaño, aceleración de modelos de múltiples GPU y compatibilidad con el procesamiento continuo por lotes, entre muchas otras características.

vLLM ofrece un amplio soporte para modelos de código abierto, sumado a la integración de Día 0 de los modelos de vanguardia líderes –como DeepSeek, Gemma, Llama, Llama Nemotron, Mistal y Phi, entre otros–, así como los modelos de razonamiento de nivel empresarial y de código abierto como Llama Nemotron.

Los principales proveedores de modelos de vanguardia están adoptando los vLLM cada vez más, consolidando la función clave que desempeñan en el futuro de la IA generativa.

Ya sea de forma independiente, o como parte integrada de Red Hat Enterprise Linux AI (RHEL AI) y Red Hat OpenShift AI, la nueva plataforma permite a las organizaciones implementar y escalar IAGen en producción con mayor confianza.“Red Hat AI Inference Server está diseñado para satisfacer la demanda de inferencia de alto rendimiento y capacidad de respuesta a escala, manteniendo bajos los requisitos de recursos”, afirmó Joe Fernandes, vicepresidente y gerente general de la Unidad de Negocios de IA de Red Hat.

Con esta solución, los usuarios también acceden a herramientas de compresión de LLM inteligentes, lo cual redunda en un menor consumo de recursos informáticos, y en la preserva y mejora de la precisión del modelo. Así mismo, pueden ingresar a un repositorio optimizado de modelos alojado en Hugging Face –dentro de la organización de Red Hat AI–, que ofrece acceso instantáneo a una colección validada y optimizada de modelos de IA líderes listos para la implementación de inferencia, lo que ayuda a duplicar o cuadruplicar la aceleración de la eficiencia sin comprometer la precisión del modelo.

Junto con estas funcionalidades, los usuarios contarán con el soporte de la compañía y de terceros, con el fin de obtener una mayor flexibilidad de implementación de esta tecnología en plataformas que no sean Red Hat Linux y Kubernetes.

Nuevo sistema operativo para vehículos

En el encuentro global, la empresa desarrolladora de soluciones código abierto también anunció un sistema operativo para vehículos que cuenta con la certificación de seguridad funcional como elemento de seguridad fuera de contexto (SEooC), según la norma ISO 26262 Edición 2, 2018 - Level ASIL-B.

Red Hat In-Vehicle Operating System, cuyo lanzamiento completo se prevé para el tercer trimestre de este año, brinda una plataforma open source certificada, que cumple con los estrictos requisitos de gestión de riesgos y seguridad de la industria automotriz para sistemas informáticos críticos para el operador a bordo de vehículos.

Red Hat considera que el código abierto propiciará una transformación radical en el sector automotor, lo cual facilitará que las organizaciones atiendan las complejas demandas de los vehículos definidos por software. La empresa de código abierto aporta un enfoque centrado en el software y nativo de la nube para el diseño automotriz, a través del cual los fabricantes de automóviles pueden comenzar a desarrollar software en la nube, pasar sin dificultad a simulaciones virtuales y realizar implementaciones en hardware real sin la necesidad de reescribir el software. 

“La introducción de Red Hat In-Vehicle Operating System marca un punto de inflexión en la transición de la industria automotriz hacia vehículos definidos por software. Esta plataforma, que tiene como base a Red Hat Enterprise Linux, permite a los fabricantes de automóviles acelerar la innovación, mejorar la seguridad y fortalecer la protección del sistema, mientras adoptan un enfoque open source para impulsar una mayor flexibilidad y colaboración. Estamos muy contentos de contribuir a transformar la experiencia de conducción al dotar al ecosistema de automoción de una plataforma más escalable, confiable y abierta”, sostuvo Francis Chow, vicepresidente y gerente general de In-Vehicle Operating System y Edge en Red Hat.

Suite para desarrollo avanzado

También, dentro del marco de la cumbre, fue presentada la Red Hat Advanced Developer Suite, definida como una incorporación potente a Red Hat OpenShift –la plataforma de aplicaciones de nube híbrida con tecnología Kubernetes–, la cual ha sido diseñada para mejorar la productividad de los desarrolladores y la seguridad de las aplicaciones mediante mejoras que tienden a acelerar la adopción de las tecnologías de Red Hat AI.

Para Mike Barrett, vicepresidente de Plataformas Híbridas en Red Hat, la velocidad, la seguridad y la innovación en IA nunca deben excluirse entre sí. “Creemos que, al integrar estrechamente Red Hat Advanced Developer Suite con el resto del portafolio de Red Hat y los ecosistemas open source, garantizaremos que la velocidad, la seguridad y la innovación en IA ocupen siempre el primer plano”, aseguró.

Enterprise Linux 10

Otro lanzamiento presentado en Boston es el Red Hat Enterprise Linux 10, la más reciente versión de la plataforma Linux empresarial, para ayudar a responder a las demandas de la nube híbrida y al poder transformador de la inteligencia artificial. Esta solución, según se explicó, proporciona un eje central estratégico e inteligente para que la TI empresarial pueda hacer frente a la creciente complejidad, acelerar la innovación y construir una base informática más segura para el futuro. La plataforma está diseñada para aportar agilidad, flexibilidad y facilidad de gestión, y mantiene un perfil de seguridad reforzado contra las futuras amenazas informáticas.

Tecnología como apoyo a la escasez de talento

A pesar de los enormes avances tecnológicos que hoy existen, “las empresas tienen dificultades para contratar el conjunto de habilidades de Linux requeridas para operar y dar soporte a su creciente flota de distribuciones, lo cual las expone a mayores riesgos en términos de seguridad, cumplimiento normativo y tiempo de inactividad de las aplicaciones”, señaló IDC en un estudio encomendado por Red Hat. Frente a este escenario, la empresa explicó que está abordando este déficit con la introducción de su Enterprise Linux Lightspeed.

Esta plataforma integra IA generativa (IAGen) directamente para proporcionar asesoramiento contextualizado y recomendaciones prácticas a través de una interfaz de lenguaje natural.

Finalmente, Ashesh Badani, vicepresidente sénior y director de Producto de Red Hat, destacó que el futuro solo se impone hasta que llega el momento adecuado. Para el ejecutivo, las cargas de trabajo de IA de última generación y las aplicaciones con IA serán, con el tiempo, comunes en organizaciones de todos los sectores, al igual que ocurrió con la virtualización, los contenedores y Kubernetes.

Investigue más sobre Linux y código abierto