Nutanix lanza GPT-in-a-Box para impulsar la adopción de IA generativa
La solución, parte de un paquete de infraestructura de IA, acelera el camino de las organizaciones hacia GPT y LLM, pero asegurando el control de sus datos.
Nutanix anunció Nutanix GPT-in-a-Box, una plataforma definida por software lista para IA, que incluye servicios para ayudar a las empresas a dimensionar y configurar la infraestructura de hardware y software adecuada. La solución permite a los clientes adquirir fácilmente una infraestructura lista para IA para ajustar y ejecutar transformadores generativos preentrenados (GPT, por las siglas en inglés de Generative Pre-trained Transformer), incluidos modelos de lenguaje de gran escala (LLM), en el borde o en su centro de datos.
Actualmente, muchas empresas consideran cómo aprovechar de forma rápida, eficiente y segura el poder de las aplicaciones generativas de IA y ML, especialmente para casos de uso que no se pueden ejecutar en la nube pública debido a problemas de gobernanza y privacidad de los datos. Todas buscan aprovechar la IA generativa para mejorar el servicio al cliente, la productividad de los desarrolladores, la eficiencia operativa y más. Desde la transcripción automatizada de documentos internos, hasta la búsqueda de alta velocidad de contenido multimedia y el análisis automatizado, las organizaciones están visualizando la oportunidad de la IA, pero luchan con preocupaciones crecientes sobre la fuga de propiedad intelectual, el cumplimiento y la privacidad.
Pero, aunque las organizaciones que quieren construir una pila lista para IA están analizando la mejor manera de apoyar a sus administradores de ML y científicos de datos, paralizan sus estrategias por el temor de asumir grandes costos de inversión en IA.
“Ayudar a los clientes a enfrentar los mayores desafíos que enfrentan en TI es el núcleo de lo que hacemos, desde administrar la creciente complejidad de múltiples nubes, hasta los desafíos de protección de datos y ahora la adopción de soluciones de inteligencia artificial generativa mientras se mantiene el control sobre la privacidad y el cumplimiento de los datos”, dijo Fernando Zambrana, director de Ventas en Nutanix México.
Nutanix detalló que GPT-in-a-Box ofrece una infraestructura de IA controlada por el cliente, lista para usar en el centro de datos principal o perimetral, y permite a los clientes ejecutar y ajustar modelos de IA y GPT mientras mantienen el control sobre sus datos. La nueva solución incluye:
- La plataforma Nutanix Cloud Infrastructure, con las soluciones Nutanix Files Storage y Objects Storage, el hypervisor Nutanix AHV y Kubernetes, junto con la aceleración de la GPU de NVIDIA, que se puede dimensionar para una escala grande o pequeña.
- Servicios de Nutanix para ayudar a los clientes a dimensionar su clúster e implementar una pila con los principales marcos de aprendizaje profundo y MLOps de código abierto, servidor de inferencia y un conjunto seleccionado de grandes modelos de lenguaje como Llama2, Falcon y MPT.
- Capacidad para que los científicos de datos y los administradores de ML consuman inmediatamente estos modelos con su elección de aplicaciones, interfaz de usuario de terminal mejorada o CLI estándar.
Adicionalmente, la plataforma – La solución que está basada en Nutanix Cloud Platform– también se puede aprovechar para ejecutar otros modelos de GPT, así como para ajustar estos modelos aprovechando los datos internos, alojados en los servicios de almacenamiento de objetos o archivos de Nutanix incluidos.
Manosiz Bhattacharyya, director de Tecnología (CTO, por sus siglas en inglés) de Nutanix, explicó que, al utilizarla para entrenar algoritmos de IA con datos internos, del centro de datos local o del perímetro, la nueva solución permite mover únicamente modelos, no datos, permitiendo así un mejor control y protección de los datos.
"Aprovechar la IA para ayudar de forma más eficiente y eficaz a nuestros clientes es una prioridad absoluta para nosotros pero, como organización de servicios financieros regulada, es necesario mantener un control total sobre nuestros datos", afirmó Jon Cosson, CISO de JM Finn. "La plataforma en la nube Nutanix ofrece el rendimiento, la flexibilidad y la seguridad necesarios para desplegar cargas de trabajo de IA de forma segura."
