KubeCon + CloudNativeCon Europe 2024: Cloud, KI, Schulungen

KI

Am ersten offiziellen Tag der Konferenz ging dann Priyanka Sharma, Geschäftsführerin der Cloud Native Computing Foundation, in ihrer Keynote auf aktuelle Entwicklungen ein. Wenig überraschend dominierte auch hier – wie bei nahezu allen anderen IT-Konferenzen auch – das Thema künstliche Intelligenz (KI). Kubernetes und seine kommerziellen beziehungsweise kommerziell unterstützten Distributionen wie Red Hat OpenShift, VMware Tanzu, Rancher by SUSE oder Mirantis Kubernetes Engine stellen eine wichtige Ausführungsumgebung für KI-Workloads dar. Allerdings gibt es hier noch einiges an Arbeit zu Erledigen: Seit Kubernetes Version 1.26 können auch GPUs der Hersteller AMD, Intel und NVIDIA als Ressource in GPU-Clustern an die Container zugewiesen werden. Bei der Skalierung der GPUs und der Hochverfügbarkeit bei Ausfällen steckt die Implementierung aber noch in den Kinderschuhen. Die CNCF ist sich der Aufgabe bewusst und hat sich daher mit einer eigenen Arbeitsgruppe, der CNCF Cloud Native AI Working Group, dem KI-Thema gewidmet. Ziel ist es, die Community mit Informationen zu versorgen und angepasste Werkzeuge bereitzustellen, um die Cloud-natve Softwarewelt für die Ausführung von KI-Anwendungen weiter voranzubringen. Ein erstes Ergebnis kann die Arbeitsgruppe auch bereits vorweisen. Während der Konferenz hat sie ihr erstes Whitepaper vorgestellt, das den aktuellen Stand der Technik zusammenfasst, das Nutzenpotential von Cloud-Native Techniken aufzeigt und weitere Entwicklungsschritte darlegt: das Cloud Native Artificial Intelligence Whitepaper.

Offizielles Schulungsangebot

Auf großes Interesse bei den anwesenden Teilnehmern stieß das offizielle Schulungsangebot der CNCF, Teil des umfangreichen Trainings- und Zertifizierungsprogramm der Linux Foundation. Die Trainingsabteilung war mit einem großen Stand im Ausstellerbereich vertreten. Computer Weekly hatte die Gelegenheit genutzt, mit CNCF Training vor Ort zu sprechen, um ein Bild über aktuelle Entwicklungen im Schulungs- und Zertifizierungsbereich zu bekommen. Die CNCF hat hier mit den herstellerneutralen, praktisch am System durchgeführten und als äußerst anspruchsvoll geltenden Kubernetes-Zertifizierungen CKA (Certified Kubernetes Administrator), CKAD (für Entwickler) und CKS (Security-Spezialisierung) seit mehreren Jahren einen Standard geschaffen, der auch von kommerziellen Kubernetes Anbietern wie VMware als Voraussetzung für herstellerspezifische Spezialisierungen gefordert wird. Im Gespräch mit ComputerWeekly betonte Clyde Seepersad, SVP und General Manager für Training & Certification bei der Linux Foundation: „Als Foundation fokussieren wir darauf, herstellerneutrale Trainings- und Zertifizierungsangebote bereitzustellen, damit potenzielle Arbeitgeber die Sicherheit besitzen, dass Bewerber über die für den jeweiligen Job notwendigen Fähigkeiten verfügen. Außerdem stellen wir IT Professionals die notwendigen Lern- und Zertifizierungspfade bereit, damit sie sich in ihren Karrieren weiterentwickeln können“.

Die Trainingsabteilung nutzte die Konferenz, um vier neue fortgeschrittene Kursangebote im Kubernetes-Umfeld vorzustellen: DevOps und Workflow Management mit Argo (LFS256), Mastering Kubernetes Security mit Kyverno (LFS255), Mastering Kubernetes Event-Driven Autoscaling with KEDA (LFS257) sowie einen kostenfrei verfügbaren Einstiegskurs zu KI mit Kubeflow: “Introduction to AI/ML Toolkits with Kubeflow” (LFS147x).

Hier kommt der Linux Foundation eine wichtige Aufgabe zu, so Tim Serewicz, Vice President für Education bei der Linux Foundation: „Es stellt definitiv eine Herausforderung dar, den Überblick zu behalten in dem schnelllebigen Technologieumfeld, das die Open-Source-Welt darstellt. Daher erstellen wir regelmäßig neue Kurse zu aktuellen Entwicklungen wie Kubeflow und bringen ständig unsere bestehenden Materialien auf den neuesten Stand, um so für unsere Kunden sämtlichen Schulungsbedarf aus einer Hand anbieten zu können.“

Um die Expertise von Kubernetes-Spezialisten zu würdigen, die in mehreren Aspekten (Administration, Entwicklung und Sicherheit) fit sind und alle fünf aktuell gängigen Zertifikate (CKA, CKAD, CKS sowie die Einstiegsprüfungen der Associate-Stufe KCNA und KCSA) zeitgleich aktiv halten, hat die CNCF als besonderes Goodie das neue Kubestronaut-Programm während der Konferenz vorgestellt: Diese hoch qualifizierten Experten erhalten den Titel Kubestronaut sowie eine entsprechend gebrandete Jacke und weitere Discounts auf Konferenzen und Zertifizierungen der CNCF. Neben Schulungen und Zertifizierungen für das Kubernetes-Ökosystem hat die CNCF ein weitreichendes Portfolio von Trainings und Zertifizierungen im Bereich Linux-Administration, GitOps, sowie Programmierung im Angebot. Viele davon sind kostenfreie eLearnings für Einsteiger bis hin zu tiefgehenden Online- und Präsenztrainings, die mit Partnern weltweit angeboten werden.

Über 200 Aussteller

Neben Keynotes und den tiefgehenden Fachvorträgen konnte die KubeCon auch mit einem äußerst weitläufigen Ausstellerbereich punkten, in dem über 200 Firmen ihre Angebote rund um das Ökosystem der Linux Foundation und Kubernetes vorstellten. ComputerWeekly hat vor Ort mit einigen ausgewählten Unternehmen aus verschiedenen Themenfeldern gesprochen.

Red Hat hatte die Konferenz genutzt, um zeitgleich die neue Version 4.15 seiner kommerzieller Kubernetes-Distribution Red Hat OpenShift vorzustellen, die ab sofort allgemein verfügbar ist. OpenShift 4.15 basiert auf Kubernetes 1.28 und dem Container Runtime Interface CRI-O 1.28. Im Gespräch mit der ComputerWeekly betonte Chuck Dubuque, bei Red Hat für das Product Marketing von OpenShift zuständig: “mit der neuen Version kommen weitere Funktionen, die die Entwicklung und Bereitstellung von Cloud-nativen Anwendungen auch in der Hybrid Cloud beschleunigen sollen. Als Plattformen unterstützen wir hier nahezu alles, was Kunden im Einsatz haben: neben unserem eigenen Technologie-Stack natürlich VMware, Microsoft Azure, Google Cloud und AWS. Neu in Red Hat OpenShift 4.15 ist nun die Unterstützung von AWS Outpost und AWS Wavelength Zones, womit wir nun auch Mobile Edge Computing Applikationen direkt über OpenShift verwalten können.”

Cloud Foundry, die Open-Source-Plattform für die Entwicklung und Bereitstellung von Cloud-Anwendungen, bleibt auch nach der Übernahme von VMware durch Broadcom ein wichtiger Bestandteil der Cloud-Native-Landschaft. Broadcom plant, verstärkt in die Plattform zu investieren, und Cloud Foundry trägt weiterhin erheblich zum Umsatz von VMware Tanzu bei. Leistungsstarke Werkzeuge wie Buildpacks und das CNCF-native Projekt Korifi ermöglichen anpassbare Workflows und eine vereinfachte Nutzung von Kubernetes. „Mit kontinuierlichen Investitionen, starken Partnerschaften und innovativen Projekten“ sei „Cloud Foundry gut aufgestellt, um auch in Zukunft eine bedeutende Rolle in der Anwendungsentwicklung und -bereitstellung zu spielen“ – so die Vertreter der Organisation im Gespräch mit ComputerWeekly.

Der deutsche Anbieter Kubermatic hat mit KubeLB ein neues Produkt vorgestellt, das als Cloud Controller Manager direkt in Kubernetes-Cluster integriert wird und die Bereitstellung von Load Balancern automatisiert. KubeLB bietet zwei Modi: pro Load Balancer einen eigenen Envoy oder eine Envoy Fabric und dient als Kontrollebene für Cilium oder Envoy. Damit soll es die Plattform-Teams von Netzwerkaufgaben entlasten. Außerdem veröffentlichte Kubermatic Version 2.5 von Kubermatic Kubernetes Platform (KKP) mit KI-gesteuerten Ops zur Verbesserung des Betriebs und einem verbesserten Backup- und Recovery-System. KKP ermöglicht nun einen Self-Service für Entwickler, um granulare Backups durchzuführen, wobei die Benutzerfreundlichkeit durch automatisierte Installation und Backup-Vorlagen verbessert wurde.

Der Observability Spezialist Dynatrace präsentierte auf der Kubecon 2024 seine Lösungen für Observability und Sicherheit in Kubernetes-Umgebungen. Der Fokus lag auf KI-basierter Optimierung, Data Observability und Open-Source-Engagement. Highlights waren die Reduzierung von Kosten und Komplexität durch intelligente Analyse von Cloud-Umgebungen, die Sicherstellung der Datenqualität für bessere Entscheidungen und KI-Modelle sowie eine Enterprise-fokussierte OpenTelemetry Distribution mit Sicherheitshärtung und Support. Dynatrace hatte zudem Ende Januar angekündigt, das auf AI-gestützte Compliance- und Sicherheitsüberprüfungen im VMware- und Cloud-Umfeld spezialisierte Unternehmen Runecast zu übernehmen und hat die Akquisition erfolgreich abgeschlossen.

Logz.io, ebenfalls im Observability-Bereich aktiv, setzt nach eigenen Angaben als einziger Anbieter vollständig auf den Open-Telemetry-Standard und will einfache und kosteneffiziente Lösungen zur Erfassung von Logs, Metriken und Traces bieten. Das Unternehmen hat eine neue KI-Lösung angekündigt, die auf Large Language Models (LLM) und Generativer KI basiert. Die Vision ist es, in den nächsten Monaten die Interaktion mit den Daten auf Chatbasis zu ermöglichen, wobei die ersten Funktionen in ObservabilityIQ integriert werden. Logz.io will die KI-Funktionen in alle Produkte integrieren, darunter auch in App360, eine APM-Lösung, die sich laut dem Anbieter durch ihre Einfachheit auszeichnet. Zudem wurden Erweiterungen für K8s 360 vorgestellt und ein neuer Explorer in ObservabilityIQ eingeführt.

JFrog, bekannt als Anbieter von DevOps-Lösungen und Binary Repository Manager, setzt verstärkt auf künstliche Intelligenz und maschinelles Lernen. Mit der Einführung von FrogML bietet das Unternehmen eine standardisierte Verpackung von Trainingsdaten, um die Entwicklergemeinschaft zu unterstützen. JFrog zielt darauf ab, die Sicherheit zu automatisieren und Maschinen anstelle von Menschen einzusetzen, um bösartige Modelle zu erkennen und zu blockieren. Durch die Integration von KI-gestützten Funktionen in seine Plattform will JFrog dazu beitragen, die Sicherheit und Compliance im Bereich des maschinellen Lernens zu verbessern.

Sysdig hat sich von einem Observability-Anbieter zu einem Unternehmen für Cloud-Native-Sicherheit entwickelt. Mit Sysdig Monitor und Sysdig Secure bietet das Unternehmen eine einheitliche Sicherheitsplattform (CNAPP) an. Ein Kernprodukt von Sysdig ist Falco, eine Sicherheitskamera für Cloud-native-Infrastrukturen, die Kernel-Syscalls überwacht, um bösartiges Verhalten in VMs und Kubernetes zu erkennen. Falco wurde initial vor 8 Jahren entwickelt, ist seit 6 Jahren Teil der Cloud Native Computing Foundation (CNCF) und hat kürzlich den Graduated-Status erreicht. Sysdig nutzt Streaming- und Runtime-Technologien, um Ereignisse in Clustern zu überwachen und Anomalien mithilfe von KI zu erkennen. Dabei werden nicht nur der Kernel, sondern auch Logs und Ereignisse analysiert, um beispielsweise kompromittierte Anmeldedaten oder Krypto-Mining zu identifizieren. In der Beta-Phase befindet sich derzeit Sysdig Sage, eine Lösung, die Large-Language-Modelle in die Sysdig-Software integriert, um Anwendern dabei zu helfen, Exploits besser zu verstehen und zu beheben.

Security- und Identity-Management Spezialist Venafi bietet eine Lösung für kryptografisch verifizierbare und attestierbare Identitäten, ähnlich wie eine Zertifizierungsstelle (CA), die die Kommunikation zwischen Workloads ermöglicht. Durch die Verschlüsselung von Verbindungen zwischen Workloads wird die Sicherheit erhöht. Venafi automatisiert die Ausstellung von zeitlich begrenzten Identitäten nach dem SPIFFE-Standard. Mit der Ankündigung von first-class integrity und dem Firefly WCI Issuer bietet Venafi einen skalierbaren Workflow, der SPIFFE unterstützt. Der Prozess umfasst die Generierung von Zertifikaten für Workload-Komponenten, die anschließend vom WCL Identity Issuer signiert werden. Diese signierten Identitäten sind kurzlebig, da sie in Kubernetes verwendet werden, und basieren auf der CA der Organisation. Eine Erneuerung oder ein Widerruf der Identitäten ist möglich.

Mit Edgeless Systems war auch ein SpinOff der für ihre IT-Security Kompetenz bekannten Ruhr-Uni Bochum auf der KubeCon präsent. Edgeless Systems möchte die IT-Sicherheit und den Datenschutz für die Cloud und in KI-Anwendungen stark verbessern. Dazu entwickelt das Bochumer Unternehmen Open-Source-Software für das Confidential Computing, bei dem Daten sogar während der Verarbeitung verschlüsselt bleiben. Mit der eigenen Kubernetes-Distribution Constellation von Edgeless Systems bleiben Daten in Public Clouds so verschlüsselt, dass selbst der Cloud-Anbieter nicht an die Daten kommen kann. Gesetzliche Anforderung wie der Digital Operational Resilience Act (DORA) und die DSGVO können so vollumfänglich erfüllt werden. Das Bochumer Unternehmen hat außerdem mit Continuum AI eine neue Lösung veröffentlicht, die Daten in KI-Anwendungen wie LLMs so verschlüsselt, dass die Eingabedaten (Prompts) vollständig vertraulich bleiben und weder für Infrastruktur- noch KI-Anbietern einsehbar sind. Im Gespräch mit ComputerWeekly betonte Thomas Strottner, Vice President of Business Development: „Bei Edgeless Systems entwickeln wir in Deutschland die Zukunft der vertrauenswürdigen Datenverarbeitung. Unsere Lösungen werden beispielsweise in der elektronischen Patientenakte und bei US-amerikanischen Großbanken eingesetzt. Außerdem haben wir starke Implementierungspartner wie Capgemini.“

Speicherspezialist NetApp nutzte die KubeCon, um Updates für seine Kubernetes-Speicherplattform Astra vorzustellen. NetApp ist schon seit 2017 mit Astra Trident, seiner Implementierung des Container Storage Interface (CSI) Drivers im Kubernetes Umfeld aktiv und hat seit 2021 mit Astra Control auch einen Datensicherungsdienst im Angebot. Neu sind Verbesserungen in der Architektur von Astra Control, die NetApp noch im ersten Halbjahr 2024 ausrollen will. NetApp bietet damit nach eigenen Angaben den ersten Managed Service für Datensicherung und Disaster Recovery für containerisierte Anwendungen und Kubernetes in den drei großen Public Clouds an. Im Gespräch mit der ComputerWeekly betonte Hendrik Land, Solution Architect DevOps bei NetApp, die Bedeutung der architekturellen Neuerungen: „Ein Fokus der Weiterentwicklung ist die verbesserte Integration mit den aktuellen Tools aus dem Platform Engineering. Das umfasst IaC-Werkzeuge und erlaubt die weitgehende Automatisierung über CI/CD-Pipelines, GitOps und andere Tools für die Verwaltung auf Richtlinienbasis. Weiterhin haben wir die Skalierbarkeit adressiert, können jetzt dank effizienter asynchroner Kommunikation tausende von Kubernetes Cluster aus einer einzigen Data Management Ebenen heraus verwalten.“

Ein ähnliches Bild zeigte sich auch im Gespräch der ComputerWeekly mit Murli Thirumale, als Vice President und General Manager beim Pure Storage Tochterunternehmen Portworx tätig. Thirumlale bestätigte: „Kubernetes hat sich inzwischen als der De-Facto-Standard für die Entwicklung moderner Anwendungen etabliert. Neben den eigentlichen Kubernetes-basierten Anwendungen umfasst das natürlich auch KI/ML-Workloads, Datenbanken sowie CI/CD-Pipelines. Mit PortWorx by PureStorage können Anwender auf eine vollständig mit Kubernetes integrierte Lösung für die dauerhafte Speicherung ihrer Applikationsdaten, Datensicherheit, aber auch Migrationen der Daten zwischen den verschiedenen Public Clouds und On-Premises-Umgebungen vertrauen.“

Besonders erfreulich: Neben den großen Public Cloud Anbietern AWS, Microsoft Azure und Google Cloud war mit dem mittelfränkischen Unternehmen Hetzner auch ein Lokalmatador aus Deutschland vertreten. Hetzner zeigte auf seinem Stand neben seinen klassischen Hostingangeboten insbesondere auch eine Demonstration der Fähigkeiten seiner eigene Public Cloud Umgebung. Diese können sich durchaus sehen lassen – auch der Betrieb von Kubernetes Clustern gehört zum Funktionsumfang der Hetzner Cloud. Neben den deutschen Rechenzentren in Nürnberg und Falkenstein speisen inzwischen auch weitere Rechenzentren in Finnland und seit kurzem auch in den USA die Hetzner-eigene Cloud.

Wer die KubeCon 2024 Paris verpasst hat, kann Aufzeichnungen der Präsentationen auf dem YouTube Kanal der CNCF finden.

Die nächsten Veranstaltungen hat die CNCF hier angekündig. Die nächste europäische Ausgabe der KubeCon findet vom 1. bis 4. April 2025 in London statt.