GenAI und KI-Entwicklung: neues Rollenverständnis gefragt

Innovation von unten

Steve Jobs hatte klare Vorstellungen von den Apple-Produkten, überließ aber die Realisierung seinem Team. Elon Musk verfolgt bei SpaceX eine ähnliche Strategie, genauso wie Jensen Huang bei Nvidia. Die Innovationsschmiede funktioniert ebenso in die andere Richtung. Und nicht wenige innovative Produkte entstehen aus der Zusammenarbeit und dem Experimentiergeist einer ganzen Entwickler-Community. Bestes Beispiel: Linus Torvalds entwickelte zwar 1991 den Linux-Kernel. Der massive Erfolg des Open-Source-Betriebssystems gründet allerdings auf den zahlreichen Weiterentwicklungen und Beiträgen einer dezentralen Gemeinschaft von Entwicklern.

Findet Innovation in den Händen derer statt, die ihre Möglichkeiten am besten ausloten können, dann ist KI wohl das vielversprechendste Spielfeld für Entwickler. GenAI lebt vom Experimentieren und erst im konkreten Anwendungsfall zeigt sich der eigentliche Mehrwert. Entwickler sind hier nahe an der Praxis, kennen die Anforderungen an unternehmensinterne Anwendungen und sind es gewohnt im Trial-and-Error-Verfahren ans Ziel zu kommen.

Angetrieben von Tech-Know-how

Von Entwicklerseite angetriebene Innovationen verlaufen dabei vereinfacht gesprochen recht pragmatisch: Auf der einen Seite gibt es ein Problem, das es zu lösen gilt. Auf der anderen Seite findet sich eine Reihe an Technologien und Verfahren, die als Lösung in Frage kommen. Alles, was es nun braucht, ist genug Neugierde, Know-how und Geduld, um die jeweiligen Technologien auf das Problem anzuwenden, bis man vor dem gewünschten Ergebnis steht.

Im Fall von GenAI gab es in der Anfangsphase nicht nur ein Problem, sondern drei: Die KI-Anwendungen halluzinierten, sie liefen in einer Black Box ab und sie schafften es weder Relevanz noch Sensibilität der Daten richtig zu bewerten. Ein bedenkenloser Einsatz im Enterprise-Umfeld, in denen sowohl Datenschutz als auch IP-Schutz zentral sind, war daher zunächst nicht ohne weiteres möglich.

Entwickler stellten sich dieser Probleme und entwarfen als Lösung das sogenannte Retrieval-Augmented Generation (RAG). Der Architekturansatz verbessert die Large Language Models (LLMs), indem es die Sprachmodelle mit einer zusätzlichen, externen Quelle an spezifischen Daten verknüpft. Für die Implementierung von RAG wurde auf die Vektorähnlichkeitssuche zurückgegriffen. Problem gelöst? Nicht ganz. Zwar ließen sich durch vektorbasiertes RAG die KI-Halluzinationen einschränken. Bei zunehmend komplexeren Anwendungsfällen stieß der Ansatz jedoch weiter an Grenzen. Es fehlte den LLMs noch immer der Kontext, um Fragen ganzheitlich zu beantworten.

Entwickler arbeiteten weiter an einer Lösung und kamen – teils unabhängig voneinander – auf die Idee, den ursprünglichen Lösungsansatz von RAG mit Knowledge Graphen zu kombinieren. Microsoft Research taufte diesen neuen Ansatz schließlich auf den Namen GraphRAG.

GraphRAG greift das Muster, das die Vektorähnlichkeitssuche innerhalb einer GenAI-Pipeline durchläuft, auf und schaltet einen Knowledge Graphen dazwischen. Dieser Wissensgraph organisiert heterogene Daten und stellt sie als Knoten dar (zum Beispiel Person und Ort), die über sogenannte Kanten (Beziehungen) verbunden sind. Es entsteht ein semantischer Kontext, der der Vektorsuche schlichtweg fehlt. In Kombination allerdings macht GraphRAG die GenAI-Ergebnisse genauer, aktueller, erklärbarer und transparenter. Das ist ein Grund, warum Gartner Knowledge Graphen mittlerweile als einen wesentlichen Baustein von GenAI bezeichnet.

Softwareentwickler als KI-Ingenieure

Entwickler-Know-how treibt den Einsatz von GenAI also effektiv voran. GenAI verändert zudem die Entwickler selbst oder zumindest ihr Rollenbild. Je mehr sich KI zu einem integralen Bestandteil moderner Anwendungen entwickelt, desto stärker verwandeln sich Softwareentwickler in KI-Ingenieure. Sie müssen komplexe Architekturen aufbauen, Fehler und Einschränkungen lösen und sich kontinuierlich mit dem hoch dynamischen GenAI-Umfeld beschäftigen. Das betrifft sowohl die breite Auswahl an Modellen als auch die neu entstandene Kategorie von Entwicklungs-Frameworks wie LangChain und LlamaIndex bis hin zu Model Router Frameworks wie Unify.ai und Martian.

Letztendlich nehmen diese Technologien den Entwicklern eine Menge Arbeit ab. Die Fülle an Komponenten vereinfacht die Entwicklung neuer Anwendungen, die sich im Bausteinprinzip (und mit Hilfe von GenAI) fast schon spielerisch zusammensetzen lassen. Selbst anspruchsvolle KI-gesteuerte Anwendungen sind mit nur minimalem Aufwand verbunden und setzen wenig oder gar kein ML-Fachwissen voraus.

Fahrplan aufstellen

CIOs nehmen in dieser neuen Konstellation keine Randposition ein. Im Gegenteil. Ihre Aufgabe ist es, dafür zu sorgen, dass Entwickler bei allem Experimentieren und Ausloten nicht das Ziel vor Augen verlieren und in unsichere Fahrwasser geraten. Der Einsatz von KI verlangt nach einem rechtlichen, sicherheitstechnischen und finanziellen Fundament. IT-Verantwortliche geben hier den nötigen Fahrplan und die ganzheitliche Strategie vor, die der künftigen Wettbewerbsfähigkeit und Rentabilität des gesamten Unternehmens zugutekommen.

Freiräume schaffen

Google führte bereits vor Jahren ein Programm ein, bei dem Entwickler 20 Prozent ihrer Zeit frei an Projekten arbeiten können. Dabei entstanden eine ganze Reihe von heute zentralen Google-Produkte wie Google Mail, Google News und AdSense. Das Beispiel zeigt: Entwickler brauchen Zeit zum Experimentieren.

CIOs können hier ein Framework aufsetzen, das kreative Freiräume absteckt und ein sicheres Umfeld schafft. GenAI-Hack Days, Meet-ups und Hackathons fördern den Austausch in der Entwickler-Community und gehören in vielen Tech-Unternehmen bereits zum Standard. Klare Richtlinien, ein einfacher Zugang zu Technologien und Tools sowie Datenschutz- und Sicherheitsparameter dürfen dabei natürlich genauso wenig fehlen wie eine offene Kommunikation über Budgets und Zeitrahmen von Nebenprojekten.

Ziele setzen

Jeder hätte gerne eine funktionierende GenAI-Anwendung. Vielen Unternehmen ist aber nicht unbedingt klar, wofür sie die Anwendung tatsächlich benötigen und wo sie den meisten Nutzen bringt. IT-Verantwortliche müssen hier Objektivität bewahren und bei der Entwicklung und Skalierung zentrale Unternehmensziele im Auge behalten. Dazu gehört es, die Genauigkeit, Transparenz und Erklärbarkeit von KI sowie damit verbundene Compliance-Vorgaben sicherzustellen.

„Je mehr sich KI zu einem integralen Bestandteil moderner Anwendungen entwickelt, desto stärker verwandeln sich Softwareentwickler in KI-Ingenieure. Sie müssen komplexe Architekturen aufbauen, Fehler und Einschränkungen lösen und sich kontinuierlich mit dem hoch dynamischen GenAI-Umfeld beschäftigen.“

Philip Rathle, Neo4j

Das Beraterunternehmen EY schlägt vor, dass Führungskräfte kleinen strategischen GenAI-Initiativen Vorrang einräumen, um getrennt oder unabhängig voneinander agierende Teams zusammenzubringen. So lassen sich Unwägbarkeiten oder Beschränkungen simultan angehen und Prozesse auf eine einheitliche Linie bringen. Dabei wird klar, wo das Unternehmen in Sachen GenAI steht und wo die Reise hingehen soll. Entscheidungen darüber, was ad-hoc und in Zukunft zu tun ist, lässt sich durch den Input der technischen Experten validieren.

Langfristig investieren

KI-Entwickler-Tools sind teuer und die Entwicklung eigener KI-Anwendungen kostet Zeit und Geld. Unternehmen mit großen Entwickler-Teams, die mit den neuesten – und damit oft kostspieligsten – Tools arbeiten, wünschen sich zu Recht am Ende der Experimentierphase ein vorzeigbares und profitables Ergebnis.

Bei GenAI geht es nicht unbedingt nur um Initiativen, die sich unmittelbar und sofort auf die Bottom-Line und den Gewinn eines Unternehmens auswirken. Vielmehr gilt es, Ziele zu setzen und Möglichkeiten von GenAI auszuloten, die langfristig die Wettbewerbsfähigkeit sichern und die Marktposition stärken. Die Effizienz bei Arbeitsabläufen mit KI-Tools zu steigern und Mitarbeitende zu entlasten ist wichtig und richtig. Allerdings handelt es sich bei solchen Initiativen nicht um die große KI-Vision, sondern um Low Hanging Fruits. Die Gewinner des GenAI- und KI-Booms werden diejenigen sein, die Top-Line-Innovationen realisieren und eine durchgehende KI-Transformation vorantreiben.

Als Fazit lässt sich das neue Rollenverständnis vielleicht am besten so beschreiben: Je mehr Gelegenheiten die Unternehmensführung und CIOs ihren Entwicklern geben, sich an die Spitze der Entwicklung verantwortungsvoller GenAI-Anwendungen zu stellen, desto wahrscheinlicher ist es, dass es dem Unternehmen rechtzeitig gelingt, das Potenzial von GenAI zu nutzen.

Über den Autor:
Philip Rathle ist Chief Technology Officer bei Neo4j und etablierte das Unternehmen als führenden Anbieter von Graphdatenbanken und Data Science & Analytics. Zuvor leitete er das Produktmanagement der Embarcadero Technologies und war u. a. im Bereich Datenbanken, Architektur und Datenmodellierung bei Tanning Technology und Accenture tätig. In seiner früheren Laufbahn als Berater stand er fast ein Jahrzehnt lang Fortune-500-Unternehmen in Sachen Daten- und Informationsverarbeitung erfolgreich zur Seite.

Die Autoren sind für den Inhalt und die Richtigkeit ihrer Beiträge selbst verantwortlich. Die dargelegten Meinungen geben die Ansichten der Autoren wieder.