Schatten-KI: Das verborgene Risiko operativer Unordnung

Neue Dimension unautorisierter Nutzung

Die Attraktivität solcher unautorisierter Tools liegt auf der Hand. Sie bieten schnelle Lösungen für alltägliche Aufgaben und erfordern meist nur geringe technische Kenntnisse. Doch während sie kurzfristig Effizienzgewinne versprechen, führen sie langfristig zu erheblichen Gefahren. Die zunehmende Verfügbarkeit von KI-Tools für Endverbraucher hat es Mitarbeitenden erleichtert, diese Technologien eigenständig einzusetzen, insbesondere in Organisationen, die keine klaren Richtlinien oder Governance-Strukturen für den Umgang mit KI etabliert haben.

Dieses Vakuum begünstigt die Entstehung sogenannter „Schatten-KI“ – ein Phänomen, das durch die explosionsartige Verbreitung generativer KI-Tools zunehmend um sich greift. Eine Umfrage aus dem Jahr 2024 zeigt, dass sich die Nutzung solcher Tools innerhalb weniger Monate nahezu verdoppelt hat. In einigen Branchen ist die Schatten-KI-Nutzung im Jahresvergleich sogar um 250 Prozent gestiegen. Um dieser Entwicklung entgegenzuwirken, müssen Unternehmen die zugrunde liegenden Bedürfnisse ihrer Mitarbeitenden verstehen und gezielt adressieren.

Die unterschätzten Risiken von Schatten-KI

Die Risiken, die mit Schatten-KI einhergehen, sind vielfältig und dürfen nicht unterschätzt werden. Ein zentrales Problem ist die Cybersicherheit. Ungesicherte KI-Nutzung kann schwerwiegende Datenlecks verursachen, beispielsweise wenn Kundendaten in unverschlüsselte Drittanbieter-Tools hochgeladen werden. Solche Vorfälle gefährden nicht nur sensible Informationen, sondern können auch gegen Datenschutzverordnungen wie die DSGVO verstoßen. Eine kürzlich veröffentlichte Studie ergab, dass 8,5 Prozent aller Prompts, die in generative KI-Tools eingegeben werden, sensible Daten enthalten. In rund 45 Prozent dieser Fälle bestehen diese sensiblen Daten aus Kundendaten wie Rechnungsinformationen, Kunden-Reports oder Daten zur Authentifizierung von Kunden.

Neben der Cybersicherheit beeinträchtigt Schatten-KI auch die Compliance. In stark regulierten Branchen wie dem Finanzwesen oder dem Gesundheitssektor können fehlende Audit-Trails, mangelnde Verantwortlichkeit und unzureichender Datenschutz schwerwiegende Verstöße begünstigen. Dies zieht nicht nur hohe Geldstrafen nach sich, sondern schädigt auch das Vertrauen von Kunden und Partnern nachhaltig. Hinzu kommt, dass die Qualität der Ergebnisse, die durch unautorisierte KI-Tools erzielt werden, oft inkonsistent ist. Solche Tools basieren häufig auf zuvor nicht geprüften Datensätzen, was zu vorurteilsbehafteten beziehungsweise fehlerhaften Ergebnissen führen kann. Zudem fehlt es an Transparenz, wie diese Tools Informationen verarbeiten und speichern. Das erschwert es Unternehmen, die Kontrolle über ihre wertvollste Ressource zu behalten: ihre Daten.

Verbote sind keine Lösung

Angesichts dieser Risiken stehen Unternehmen vor der dringenden Aufgabe, die Kontrolle über den Einsatz von KI zurückzugewinnen. Ein generelles Verbot von KI ist weder praktikabel noch zielführend, weil es die Innovationsfähigkeit hemmt. Ebenso wenig ist es eine Option, die Augen vor der Realität zu schließen. Stattdessen müssen Unternehmen Maßnahmen ergreifen, um eine verantwortungsvolle Nutzung von KI zu fördern. Der erste Schritt besteht darin, klare Governance-Richtlinien zu entwickeln, die festlegen, welche Tools genutzt werden dürfen, wie sie zu verwenden sind und wer die Verantwortung trägt. Diese Richtlinien sollten zudem Regeln für den Umgang mit unternehmenseigenen Daten- und Compliance-Anforderungen enthalten sowie Konsequenzen für unautorisierte Nutzung festlegen. Eine frühzeitige und regelmäßige Kommunikation dieser Vorgaben stellt sicher, dass alle Mitarbeitenden sie verstehen und befolgen.

„Die Risiken, die mit Schatten-KI einhergehen, sind vielfältig und dürfen nicht unterschätzt werden. Ein zentrales Problem ist die Cybersicherheit. Ungesicherte KI-Nutzung kann schwerwiegende Datenlecks verursachen, beispielsweise wenn Kundendaten in unverschlüsselte Drittanbieter-Tools hochgeladen werden.“

Matthias Göhler, Zendesk

Maßnahmen zur Eindämmung von Schatten-KI

Darüber hinaus ist es wichtig, Schutzmaßnahmen zu implementieren, die Mitarbeitenden dabei helfen, KI verantwortungsvoll zu nutzen, ohne Unternehmensdaten zu gefährden. Schulungen, Workshops und E-Learning-Angebote können dazu beitragen, ein Bewusstsein für die Risiken und den richtigen Umgang mit KI zu schaffen. Unternehmen sollten sichere KI-Tools bereitstellen, die den Bedürfnissen der Mitarbeitenden entsprechen und nahtlos in bestehende Arbeitsabläufe integriert werden können. Solche sicheren KI-Copiloten müssen strenge Sicherheitsstandards erfüllen und benutzerfreundlich sein, um eine breite Akzeptanz zu gewährleisten.

Ein weiterer zentraler Aspekt ist die Stärkung der IT- und Sicherheitsprotokolle. Unternehmen sollten sicherstellen, dass alle eingesetzten KI-Tools höchsten Cybersecurity-Standards entsprechen, etwa durch Verschlüsselung und sichere APIs. Moderne Sicherheitsmaßnahmen wie Multifaktor-Authentifizierung und Zero-Trust-Ansätze können den Zugang zu sensiblen Daten zusätzlich absichern und so eine sichere Umgebung für die Nutzung von KI schaffen.

Chancen und Risiken in einer KI-basierten Arbeitswelt

Schatten-KI stellt Unternehmen vor komplexe Herausforderungen, deren Bewältigung ihnen Chancen eröffnet. Unternehmen, die klare Governance-Strukturen etablieren und sichere Tools bereitstellen, können nicht nur die Risiken minimieren, sondern auch das volle Potenzial von KI ausschöpfen. Indem sie ihre Mitarbeitenden befähigen, KI verantwortungsvoll und effektiv zu nutzen, stärken sie nicht nur die Sicherheit und den Datenschutz, sondern positionieren sich auch optimal für eine Zukunft, die zunehmend von KI geprägt sein wird.

Über den Autor:
Matthias Göhler ist CTO EMEA bei Zendesk.

Die Autoren sind für den Inhalt und die Richtigkeit ihrer Beiträge selbst verantwortlich. Die dargelegten Meinungen geben die Ansichten der Autoren wieder.