sabida - stock.adobe.com
KI sicher und erfolgreich ohne Kontrollverlust einsetzen
KI ermöglicht leistungsstarke Tools und Lösungen, andererseits birgt sie große Risiken. Was sollten Unternehmen beachten, um nicht die Kontrolle über die KI zu verlieren?
Künstliche Intelligenz ist für Banken und Versicherer längst zu einem strategischen Erfolgsfaktor geworden. Gleichzeitig bringt die Technologie neben vielen neuen Möglichkeiten auch neue Risiken sowie Abhängigkeiten in die Organisation. Viele Unternehmen verfügen heute über ein Ökosystem von weit mehr als hundert KI-Anwendungen.
Was auf den ersten Blick nach Innovationskraft aussieht, entwickelt sich schnell zu einem kaum beherrschbaren Geflecht aus Tools, Modellen und Prozessen. Wer die Vorteile nutzen will, muss daher vor allem eines sicherstellen: Kontrolle über die eigene KI-Landschaft.
Struktur statt KI-Wildwuchs
Der erste Schritt zu einer beherrschbaren KI-Strategie ist eine saubere architektonische Grundlage. Eine zentrale KI-Plattform fungiert dabei als übergeordnete Leitstelle, die Entwicklung, Datenschutz, Modellüberwachung und Sicherheitsanforderungen zusammenführt. Erst auf dieser Basis lässt sich klar bestimmen, wo Quick-Wins liegen, welche Schnittstellen nötig sind und wo die größten Synergien in Prozessen zwischen unverzichtbarer menschlicher Expertise und künstlicher Intelligenz liegen.
Entscheidend ist, dass Unternehmen die Vielzahl an Anwendungen in ein konsistentes Governance-Modell einbetten. Ein solches Framework verbindet den eigenen Risikoappetit mit der tatsächlichen Risikoexposition und übersetzt beides in verbindliche Leitlinien. Es sorgt dafür, dass Entscheidungen über Einsatzgebiete, technische Qualitätsgates, Verantwortlichkeiten oder den Betriebsort der KI nicht vereinzelt und opportunistisch getroffen werden, sondern eingebettet in eine Gesamtstrategie. Ohne diese Orientierung entsteht schnell ein kaum steuerbarer KI-Dschungel, der sowohl Effizienz als auch Sicherheit gefährdet.
Impfschutz gegen Prompt Injections
Mit dem Einsatz von KI verändern sich auch Cyberangriffe grundlegend. Während Angreifer früher technische Hürden überwinden mussten, genügt heute oft ein gut formulierter Prompt (also eine Anfrage an einen Chatbot), um ein Modell zu manipulieren oder interne Informationen offenzulegen. Prompt Injections sind damit einer der unmittelbarsten Angriffsvektoren der KI-Ära: einfach, schnell und ohne tiefgreifendes technisches Wissen nutzbar.
Christian Nern,
KPMG
Wirksame Sicherheitsmechanismen müssen diese neue Realität berücksichtigen. Neben den klassischen Schutzschichten, von Intrusion Detection über Identity- und Access-Management bis hin zu Monitoring- und Analysewerkzeugen, braucht es KI-spezifische Abwehrmechanismen wie Prompt-Injection-Firewalls, die riskante Anfragen analysieren und automatisch neutralisieren. Die Schutzarchitektur wird damit zu einem vielschichtigen Zusammenspiel aus Struktur, Automatisierung und intelligenter Sensorik. Erst wenn all diese Elemente eng miteinander verzahnt sind, entsteht eine echte KI-Resilienz, die nicht nur Systeme, sondern auch die Entscheidungen der Modelle schützt.
Die neue Rolle der KI-Agenten
Besonders stark verändern derzeit sogenannte KI-Agenten die Arbeitsweise in Finanzunternehmen. Diese autonomen digitalen Assistenten übernehmen eigenständig Aufgaben, treffen Entscheidungen und koordinieren Abläufe, oft mit weitreichenden Berechtigungen und direktem Zugriff auf interne und externe Daten.
Julian Krautwald,
KPMG
Ein typischer Anwendungsfall ist die regulatorische Analyse: Ein Agent sammelt externe Vorgaben, ein zweiter analysiert interne Richtlinien, ein dritter vergleicht beides und ein vierter entwickelt konkrete Umsetzungsvorschläge. Die Stärke dieser Agenten liegt in ihrer Geschwindigkeit und Autonomie, aber genau diese Autonomie erhöht auch das Risiko. Eine falsche Datenquelle, eine unglückliche Formulierung oder ein fehlerhafter Datensatz können sich in einem Agentennetzwerk innerhalb von Sekunden vervielfältigen und sich tief in Prozessen, Dokumenten und Entscheidungen festsetzen. Ohne Echtzeitanalyse und einer Observability-Plattform bleiben diese unentdeckt und können zu massiven Schäden führen.
Um Agenten sicher nutzen zu können, brauchen Unternehmen ein präzises Berechtigungs- und Governance-Modell. Es muss klar definiert sein, welche Aufgaben ein Agent übernehmen soll, welche Daten er benötigt und wo seine Grenzen liegen. Zusätzlich gilt: Je zentraler und einheitlicher die KI-Landschaft gestaltet ist, desto leichter lässt sie sich kontrollieren. Individuelle Lösungen einzelner Fachbereiche erhöhen dagegen die Komplexität und die Angriffsfläche.
Technologische Unabhängigkeit als strategischer Vorteil
Während die meisten KI-Funktionen heute noch über US-amerikanische Hyperscaler eingekauft werden, steigt gleichzeitig der Bedarf nach technologischer Souveränität. Abhängigkeiten von einzelnen Anbietern, ob aus ökonomischen, regulatorischen oder geopolitischen Gründen, entwickeln sich zunehmend zu strategischen Risiken.
Markus Hupfauer,
KPMG
Unternehmen, die frühzeitig auf ein anbieteragnostisches Rahmenwerk setzen, schaffen sich die Freiheit, bei neuen Marktteilnehmern oder deutlich leistungsfähigeren Modellen schnell reagieren zu können. Parallel entstehen immer mehr europäische Alternativen sowie hybride oder sogar autonome Betriebsmodelle auf Basis leistungsstarker Open-Source-Modelle. Sie alle verfolgen das gleiche Ziel: mehr Kontrolle über die eigene technologische Infrastruktur und weniger Abhängigkeit von einzelnen Plattformen.
Fazit: Kontrolle ist der Kern nachhaltiger KI-Wertschöpfung
Ob über Cloud-Services, hybride Architekturen oder vollständig selbst betriebene Modelle, erfolgreiche Finanzunternehmen eint ein gemeinsamer Ansatz: Sie schaffen Klarheit in der Implementierung, setzen auf eine Sicherheitsarchitektur, die der Dynamik von KI gewachsen ist, und halten sich die technologische Zukunft offen.
Wer diese drei Dimensionen beherrscht, wandelt KI von einem potenziellen Risikofaktor zu einem Motor für Wachstum, Effizienz und Stabilität, und behält die Kontrolle über eine Technologie, die in den nächsten Jahren zum zentralen Pfeiler der Wettbewerbsfähigkeit wird.
Über die Autoren:
Christian Nern ist Partner und Head of Security bei KPMG im Bereich Financial Services in München. Vor seiner Tätigkeit bei KPMG hat der Diplom-Kaufmann 25 Jahre lang in exponierten Leadership-Positionen verschiedener Bereiche in der IT-Industrie gearbeitet.
Julian Krautwald ist Practice Lead Detection & Response bei KPMG im Bereich Financial Services. Er ist Experte auf dem Gebiet digitale Transformation des Financial-Services-Sektors mit dem Fokus auf die operative Cybersicherheit.
Markus Hupfauer ist Manager im Bereich FS Technology & IT-Compliance und Experte für die Anwendung von Künstlicher Intelligenz in der Cybersicherheit.
Die Autoren sind für den Inhalt und die Richtigkeit ihrer Beiträge selbst verantwortlich. Die dargelegten Meinungen geben die Ansichten der Autoren wieder.
