sabida - stock.adobe.com
Wie Agentic AI die Cybersicherheit verändern könnte
Agentische KI-Technologie verspricht viele Vorteile für den Schutz von Ressourcen. Der Einsatz von Tools, die weniger menschliches Eingreifen erfordern, birgt jedoch auch Risiken.
Sicherheitsexperten befinden sich in einem Wettbewerb mit einem Gegner, der manchmal über alle Mittel zu verfügen scheint. Ein typisches Beispiel: Laut dem Microsoft Digital Defense Report 2024 sind Unternehmen weltweit täglich mit Hunderten Millionen Cyberangriffen konfrontiert. IT-Sicherheitsteams benötigen daher jede nur erdenkliche Unterstützung in Form von effektiven Tools.
Hier kommen agentische KI-Systeme (Agentic AI) ins Spiel, die ohne menschliches Zutun selbstständig komplexe Ziele verfolgen können. Agentische KI ist in der Lage, auf der Grundlage von Echtzeitbedingungen zu denken, zu lernen, zu planen und Entscheidungen zu treffen, selbst in so schwierigen Umgebungen wie dem SOC (Security Operations Center).
CISOs befinden sich noch in einem frühen Stadium, wenn es darum geht, zu entscheiden, wie sie agentische KI-Technologie einsetzen und wie sie deren erhebliche Risiken am besten bewältigen können. Wenn sie jedoch hält, was sie verspricht, könnte agentische KI den Verteidigern der Cybersicherheit einen Vorteil im Abwehrkampf gegen die unerbittliche Flut von Bedrohungen durch immer raffiniertere Angreifer verschaffen.
Sicherheitsanbieter beginnen damit, agentische KI in ihre Anwendungen zu integrieren, um diese reaktionsschneller und effizienter zu machen. Agentische KI unterscheidet sich von herkömmlicher KI in folgenden Punkten:
- Kontextorientiert, mustererkennend und zielorientiert. Anstatt vorgegebenen Regeln zu folgen, versuchen agentische KI-Systeme aktiv, strategisch und kreativ, ihre Ziele zu erreichen. Sie interagieren unabhängig von menschlichen Eingaben mit ihrer Umgebung und treffen Entscheidungen auf der Grundlage des situativen Kontexts und von Mustern. Sie sind auch in der Lage, Werkzeuge zu verwenden, komplexe Aufgaben auf mehrere Agenten zu verteilen und zu koordinieren sowie ihre Entscheidungsprozesse auf der Grundlage historischer Ergebnisse zu bewerten und zu verfeinern.
- Autonom. Sobald ein agentisches KI-System anhand von Echtzeitdaten und -bedingungen die beste Vorgehensweise zur Erreichung seines Ziels festgelegt hat, ist es in der Lage, entsprechend zu handeln. Auch ohne dass menschliche Eingriffe oder Interventionen unbedingt erforderlich sind.
- Kontinuierlicher Lernprozess. KI-Agenten lernen kontinuierlich aus realen Situationen und Ergebnissen, merken sich diese und passen ihre Strategien auf der Grundlage der beobachteten Muster und ihres Erfolgs bei der Erreichung ihrer Ziele an.
Anwendungsfälle für agentische KI in der Cybersicherheit
Für chronisch unterbesetzte und überlastete SOCs, in denen Analysten mit einer Vielzahl von Sicherheitswarnungen und möglichen Vorfällen zu kämpfen haben, ist agentische KI offensichtlich attraktiv. Zu den Anwendungsfällen im Bereich Cybersicherheit gehören die folgenden:
- Bedrohungsmanagement und Reaktion auf Vorfälle. Agentische KI, die in bestehende Sicherheitsanwendungen eingebettet ist, identifiziert und entschärft Bedrohungen in Echtzeit. Fortschrittliche Algorithmen beschleunigen die Identifizierung von Bedrohungen und die Reaktionszeiten und verbessern die Genauigkeit erheblich. Dadurch werden Fehlalarme reduziert und die Alarmmüdigkeit nahezu vollständig beseitigt.
- Schwachstellenanalyse und Risikobewertung. Durch die Analyse großer Datenmengen hilft die agentische KI den Sicherheitsteams dabei, Ressourcen zu priorisieren, um Bedrohungen vorherzusehen und wichtige Risiken zu identifizieren.
- Identitäts- und Zugriffsverwaltung (IAM). Agentische KI bietet differenziertere und präzisere Authentifizierungsmethoden, sodass nur autorisierte Benutzer auf bestimmte Ressourcen zugreifen können. Agentische KI-Sicherheit verfolgt außerdem Benutzer- und Geräteaktivitäten, um potenziell böswilliges Verhalten zu erkennen.
- Automatisierung sich wiederholender Prozesse. Agentic AI automatisiert routinemäßige Sicherheitsprozesse, sodass sich Sicherheitsexperten auf komplexere Aufgaben wie die Suche nach Bedrohungen sowie strategische Planung und Operationen konzentrieren können.
Vorteile agentischer KI in der Cybersicherheit
Die Anwendung von agentischer KI auf Anwendungsfälle im Bereich Cybersicherheit bietet eine Reihe wichtiger Vorteile, darunter die folgenden:
- Autonome Identifizierung und Abwehr von Bedrohungen. Agentische KI-Systeme können Echtzeit- und historische Informationen aus unterschiedlichen Quellen, darunter Firewalls, Cloud-Infrastrukturen und Endgeräte, zusammenführen und analysieren. Dadurch können sie Bedrohungen schneller und besser erkennen als herkömmliche Tools. Beispielsweise blockiert die agentische KI automatisch den Zugriff bösartiger IP-Adressen auf Systemressourcen und isoliert infizierte Geräte in Sandboxen, um die Auswirkungen eines aktiven Angriffs zu begrenzen.
- Automatisierte Reaktion auf Vorfälle. Trotz aller Bemühungen eines Unternehmens kann es dennoch zu Sicherheitsverletzungen kommen. Im Falle eines erfolgreichen Angriffs leitet die agentische KI automatisch Maßnahmen zur Eindämmung ein. Sie widerruft Zugangsdaten, deaktiviert kompromittierte Konten und führt fast sofort Backups durch. Dadurch werden sowohl die Folgen des Angriffs als auch die Ausfallzeiten des Systems minimiert.
- Proaktives Sicherheitsmanagement. Um von reaktiver zu proaktiver Sicherheit überzugehen, müssen Sicherheitsteams Schwachstellen und andere Probleme bereits vor einem Vorfall identifizieren. Agentic AI untersucht Fehlkonfigurationen, Probleme mit Patches und alle Versuche, Zugriffskontrollen zu ändern.
- Reduzierung von Alarmmüdigkeit. Agentic AI unterscheidet ernsthafte Bedrohungen genauer von harmlosen Abweichungen als frühere Technologien zur Erkennung von Bedrohungen. Somit könnte KI theoretisch die Fehlalarme reduzieren, die den Sicherheitsteams Zeit, Energie und Ressourcen rauben.
- Strategische Planung im Einklang mit den Geschäftszielen. Agentische KI sammelt Echtzeit-Sicherheitsdaten und historische Trends. Es liefert Erkenntnisse, die Sicherheitsexperten nutzen können, um Ressourcenentscheidungen zu treffen, die den Geschäftszielen und Compliance-Anforderungen entsprechen.
Die Risiken beim Einsatz agentischer KI in der Cybersicherheit
Agentische KI dürfte für SecOps-Teams eine entscheidende Veränderung mit sich bringen. Allerdings haben CISOs auch mit den damit verbundenen Herausforderungen und Risiken zu kämpfen – nicht zuletzt damit, dass Angreifer diese Technologie als offensive Ressource nutzen können. Weitere Bedenken sind unter anderem die folgenden:
- Vergrößerte Angriffsflächen. Jeder KI-Agent ist eine unabhängige Einheit, die die Angriffsfläche vergrößert. Angreifer könnten potenziell jeden beliebigen Agenten ausnutzen, um in das Unternehmen einzudringen.
- Komplexität. KI-Agenten stützen sich auf privilegierte Informationen, um Schlussfolgerungen zu ziehen und Prozesse auszuführen. Diese Agenten könnten aufgrund unvollständiger oder ungenauer Daten schlechte Entscheidungen treffen oder sich aufgrund der Komplexität des Systems unvorhersehbar verhalten. Darüber hinaus fehlt vielen Unternehmen die Erfahrung im Umgang mit KI im Allgemeinen und mit agentischer KI im Besonderen. Dies birgt das Risiko von Fehlentscheidungen und mangelnder Aufsicht, was die Risikoexposition des Unternehmens erhöhen könnte.
- Betriebsstörungen. Agentische KI-Systeme kommunizieren mit Datenbanken und Anwendungen im gesamten Unternehmen und verfügen über Zugriffs- und Entscheidungsrechte, die das Ausmaß eines Sicherheitsvorfalls exponentiell vergrößern könnten. Sicherheitsverantwortliche müssen strenge Kontrollen implementieren, um diese Verbindungen zu schützen. Das Prinzip der geringsten Privilegien gewährt KI-Agenten beispielsweise nur die minimalen Berechtigungen und Fähigkeiten, die für die kürzeste Dauer erforderlich sind, während sie dennoch ihre Aufgaben erfüllen können.
- Ethische und Compliance-Bedenken. Agentische KI arbeitet autonom und benötigt im Vergleich zu anderen Formen der KI nur minimale menschliche Eingriffe. Zu diesem Zweck müssen Unternehmen ein Maß an menschlicher Kontrolle und Überwachung über agentische KI-Systeme entwickeln, um sicherzustellen, dass deren Handlungen mit den Werten und Prioritäten des Unternehmens übereinstimmen. Unternehmen müssen außerdem sicherstellen, dass ihre agentischen KI-Prozesse den gesetzlichen Vorschriften und Unternehmensrichtlinien entsprechen. Die Aktivitäten von KI-Agenten sollten transparent, nachvollziehbar und überprüfbar sein.
Agentische KI-Cybersicherheit verspricht, die Cybersicherheit von Unternehmen proaktiver und effektiver zu gestalten. Unternehmen, insbesondere solche mit begrenzter KI-Erfahrung und -Kompetenz, müssen jedoch sicherstellen, dass sie über geeignete Cybersicherheitsschulungen, Kontrollen, Richtlinien und Verfahren verfügen, um die Risiken der agentischen KI zu begrenzen und ihre Vorteile zu nutzen.
