Kostenloser E-Guide: Agentic AI: Risiken und Schutzmaßnahmen

Der Einsatz von Agentic AI und KI-Agenten ist für Organisation unweigerlich mit einer Reihe von Sicherheitsrisiken verbunden. Mit Agentic AI vergrößert sich die Angriffsfläche für Unternehmen. Und auch die internen Sicherheitsrisiken nehmen mit dem Einsatz zu. Schließlich werden auch die Agenten selbst zum Risiko. Angreifer wissen KI-Agenten als Insider zu schätzen, die sie gezielt angehen und manipulieren können.

 Im besten Fall haben Sicherheitsverantwortliche und CISO die Möglichkeit und Zeit, die richtigen Maßnahmen zu implementieren, um die Risiken einzudämmen. Exemplarisch sei da beispielweise ein angepasstes Identity Management genannt. Die Etablierung einer KI-Governance im Unternehmen ist unerlässlich. Und da darf das Thema Verantwortlichkeiten durchaus eine wichtige Rolle spielen.

Klassische Ansätze wie Security-by-Design müssen auch bei der KI-Implementierung stets berücksichtigt werden. Herausforderungen in Sachen Datenschutz gehen neben Sicherheitsbedenken mit dem Einsatz von Agentic AI selbstverständlich einher. Die Systeme verarbeiten nicht selten in erheblichen Umfang sensible Daten. Da besteht das Risiko von Datendiebstahl und unbefugtem Zugriff.

Die gute Nachricht: Die Technologie kann in einigen Bereichen auch dazu beitragen die Cybersicherheit zu verbessern. Beispielweise bei einer automatischen Erkennung von Bedrohung beziehungsweise der Reaktion bei auf Vorfälle. Aber gerade der KI-Einsatz bei einer automatisierten Reaktion will mit viel Bedacht implementiert werden.