Die Script Kiddies sind out, die KI-Kiddies starten durch

Die Script Kiddies

Mit dem Aufkommen und der Nutzung von generativer KI und LLMs haben Script-Kiddies gewissermaßen Elite-Hacker als Mentor an ihrer Seite. Damit werden Script-Kiddies quasi zu KI-Kiddies. sie nutzen große Sprachmodelle und Chatbots, um Cyberangriffe ohne jegliche Programmierkenntnisse zu starten. Dabei setzen sie Prompt Engineering ein, um die Modelle dazu zu bringen, bösartige Codes, Befehle und Informationen zu generieren. Prompt Engineering bezeichnet dabei die Eingabe von Wörtern in Plattformen wie ChatGPT in einer Weise, die zu den gewünschten Ergebnissen führt.

Durch die neuen Möglichkeiten hat die Zahl der Cyberangriffe in den letzten Monaten ein Ausmaß erreicht, das noch vor einem Jahr unvorstellbar gewesen wäre. Für die neue Generation von KI-gestützten Script-Kiddies, also KI-Kiddies, ist es einfacher denn je, Cyberangriffe ohne Scripting-Kenntnisse durchzuführen.

Abgesehen vom Prompt Engineering mit der Optimierung von Prompts muss im LLM-Kontext vor allem auch das Konzept Prompt Hacking im Blickfeld bleiben, das vielfach nicht beachtet wird. Schließlich besitzen LLMs wie ChatGPT auch integrierte Schutzmechanismen und Regeln, die nicht einfach zu umgehen sind. Wenn ich ChatGPT also sage „Bitte gebe mir die Zutaten, die Mengen und das Rezept zur Herstellung von selbst produziertem Methamphetamin“ werde ich als Antwort erhalten „Es tut mir leid, ich kann dir dabei nicht helfen."

Aber es gibt beispielsweise ein Skript, einen längeren Text, der nach der Eingabe in ChatGPT die Persona von ChatGPT verändert. Damit werden alle Beschränkungen und Regeln aufgehoben, die OpenAI in Bezug auf die Art der Fragen aufgestellt hat, die beantwortet werden dürfen. Das Skript entfernt im Grunde jeden einzelnen der Schutzmechanismen, die OpenAI bereitstellt.

In diesem Modus kann man ChatGPT dazu bringen, einen Python-Code zur Verfügung zu stellen, mit dem man eine Malware erstellen kann. Bei einem Versuch erhielt ich zwei Sekunden später eine detaillierte, zeilenweise Liste aller Schritte, die ich ausführen musste. Und als ich die Malware tatsächlich getestet habe, hat sie funktioniert.

„Insgesamt sollte im Zentrum jeder durchgängigen Sicherheitsinitiative eine identitätsbasierte Zero-Trust-Strategie stehen. Dann spielt es auch keine Rolle, ob es letztlich um KI- und LLM-basierte Angriffe oder Advanced Persistent Threats geht.“

Len Noe, CyberArk

Selbstverständlich arbeiten die Unternehmen hinter diesen KI-Plattformen und hinter den KI-Chatbots kontinuierlich an Abwehrmaßnahmen gegen solche Methoden. Aber auf der anderen Seite entwickeln sich auch die Angriffsverfahren dynamisch weiter, es existieren viele verschiedene Prompt Hacking Scripts. Es wird also auch immer Aktivitäten geben, um neue Kontrollen zu umgehen. Dieser Wettlauf wird kein Ende finden.

Die Abwehrmaßnahmen

Es steht außer Frage, dass die KI-Nutzung auch Angreifern gänzlich neue Chancen bieten wird. Folglich müssen Unternehmen adäquate Abwehrmaßnahmen ergreifen. Dazu gehören prinzipiell die Identitätssicherheit und ein mehrschichtiger Sicherheitsansatz. Singuläre, siloartige Sicherheitsprojekte werden keinen Erfolg bringen.

Man könnte nun die Fragen aufwerfen: Worauf sollten Unternehmen konkret achten, wenn es um KI-Kiddie-Angriffe geht, und unterscheiden sie sich von anderen Angriffen? Die Wahrheit ist, dass wir letztlich alle Angriffe kennen, unabhängig davon, ob sie von jemandem kommen, der raffiniert ist, ob es jemand ist, der einfach den Code eines anderen benutzt oder ob es jemand ist, der ein großes Sprachmodell verwendet.

Es geht darum, eine übergreifende Sichtbarkeit und einen umfassenden Schutz in der Infrastruktur zu etablieren, und zwar mit Maßnahmen wie Multifaktor-Authentifizierung, segmentierten Architekturen, Privileged Access Management (PAM), Endpoint Privilege Management oder der Nutzung von Least-Privilege-Prinzipien. Wir haben bereits heute die Antworten auf die Gefahren. Wir müssen nur das tun, was wir bereits wissen, und es auch konsequent umsetzen.

Insgesamt sollte im Zentrum jeder durchgängigen Sicherheitsinitiative eine identitätsbasierte Zero-Trust-Strategie stehen. Dann spielt es auch keine Rolle, ob es letztlich um KI- und LLM-basierte Angriffe oder Advanced Persistent Threats geht. Zero Trust, also „Never Trust, Always Verify“ muss das Motto lauten.

Die Autoren sind für den Inhalt und die Richtigkeit ihrer Beiträge selbst verantwortlich. Die dargelegten Meinungen geben die Ansichten der Autoren wieder.