llhedgehogll - stock.adobe.com
RealOrRender: Deepfakes erkennen und nachvollziehen
Forschende vom Fraunhofer IOSB haben ein Verfahren entwickelt, dass Deepfakes nicht nur erkennt, sondern auch nachvollziehbar macht, warum es als KI-generiert eingestuft wird.
Der Einsatz von Deepfakes ist für Unternehmen wie Privatpersonen gleichermaßen eine ernsthafte Bedrohung. Inzwischen sind KI-Modelle in der Lage so gute Ergebnisse zu erzeugen, dass dies das Vertrauen in Inhalte nachhaltig zerstören kann.
Gemeinsam mit dem Bundesamt für Sicherheit in der Informationstechnik (BSI) haben Forschende des Fraunhofer-Institut für Optronik, Systemtechnik und Bildauswertung (IOSB) das Projekt RealOrRender vorgestellt. Ziel sei es, Deepfake-Bilder robust und zuverlässig von realen Bildern zu unterscheiden.
Hybrider Ansatz mit Rekonstruktion
Dabei habe man sich für einen hybriden Ansatz entschieden. So hat das Forscherteam am Fraunhofer IOSB ein Deep-Learning-basiertes Klassifikationsverfahren mit einem Verfahren kombiniert, bei dem überprüft wird, wie gut sich ein Bild mithilfe eines generativen KI-Modells rekonstruieren lässt. „Im ersten Schritt rekonstruieren wir das Bild mit einem KI-Bildgenerator. Anschließend übernimmt ein KI-Modell die Klassifizierung und berechnet hybrid den Rekonstruktionsfehler. Am Ende erfolgt eine Einschätzung, wobei die Erkennungsgenauigkeit in Prozentzahlen angezeigt wird. Insgesamt liegt die Erkennungsleistung zwischen 85 und 91 Prozent, sie kann in Einzelfällen aber durchaus höher ausfallen“, erklärt Dr. Andreas Specker, Senior Scientist der Forschungsgruppe Videogestützte Sicherheits- und Assistenzsysteme.
Je besser dabei die Rekonstruktion gelänge, desto wahrscheinlicher sei es, dass es sich beim untersuchten Bild ebenfalls um ein KI-generiertes Bild handele, dass man als Deepfake einstufen könne. Das Zusammenwirken beider Ansätze haben die Erkennungsgenauigkeit deutlich gesteigert.
Erklärbarkeit der Deepfake-Erkennung
Für die Forschenden sei es ein wichtiges Anliegen und zentrales Ziel gewesen, zu zeigen, warum das von ihnen entwickelte Verfahren ein Deepfake -Bild erkennt. Es reiche nicht aus, Fälschungen einfach zu entlarven. „Dazu verwenden wir Explainable-AI-Methoden (XAI), mit denen wir sichtbar machen, welche Bildbereiche und Strukturen zur Entscheidung des Modells beitragen. So lässt sich transparent nachvollziehen, warum ein Bild als echt oder KI-generiert eingestuft wird. Auffällige Texturen oder charakteristische Frequenzmuster können beispielsweise Hinweise darauf geben, dass ein Bild synthetisch erzeugt wurde. XAI hilft dabei offenzulegen, welche Merkmale das Modell für seine Entscheidung heranzieht“, so Dr. Nadia Burkart, Leiterin der Gruppe Applied Explainable AI am Fraunhofer IOSB.
Um die Entscheidungen nachvollziehbar zu machen, würden Ansätze mit Heatmaps visualisieren, welche Bildbereiche besonders stark zur Entscheidung des Modells beigetragen haben. Hierbei wird gezeigt, mit welcher Intensität dies in die Bewertung eingeflossen ist. Über segmentbasierte Verfahren werden hingegen zusammenhängende Bildsegmente und sichtbar gemacht, welche semantische Regionen zur Modellentscheidung beigetragen haben.
Die Ergebnisse der Forschung sollen in einen Demonstrator einfließen. Dieser soll dem BSI bei der Entlarvung von Deepfakes als Unterstützung dienen. Hierbei würde nach Hochladen eines Bildes das Detektionsergebnis sowie die anschließende Erklärung angezeigt. Zusätzlich soll es eine textuelle Einschätzung des Ergebnisses geben. Zur Verfügbarkeit des Demonstrators oder einer öffentlichen Version wurden keine Angaben gemacht.
Der Projektbericht steht direkt beim BSI zum Download (PDF) parat.
