|
 |
Web 2.0: Medienkompetenzen - Künstliche Intelligenz |
|
Web 2.0: Medienkompetenzen Schweiz Weitere Informationen |
|
|
| Mediennutzung - Künstliche Intelligenz |
| Deepfake-Bilder zuverlässig erkennen und transparent erklären |
 |
Hybride Deepfake-Erkennung trifft auf Explainable AI
Künstliche Intelligenz erzeugt inzwischen Bilder, die von echten kaum noch zu unterscheiden sind. Mit RealOrRender haben Forschende am Fraunhofer-Institut für Optronik, Systemtechnik und Bildauswertung IOSB jetzt ein Verfahren entwickelt, das solche Deepfakes nicht nur gezielt erkennt, sondern zudem nachvollziehbar macht, warum ein Bild als echt oder KI-generiert eingestuft wird. Der neue hybride Ansatz steigert die Erkennungsgenauigkeit signifikant, und Explainable AI-Verfahren sorgen zudem für transparente Ergebniss
| Die Fälschungsmethoden für Deepfakes haben sich in den letzten Jahren rasend schnell entwickelt. Mit modernen KI-Modellen lassen sich realistische Gesichter, Objekte und komplette Szenen generieren, und so häufen sich im Internet manipulierte Fotos, die den Originalen frappierend ähneln. Die Fähigkeit generativer KI, täuschend echte Bilder zu erzeugen, eröffnet neue Möglichkeiten, beispielsweise für kreative Anwendungen. Sie erhöht aber auch das Risiko von Desinformation. Manipulierte Inhalte können Beweise verfälschen und Vertrauen zerstören. |
 |
Im Projekt RealOrRender zeigen Forschende des Fraunhofer IOSB gemeinsam mit dem Bundesamt für Sicherheit in der Informationstechnik (BSI), wie sich Deepfakes mittels innovativer KI-Verfahren zuverlässig und robust von realen Bildern unterscheiden lassen. Das BSI fördert das Vorhaben.
Um Risiken zu mindern, sind robuste Mechanismen zur Deepfake-Erkennung von entscheidender Bedeutung. Das Forscherteam am Fraunhofer IOSB verfolgt erstmals einen hybriden Ansatz: Es kombiniert ein klassisches Deep.Learning-basiertes Klassifikationsverfahren mit einer Methode, die prüft, wie gut sich ein Bild mithilfe eines generativen Modells rekonstruieren lässt. »Im ersten Schritt rekonstruieren wir das Bild mit einem KI-Bildgenerator. Anschliessend übernimmt ein KI-Modell die Klassifizierung und berechnet hybrid den Rekonstruktionsfehler. Am Ende erfolgt eine Einschätzung, wobei die Erkennungsgenauigkeit in Prozentzahlen angezeigt wird. Insgesamt liegt die Erkennungsleistung zwischen 85 und 91 Prozent, sie kann in Einzelfällen aber durchaus höher ausfallen«, erläutert Dr. Andreas Specker, Senior Scientist der Forschungsgruppe Videogestützte Sicherheits- und Assistenzsysteme, den kompletten Prozess. Je besser die Rekonstruktion gelingt, desto wahrscheinlicher ist es, dass es sich bei dem geprüften Bild ebenfalls um ein KI-generiertes Bild, also einen Deepfake handelt. Die Kombination beider Ansätze steigert die Erkennungsgenauigkeit deutlich.
 |
 |
Verbindung von Erkennung und Erklärbarkeit
Doch es reicht nicht aus, Fälschungen zu entlarven. Ebenso wichtig ist es, zu verstehen warum das Verfahren einen Deepfake erkennt. Neben der Detektion ist die Nachvollziehbarkeit von Entscheidungen daher ein zentrales Ziel der Forschenden. »Dazu verwenden wir Explainable-AI-Methoden (XAI), mit denen wir sichtbar machen, welche Bildbereiche und Strukturen zur Entscheidung des Modells beitragen. So lässt sich transparent nachvollziehen, warum ein Bild als echt oder KI-generiert eingestuft wird. Auffällige Texturen oder charakteristische Frequenzmuster können beispielsweise Hinweise darauf geben, dass ein Bild synthetisch erzeugt wurde. XAI hilft dabei offenzulegen, welche Merkmale das Modell für seine Entscheidung heranzieht«, sagt Dr. Nadia Burkart, Leiterin der Gruppe Applied Explainable AI am Fraunhofer IOSB. Die Forschenden nutzen XAI-Verfahren, die sich anhand ihres Erklärungsausgabeformats in Heatmap-basierte und segmentbasierte Verfahren klassifizieren lassen. Heatmapbasierte Ansätze visualisieren, welche Bildbereiche besonders stark zur Entscheidung des Modells beigetragen haben und mit welcher Intensität diese in die Bewertung eingeflossen sind. Segmentbasierte Verfahren analysieren hingegen zusammenhängende Bildsegmente und machen sichtbar, welche semantischen Regionen zur Modellentscheidung beigetragen haben.
Wirksamer technologischer Schutz vor Bildfälschungen
In Tests mit einem umfangreichen Bilddatensatz wiesen die Forscherinnen und Forscher nach, dass der innovative hybride, erklärungsorientierte Ansatz bestehenden Methoden überlegen ist. So entsteht eine neue Generation intelligenter Systeme - lernfähig, nachvollziehbar und vertrauenswürdig. Die Kombination der Verfahren verbessert die Robustheit der Deepfake-Erkennung auch gegenüber immer leistungsfähigeren Bildgeneratoren.
Die Forschungsergebnisse fliessen in einen Demonstrator ein, der zunächst das Bundesamt für Sicherheit in der Informationstechnik bei der Entlarvung von Deepfakes unterstützt. Der Demonstrator ist einfach zu handhaben: Nach dem Hochladen des gewünschten Bildes werden das Detektionsergebnis sowie anschliessend die Erklärung angezeigt. Zusätzlich resümiert eine textuelle Einschätzung das Ergebnis.
Zwei bereits veröffentlichte Projektberichte fassen die Forschungsarbeiten des Fraunhofer IOSB und des BSI zusammen, von denen nicht nur Sicherheits- und Justizbehörden, sondern auch Betreiber von Social-Media-Plattformen, Medienhäuser und Bildagenturen profitieren.
|
| Quelle: Text Fraunhofer-Institut für Optronik, Systemtechnik und Bildauswertung IOSB, 1. Juli 2026 |
nach
oben
| Links |
|
 |
|
Externe Links |
|
