SynData
Über das Projekt
- Vollständiger Name des Projekts: Synthetische Datengenerierung und Detektion
- Projektakronym: SynData
- Förderzeitraum: 01.06.2022 – 31.11.2025
- Finanzierung: ZITIS
- Projekt-Homepage: SynData
Das Projekt SynData gliedert sich in zwei Forschungsteams, die unterschiedliche Aufgaben verfolgen. Das eine Team arbeitet an Verfahren, mit denen sich künstlich erzeugte Bilder zuverlässig erkennen lassen. Das andere entwickelt Strategien zur Verschleierung, die solche Bilder gezielt vor bestehenden Erkennungssystemen verbergen. Die parallele Bearbeitung beider Themenbereiche führt zu einem produktiven Austausch: Verbesserte Detektoren treffen auf immer anspruchsvollere Verschleierungstechniken, wodurch deren Belastbarkeit fortlaufend überprüft werden kann.
Für die Erkennung synthetischer Inhalte kommen meist pixelbasierte Klassifikationsmodelle zum Einsatz. Sie lernen typische Artefakte generierter Bilder und können daher zwischen echten und künstlichen Aufnahmen unterscheiden. Auf dieser Basis wurden im Rahmen von SynData in den letzten Jahren mehrere neue Detektionsansätze entwickelt, die den aktuellen Forschungsstand erweitern und teilweise deutlich höhere Erkennungsraten erzielen.
Der zweite zentrale Bereich befasst sich mit der Tarnung künstlich erzeugter Bilder. Solche Methoden dienen dazu, die Widerstandsfähigkeit der Detektoren gegen gezielte Manipulationen zu testen, die darauf abzielen, charakteristische Generierungsmerkmale zu verdecken. Das Projekt hat bereits verschiedene neuartige Verschleierungsansätze hervorgebracht, die typische Spuren synthetischer Bildgenerierung für Betrachter weniger auffällig machen. Zusätzlich wurde eine Technik entwickelt, die sicherstellt, dass Verschleierungsverfahren selbst nach Bildkomprimierung wirksam bleiben. Dies ist ein wichtiger Aspekt, da künstliche Inhalte häufig über stark komprimierende Plattformen verbreitet werden. Dadurch wird die Notwendigkeit robuster Detektionsmechanismen noch deutlicher.
Projektpartner
