Erfolgreiche Promotion an der Professur für Data Science
23 Oktober 2026
Biases im Machine Learning (ML) stellen eine zentrale Herausforderung dar, da sie die Entscheidungsfindung von Modellen beeinflussen und dadurch potenziell schädliche Auswirkungen auf die Gesellschaft haben können. Besonders Gender Bias hat dabei große Aufmerksamkeit erhalten, nicht nur aufgrund seiner ethischen und rechtlichen Implikationen, sondern auch wegen seiner gesellschaftlichen Relevanz. Da Trainingsdaten häufig gesellschaftliche Biases widerspiegeln, stellen sie eine zentrale Quelle dieser Biases in ML-Systemen dar und können sich somit negativ auf die Fairness der darauf trainierten ML-Systeme auswirken.
In ihrer Disseration widmet sich Frau Spegaßner (geb. Cimitan) dieser Problematik im Bereich des Natural Language Processing, mit besonderem Schwerpunkt auf Named Entity Recognition (NER), einem grundlegenden Task, der in zahlreichen Studien als anfällig für Biases beschrieben wurde. Vor diesem Hintergrund schlägt sie eine Linked-Data-basierte Methode vor, die eine strukturierte Erkennung und Mitigation von zwei unterschiedlichen Formen von Gender Bias ermöglicht. Die jeweiligen Formen von Gender Bias wurden auf Ebene der Trainingsdaten untersucht und entsprechend als datenbezogene Biases, insbesondere als Representation Bias, konzeptualisiert. Die Methode operationalisiert Bias durch ein abfragbares Repräsentationsformat, das durch Linked Data bereitgestellt wird, und ermöglicht so eine feingranulare Analyse. Ihre Wirksamkeit wird anhand von drei Fallstudien bewertet: Zwei davon adressieren verschiedene Formen von Gender Bias – einen eindimensionalen und einen multidimensionalen – und einen weiteren Bias anderer Art, um die Generalisierbarkeit der Methode über Gender-Bias-Typen hinaus zu beschreiben. Die Evaluierungen zeigen, dass der Linked-Data-basierte Ansatz eine höhere Abdeckung als lexikonbasierte Baselines erreicht und zugleich ein systematisches Resampling zur Generierung besser balancierter Datensätze erlaubt. Die Ergebnisse belegen, dass Linked Data effektiv zur Identifikation und Reduktion von Bias in Trainingsdaten eingesetzt werden kann. Durch die Integration von Linked Data Repräsentationen in Trainingsdaten können in den Daten verankerte Biases gezielt identifiziert und reduziert werden, was die Entwicklung fairerer und vertrauenswürdigerer Systeme unterstützt.
Bildquelle: Benjamin Bellgrau (FI CODE)
