Übersicht

MAMMOth-Projekt endet mit bedeutenden Fortschritten zur Minderung von multidimensionalen Bias in KI Systemen

Das durch Horizon Europe geförderte Projekt MAMMOth (Multi-Attribute, Multimodal Bias Mitigation in AI Systems) wurde am 31. Oktober 2025 offiziell abgeschlossen. Nach drei Jahren wegweisender Arbeit zur Entwicklung fairerer, inklusiverer und verantwortungsvoller Künstlicher Intelligenz brachte das Projekt akademische, industrielle und gesellschaftliche Partner zusammen, um Bias in KI-Systemen zu adressieren. Die Ergebnisse bieten politischen Entscheidungsträgern, Technologieentwicklern und der Gesellschaft konkrete Strategien, um Fairness in den Mittelpunkt von KI-Innovation zu stellen.

MMM-Fair: Demo Track CIKM 2025

“MMM-Fair: An Interactive Toolkit for Exploring and Operationalizing Multi-Fairness Tradeoffs” wurde im Rahmen des Demo Tracks der CIKM 2025 in Seoul, Republik Korea, präsentiert.

Kick-off-Workshop des Projekts DZdA – Deutsches Zentrum für digitale Aufgaben in der Hochschullehre

Der Kick-off-Workshop des Projekts Deutsches Zentrum für digitale Aufgaben in der Hochschullehre (DZdA) fand als zweitägige, intensive Veranstaltung mit allen neun Projektpartnern aus Hochschulen in ganz Deutschland statt. Gastgeber war die OTH Amberg-Weiden, die gemeinsam mit der Strategieberatungsfirma pictomind GmbH durch die Veranstaltung führte. Ziel des Workshops war es, ein gemeinsames Projektverständnis zu schaffen, strategische Ziele zu definieren und die Grundlage für eine erfolgreiche Zusammenarbeit zu legen.

The Multifaced Nature of Bias in AI: Impact on Model Generalization, Robustness, and Fairness

Beim EU AI Fairness Cluster-Meeting in Brüssel in der vergangenen Woche präsentierte Eirini Einblicke in die verschiedenen Formen von Bias in der KI in einem Vortrag mit dem Titel „The Multifaced Nature of Bias in AI: Impact on Model Generalization, Robustness, and Fairness“

EU AI Fairness Cluster in Brüssel

Eirini nahm am Abschlussevent des EU AI Fairness Cluster in Brüssel teil. Es war eine großartige Gelegenheit, verschiedene Aspekte von Fairness in der KI zu erkunden.

Keynote zum Thema Bias and Fairness in AI: Current and Future Trends

Eirini hat am CISUC – Centre for Informatics and Systems der Universität Coimbra einen Keynote-Vortrag zum Thema „Bias und Fairness in der KI: Aktuelle und zukünftige Trends“ gehalten.

Paper akzeptiert: IEEE ICDM 2025

Unser Paper "TABFAIRGDT: A Fast Fair Tabular Data Generator using Autoregressive Decision Trees" wurde für IEEE ICDM 2025 akzeptiert. Herzlichen Glückwunsch an Manolis und alle weiteren involvierten Personen!

Maschinen wie wir?

Eirini hat an der INDOR Ringvorlesung “Maschinen wie wir? Wie KI Bildung, Wirtschaft und Gesellschaft herausfordert” im WT24 teilgenommen. Sie steuerte einen Kurzvortrag über KI-Bias (das Nützliche, das Schlechte und das Schädliche) bei, der auch die Grundlage für ein Kapitel im Buch „The Multifaced Nature of Bias in AI: Impact on Model Generalization, Robustness, and Fairness“ bildete.

Paper akzeptiert: IEEE Big Data 2025

Unser Paper "A Deep Latent Factor Graph Clustering with Fairness-Utility Trade-off Perspective" wurde bei IEEE Big Data 2025 akzeptiert. Herzlichen Glückwunsch Siamak!

MMM-FAIR in der Deutschen Technik-Zeitschrift IT BOLTWISE vorgestellt

MMM-Fair, das Open-Source-Toolkit zur Fairnessanalyse in KI-Systemen, wurde kürzlich in der deutschen Technik-Zeitschrift IT Boltwise vorgestellt.

Dr. Swati bei der EWAF’25 in Eindhoven.

Dr. Swati Swati präsentierte ihre aktuelle Forschung auf dem European Workshop on Algorithmic Fairness (EWAF’25), der in Eindhoven, am 30. Juni – 02. Juli 2025 stattfand.

🌱 Highlights der 4. Plenarsitzung von STELAR an der UniBwM

Das STELAR-Konsortium traf sich auf Einladung der Universität der Bundeswehr München zu seiner 4. Vollversammlung, da sich das Projekt seiner Endphase im August 2025 nähert.

Paper veröffentlicht im Journal of Automation in Construction

Unser Paper "Generative AI-augmented offshore jacket design: Integrated approach for mixed tabular data generation under scarcity and imbalance" wurde veröffentlicht im Journal of Automation in Construction.

Paper akzeptiert auf der FAccT 2025

Unser Paper “Achieving Socio-Economic Parity through the Lens of EU AI Act” wurde auf der FAccT 2025 angenommen. Herzlichen Glückwunsch Arjun!

Paper akzeptiert auf der IJCNN 2025

Unser Paper “Mitigating Semantic Drift: Evaluating LLMs Efficacy in Psychotherapy through In-context Conversational Dialogue Summarization Leveraging MITI Code” wurde auf der IJCNN 2025 angenommen. Herzlichen Glückwunsch Vivek!

Paper akzeptiert auf der WWW 2025

Unser Paper "Fairness Evaluation with Item Response Theory" wurde auf der WWW 2025 angenommen. Herzlichen Glückwunsch Ziqi!

Fairness in der KI vorantreiben: Schlüsselerkenntnisse vom 5. Plenum des MAMMOth-Projekts in Wien

Swati Swati, Arjun Roy und Prof. Eirini Ntoutsi nahmen teil an dem 5. Plenum des MAMMOth-Projekts in Wien, 04-05 November 2024.

Rückblick auf das Jahr 2024

Zum Abschluss des Jahres 2024 sind wir stolz auf die Leistungen unserer Forschungsgruppe. In diesem Jahr haben wir mehr als 10 Papers auf verschieden internationalen Konferenzen gehalten, darunter ECMLPKDD, EWAF, PAKDD, CIRP ICME und ICAIF.

Manolis beim ICAIF24 in New York, USA.

Unser Ph.D. Manolis Panagiotou nahm an der ACM International Conference on AI in Finance (ICAIF24) in Brooklyn, New York, teil und hielt einen Vortrag über unser Paper mit Titel "TABCF: Counterfactual Explanations for Tabular Data Using a Transformer-Based VAE“, das von Prof. Ntoutsi mitverfasst wurde.

Vivek beim Data Makers Fest in Porto, Portugal

Dr. Vivek Kumar vom AIML-Team hielt einen Vortrag mit dem Titel „Unlocking LLMs: Forgiving errors, risks & ethical responsibility“ auf der zweiten Ausgabe des Data Makers Fest in Porto Portugal vom 24. bis 25. September 2024.

AIML AUF ECMLPKDD 2024 IN VILNIUS

Prof. Ntoutsi und Ph.Ds Emmanouil Panagiotou, Chethan Krishnamurthy Ramanaik, Arjun Roy, und Siamak Ghodsi, nahmen vom 09. bis 13. September 2024 an der ECML PKDD 2024 in Vilnius, Litauen, teil. Die Konferenz gilt als Europas führende Veranstaltung für maschinelles Lernen und Datenanalyse und blickt auf eine über zwei Jahrzehnte währende Geschichte zurück.

Swati an der EWAF'24

Swati Swati präsentierte das Paper mit dem Titel "Exploring Fusion Techniques in Multimodal AI-Based Recruitment: Insights from FairCVdb", an der EWAF'24.

UniBwM beim 4. Plenum des MAMMOth-Projekts: Halbzeit in Athen

Das Team der Universität der Bundeswehr München (UniBwM), bestehend aus Swati Swati und Arjun Roy, nahm kürzlich am 4. Plenum des MAMMOth-Projekts teil. Das Treffen fand vom 17. bis 18. April in der wunderschönen Mittelmeerstadt Athen statt und läutete den Beginn der Halbzeit des Projektzeitplans ein. Die lebhafte Sommerstimmung Athens bot den perfekten Rahmen für produktive Diskussionen und gemeinschaftliche Anstrengungen.

Siamak auf der PAKDD 2024 in Taipeh, Taiwan

Unser Paper wurde von unserem externen Doktoranden präsentiert. Siamak Ghodsi auf der PAKDD 2024 in Taipei, Taiwan

"AI vs Human" beim versusfestival in den Silvretta-Alpen in Österreich.

Prof. Ntoutsi nahm an der Podiumsdiskussion "AI vs Human" beim versusfestival in den Silvretta-Alpen in Österreich teil, zusammen mit Dr Niya Stoimenova, moderiert von Prof. Dr. Maximilian Lude.

Abschlussdiskussion INDOR Ringvorlesung “Maschinen wie wir? Wie KI Bildung, Wirtschaft und Gesellschaft herausfordert"

Prof. Ntoutsi hielt einen Vortrag über Voreingenommenheit in KI-Systemen, mit titel “Maschinen wie wir? Wie KI Bildung, Wirtschaft und Gesellschaft herausfordert"

Team AIML beim 3. Plenartreffen des MAMMOth-Projekts im November 2023 in Bologna.

Ph.D. Swati Swati, Ph.D. Arjun Roy und Prof. Eirini Ntoutsi (virtuell) nahmen am 3. Plenartreffen des EU-Horizon-Projekts MAMMOth in Bologna, Italien, vom 07 bis 08 November 2023 teil. Während der Veranstaltung präsentierten sie unsere Forschung zu multidimensionaler Fairness und beteiligten sich an Diskussionen mit anderen Konsortiumsmitgliedern zu Fragen der Fairness von KI-Systemen in Szenarien mit mehreren Diskriminierungsformen und über verschiedene Datenmodalitäten hinweg, einschließlich tabellarischer Daten, Graphen und Bildern.

Neues Teammitglied: Wilkommen Tobias!

Tobias Callies hat sich unserer Gruppe in München angeschlossen. Tobias hat einen Master of Mathematics in Data Science von der TUM München, und einen Bachelor in Wirtschaftsmathematik von der LMU München. Willkommen an Bord Tobias!

AIML AUF ECMLPKDD 2023 in Turin, Italien

Prof. Ntoutsi, Ph.D. Emmanouil Panagiotou sowie die externen Ph.Ds. Simone Fabbrizzi und Vasilis Gkolemis nahmen vom 18. bis 22. September 2023 an der ECML PKDD 2023 in Turin, Italien, teil. Die Konferenz gilt als Europas führende Veranstaltung für maschinelles Lernen und Datenanalyse und blickt auf eine über zwei Jahrzehnte währende Geschichte zurück.

Neues Teammitglied: Wilkommen Abheek!

Abheek Dhingra hat sich unserer Gruppe in München angeschlossen. Abheek hat einen Master of Science von der RWTH Aachen, Deutschland und einen Bachelor von der VIT University, Indien. Willkommen an Bord Abheek!!