Empfohlene Voraussetzungen
Gute Kenntnisse in maschinellem Lernen, Algorithmen, Statistik und Wahrscheinlichkeitsrechnung.
Qualifikationsziele
Vorlesung Responsible Artificial Intelligence: Der Bereich der verantwortungsvollen KI ist in letzter Zeit in dem Versuch entstanden, den Menschen in den Mittelpunkt von KI-basierten Systemen zu stellen, indem Aspekte wie Fairness, Erklärbarkeit, Zuverlässigkeit und Privatsphäre von KI-Systemen berücksichtigt werden. In diesem Kurs werden verschiedene Aspekte der verantwortungsvollen KI behandelt, wobei der Schwerpunkt auf fairnessbewusstem maschinellem Lernen und erklärbarer KI (XAI) liegt.
Am Ende des Kurses werden Sie gelernt haben, wie man Verantwortungsaspekte wie Fairness und XAI in den Entwurf und die Anwendung von KI einbeziehen kann.
Seminar Responsible Artificial Intelligence: Die Seminare zielen auf die
unabhängige Erforschung eines wissenschaftlichen Themas auf der Grundlage einiger Veröffentlichungen und einer qualitativ hochwertigen Präsentation des Themas sowohl in schriftlicher (Bericht) als auch in mündlicher Form (Präsentation und Frage- und Antwortsitzungen). Dieses Seminar widmet sich der Diskussion ausgewählter Themen der verantwortungsvollen Künstlichen Intelligenz. Jedes Trimester steht ein anderes Thema im Mittelpunkt, z.B. Multi-Diskriminierung, post-hoc Erklärbarkeit, kontrafaktische Erklärungen, Erklärbarkeit für bestimmte Datentypen, etc.
Inhalt
Die diskriminierenden Effekte der KI-basierten Entscheidungsfindung auf bestimmte Bevölkerungsgruppen wurden bereits in einer Reihe von Fällen beobachtet, was zu einer zunehmenden Besorgnis der Öffentlichkeit über die Auswirkungen der KI auf unser Leben geführt hat; außerdem nimmt die Komplexität der KI-Modelle zu, was es schwierig macht zu verstehen, wie Entscheidungen getroffen werden und ob die Modelle sinnvolle Muster aus den Daten lernen.
Vorlesung Responsible Artificial Intelligence:
- Responsibility aspects
- Fairness-aware learning
- Explainable AI
- Responsibility aspects in AI/ML pipelines
Seminar Selected topics in Responsible Artificial Intelligence: Die Studentinnen und Studenten wählen ein Thema aus der Liste der vorgegebenen Themen. Für jedes Thema erhalten die Studentinnen und Studenten 3-5 Forschungspapiere. Ausgehend von den Seed Papers sollen die Studentinnen und Studentendie einschlägige Literatur untersuchen und ihre Ergebnisse, einschließlich einer vergleichenden Bewertung der verschiedenen Ansätze und offenen Herausforderungen, in einem 5- eitigen Report zusammenfassen. Darüber hinaus sollen die Studentinnen und Studenten ihren Kommilitoninnen und Kommilitonen konstruktives Feedback zu ihren Reports und Präsentationen geben (Peer Review). Schließlich sollen die Studentinnen und Studenten ihre Arbeit - in einer 20-minütigen Präsentation und einer 10-minütigen Fragerunde - während eines Blockseminars am Ende des Trimesters vorstellen.
In allen Lehrveranstaltungen werden die Lehrmaterialien in englischer Sprache zur Verfügung gestellt. Die Veranstaltungen werden in englischer Sprache gehalten
Literatur
- Virginia Dignum, Responsible Artificial Intelligence - How to Develop and Use AI in a Responsible Way, Springer, 2019
- Solon Barocas, Moritz Hardt, Arvind Narayanan, FAIRNESS AND MACHINE LEARNING Limitations and Opportunities, online, 2022
- Christopher Molnar, Interpretable Machine Learning - A Guide for Making Black Box Models Explainable, 2022
Für das Seminar: Je nach dem Thema des Seminars kann jedes Trimester zusätzliches Lesematerial bereitgestellt werden.
Leistungsnachweis
Die Prüfungsform ist ein Notenschein, dessen Note sich aus einer schriftlichen (40 Min) oder mündlichen (20 Min) Prüfung der Vorlesung und der Benotung des Seminars zusammensetzt. Die genaue Zusammensetzung der Note wird zu Beginn des Moduls bekannt gegeben.
Verwendbarkeit
Wahlpflichtmodul im Studiengang Master Cyber-Sicherheit in der Vertiefung Security Intelligence (SI)
Dauer und Häufigkeit
Das Modul dauert 1 Trimester und wird im Herbsttrimester (HT) angeboten.