Sicherheit für KI

Abstract:

Moderne Machine Learning Systeme werden von immer mehr Bürgerinnen und Bürgern verwendet und haben einen steigenden Einfluss auf die politische Willensbildung. Derzeit die Qualität solcher KI-getriebenen Analysen häufig schlecht. Hinzukommt der Einsatz von KI für Fake News und Propaganda. Schlimmer wären Szenarien bei denen die Antwort von großen Sprachmodellen gezielt manipuliert würden. Der Vortrag stellt die Notwendigkeit der Absicherung von Machine Learning Systemen mit in den Vordergrund und zeigt mögliche Angriffsvektoren auf.