VIKING
Über das Projekt
- Vollständiger Name des Projekts:Vertrauenswürdige Künstliche Intelligenz für polizeiliche Anwendungen (VIKING) – Teilvorhaben: Erklärbarkeit vertrauenswürdiger KI-Sprachmodelle für den transparenten Gebrauch bei Sicherheitsbehörden zur Textklassifikation
- Projektakronym: VIKING
- Förderzeitraum: 01.2022 – 03.2025
- Finanzierung: BMFTR (BMBF) – 13N16244
- Projekt-Homepage: VIKING
Die polizeiliche Praxis zeigt, dass der Einsatz von Künstlicher Intelligenz (KI) einerseits die Ermittlungen beschleunigen und vereinfachen kann, andererseits aber auch verschiedene Risiken für den Ermittlungserfolg beinhaltet. So können unausgewogene Trainingsdatensätze, in denen beispielsweise demographische Häufigkeiten verzerrt abgebildet sind (Bias), zu fehlerhaften Ergebnissen von KI-Lösungen führen. Ein weiteres Risiko besteht in der fehlenden Nachvollziehbarkeit und mangelnden Transparenz der Ergebnisse komplexer KI. Die Europäische Kommission hat eine Verordnung für vertrauenswürdige KI vorgeschlagen. Die darin erhobenen Anforderungen an Genauigkeit, Nachvollziehbarkeit und Robustheit von KI-Systemen werfen aber erhebliche wissenschaftlich-technische Fragen auf: Wie können Anforderungen technisch realisiert, rechtlich-ethisch sichergestellt und objektiv gemessen werden? Deshalb ist das wissenschaftlich-technische Gesamtziel von VIKING die Erforschung und Implementierung von Lösungen zur Messung und Optimierung der Genauigkeit (Debiasing), Nachvollziehbarkeit (Erklärbarkeit) und Robustheit (Angriffsfestigkeit) zum Einsatz vertrauenswürdiger KI in der polizeilichen Anwendung. Das Teilvorhaben „Erklärbarkeit vertrauenswürdiger KI-Sprachmodelle für den transparenten Gebrauch bei Sicherheitsbehörden zur Textklassifikation“ widmet sich der Erforschung vertrauenswürdiger KI-Methoden zur Textklassifikation und komplementiert somit die Forschung zur Gesichts- und Sprechererkennung sowie zur Objektdetektion der anderen Teilvorhaben von VIKING. Das wissenschaftlich-technische Ziel dieses Teilvorhabens ist vor allem die Erforschung und Implementierung von Lösungen zur Herstellung von Nachvollziehbarkeit (Erklärbarkeit) bei der KI-basierten Textauswertung in der polizeilichen Anwendung, um letztendlich mehr Transparenz beim Anwender zu schaffen.
Projektpartner
- IDEMIA Identity & Security Germany AG
- Landeskriminalamt Nordrhein-Westfalen
- Polizeipräsidium München
- Fraunhofer-Institut für Digitale Medientechnologie (IDMT)
- DIN Deutsches Institut für Normung e. V.
- Hochschule für Wirtschaft und Recht Berlin
- Universität Konstanz
- Universität Tübingen, Internationales Zentrum für Ethik in den Wissenschaften (IZEW)
- Zentrale Stelle für Informationstechnik im Sicherheitsbereich (ZITiS)
- Bundeskriminalamt
- Landeskriminalamt Baden-Württemberg
- Bundesamt für Sicherheit in der Informationstechnik
