
Human-AI hybrids in sicherheitskritschen Systemen
21 November 2024
Human-Ai hybrids in safety-critical systems: Concept, definitions and perspectives from air traffic management
H Ali, PD Thinh, S Alam, M Schultz, MZ Li, Y Wang, E Itoh, V Duong. Available at SSRN 4806351
Die jüngsten Fortschritte im Bereich der Künstlichen Intelligenz (AI) haben den Weg für Human-AI Hybrid (HAH)-Systeme geebnet, die menschliche und KI-Fähigkeiten kombinieren, um menschliche Entscheidungsfindung zu unterstützen, anstatt sie zu ersetzen. In sicherheitskritischen Systemen wie dem Air Traffic Management (ATM) ist der Einsatz solcher Systeme jedoch noch begrenzt. Dies liegt an den hohen Sicherheitsanforderungen sowie den Herausforderungen, die sich aus der schwer vorhersehbaren Natur von KI und ihren Einschränkungen bei komplexen Entscheidungsprozessen ergeben.
Diese Studie bietet eine umfassende Analyse des aufkommenden Forschungsfeldes HAH im ATM. Sie definiert das Konzept und untersucht die zentralen Säulen für eine effektive Mensch-KI-Interaktion in diesem Bereich, darunter Zusammenarbeit, Anpassung und Vertrauen. Durch die Zusammenführung interdisziplinärer Forschungsansätze wird die Interaktion zwischen Mensch und KI analysiert, bestehende Herausforderungen identifiziert und Strategien zur Entwicklung leistungsfähiger HAH-Systeme im ATM vorgestellt.
Darüber hinaus werden reale Anwendungen aus dem ATM betrachtet, um die Lücke zwischen theoretischen Ansätzen und praktischer Umsetzung zu schließen. Diese Untersuchung liefert wertvolle Erkenntnisse für zukünftige Entwicklungen in vergleichbaren sicherheitskritischen Systemen.