Mit KI zusammenarbeiten: Ein neues Spiel nach anderen Regeln

25 Februar 2020

Prof. Dr. Ophelia Deroy widmete ihren Gastvortrag am Institut für Psychologie der Universität der Bundeswehr München den ethischen Aspekten von Entwicklungsperspektiven der künstlichen Intelligenz. In einer Reihe von sozialen Experimenten zeigten die Teilnehmenden eine deutlich höhere Bereitschaft zur Ausbeutung und zum eigennützigen Verhalten der KI als Kooperationspartner gegenüber im Vergleich zur Interaktion mit Menschen. Diese Verhaltensmuster von Menschen könnten in der weitreichenden Perspektive zu ihrem ungeplanten Anlernen durch die KI führen.

Wie prägen sich Mensch und künstliche Intelligenz gegenseitig? Prof. Dr. Ophelia Deroy, Inhaberin des Lehrstuhls für Philosophy of Mind an der Ludwig-Maximilians-Universität München, gewährte den Universitätsmitgliedern am 18. Februar 2020 in ihrem Vortrag „Exploiting the machine: A new challenge for Human-AI interactions“ einen anregungsreichen Einblick in mögliche Zukunftsszenarien und Spannungen im Team Mensch - Maschine. Die Weiterentwicklung von neuen Technologien bringt immer auch unbeabsichtigte Konsequenzen mit sich.  Das ist auch bei den Fortschritten der künstlichen Intelligenz der Fall. Die Frage nach deren ungeplanten Folgen muss auch aus der ethischen Perspektive betrachtet werden, so die Expertin für Philosophie des Geistes und für Neurowissenschaften, die für stärkere Miteinbeziehung von philosophischen Ansätzen in den interdisziplinären wissenschaftlichen Diskurs plädiert.

Frage des Vertrauens

Die Zusammenarbeit von Menschen kann auf unterschiedlichen Gründen basieren: Uneigennützigkeit, kollektives Denken oder auch der Zwang der sozialen Normen kann der Kooperation und der gegenseitigen Unterstützung zugrunde liegen. Doch falls der Kooperationspartner kein Mensch ist, verlieren sie ihre Gültigkeit; so besteht die Frage, ob und inwieweit die Zusammenarbeit davon beeinträchtigt wäre. In ihrer Forschung zu Szenarien der Interaktion von Menschen mit der künstlichen Intelligenz fokussierte Ophelia Deroy auf stillschweigender Koordination, die einen wichtigen Teil der zwischenmenschlichen Kommunikation und Kooperation ausmacht. Die Forscherin und ihr Team hat das Verhalten von Menschen zu KI und zu anderen Menschen in einer Reihe von sozialen Dilemmata aus der Spieltheorie beobachtet, in denen der Spieler die Wahl hat, mit seinem Gegenüber zu kooperieren oder zu konkurrieren. So handelt das Gefangenendilemma von zwei Beschuldigten, die einzeln verhört werden und die Wahl haben, die Schuld zu gestehen oder zu leugnen. Wenn beide leugnen, erhalten sie eine niedrige Strafe, und sollen beide gestehen, fällt die Strafe höher aus, ist jedoch keine Höchststrafe. Falls aber nur einer gesteht, geht er straffrei aus, während der andere zur Höchststrafe verurteilt wird. Der Verlauf von Spielen lieferte wertvolle Erkenntnisse über die Einstellung der Menschen zur KI.

Menschen und Maschinen lernen voneinander

In Spielsituationen, die für beide Partien riskant waren und in denen keine Möglichkeit zur Ausnutzung des Vertrauens des Anderen bestand, zeigte das Verhalten von Spielenden zum menschlichen Gegenüber und zur KI keinen signifikanten Unterschied. War jedoch ein deutlicher Gewinn durch Vertrauensbruch abzusehen, verhielten sie sich zum KI deutlich eigennütziger und weniger kooperativ als zu einem Menschen. Was die Voreinstellung der Teilnehmenden zur maschinellen Intelligenz betrifft, so erwarteten sie von einem Programm, das menschliches Verhalten imitieren sollte, ein hohes Vertrauensniveau, „wohlwollendes“ und kooperationsbereites Handeln; nachdem sie aber dieses erlebten (oder vermuteten), erwiesen sie eine hohe Bereitschaft, es zum Zweck von einem höheren Eigengewinn auszunutzen.

Prof. Deroy schloss ihren Vortrag mit einem zusätzlichen Anlass zum Nachdenken an. Da es bei der KI um lernfähige Systeme handelt, die ihr Wissen auch aus praktischen Erfahrungen beziehen, meinte sie, könnte unkooperatives, ausbeutendes oder opportunistisches Verhalten der Menschen in ihren Interaktionen mit den maschinellen Kooperationspartnern Anlernen solcher Handlungsmuster zur Folge haben. „Disruptive Technologien ändern nicht nur das Spiel, sondern auch seine Regeln“, resümierte Ophelia Deroy.

Bild: Prof. Dr. Ophelia Deroy, Prof. Dr. Merle Fairhurst