Wie wir auf algorithmische Entscheide reagieren

31.01.2023 Wenn Künstliche Intelligenz Entscheide trifft, stehen wir Menschen ihnen zumeist skeptisch gegenüber. Unser Forscher Andreas Sonderegger hat zusammen mit Kolleg*innen von der Freien Universität Berlin in zwei vergleichenden Studien untersucht, wann wir Entscheidungen von KI eher bevorzugen würden.

Generell deuten Forschungsergebnisse darauf hin, dass Menschen bei der Arbeit menschliche, statt algorithmische Entscheidungsträger bevorzugen. Die meisten dieser Studien verwenden jedoch hypothetische Szenarien, zum Beispiel: «Stellen sie sich vor, sie bewerben sich auf eine Stelle und ihre Bewerbung wird von einer KI gescreent – wie finden sie das?» Die Verwendung solcher fiktiven Szenarien in der Forschung ist nicht unumstritten, u.a. weil nicht sicher ist, ob wir in der Realität ähnlich reagieren. Deshalb führten die Forschenden zwei vergleichende Studien durch. Während Studie 1 auf einem hypothetischen Szenario basierte, mussten sich in Studie 2 Personen für die Teilnahme an einem attraktiven und spannenden Experiment bewerben, also um echte Anreize konkurrieren. Dabei wurde ihnen mitgeteilt, dass entweder eine KI oder ein Mensch die Auswahl trifft – aufgrund der Leistung in einem Auswahltest. Nach der Durchführung des Tests schätzten die Teilnehmer*innen das Auswahlverfahren bezüglich Fairness, Akzeptanz und Vertrauenswürdigkeit ein. 

Die Ergebnisse zeigen, dass die Teilnehmer*innen sowohl bei fiktiven Szenarien als auch in realen Auswahlsituationen den Entscheid einer KI weniger akzeptieren und Vertrauen schenken, als wenn Menschen entschieden haben. Dies bedeutet, dass negative Einstellungen gegenüber automatisierten Entscheidungen auch in nicht-fiktiven Studiendesigns bestätigt werden konnten – ein weiteres Indiz, dass der Einsatz von KI bei wichtigen Entscheidungen mit Skepsis verbunden ist und deshalb in der Praxis gut überlegt sein sollte.  

Mehr erfahren