Forscher der University of Georgia haben eine Studie durchgeführt, die bestätigt, was viele bereits vermutet haben: Menschen neigen inzwischen dazu, Algorithmen mehr zu vertrauen als sich selbst, besonders wenn es um langweilige Aufgaben geht.
Die Prämisse der Studie war einfach: Etwa 1.500 Teilnehmern wurden Fotos gezeigt und gebeten, die Anzahl der Personen auf den Bildern zu zählen.
Die Teilnehmer konnten die Vorschläge eines Computeralgorithmus oder die Durchschnittsschätzungen ihrer Mitmenschen annehmen, um die Aufgabe zu lösen, die Bilder von 15 bis 5.000 Personen umfasste.
Je größer die Menschenmenge oder die Komplexität der Aufgabe wurde, desto mehr verließen sich die Teilnehmer verständlicherweise auf den Algorithmus, um die Menschen zu zählen. Schließlich sind Computer besonders gut in mühsamen Aufgaben, vor denen Menschen zurückschrecken, wie zum Beispiel dem Zählen.
“Es scheint, als gäbe es eine Tendenz, sich stärker auf Algorithmen zu verlassen, wenn eine Aufgabe schwieriger wird, und dieser Effekt ist stärker als die Tendenz, sich auf den Rat anderer Menschen zu verlassen”, sagt Eric Bogert, Doktorand für Management-Informationssysteme an der University of Georgia.
Die Forscher räumen ein, dass es zumindest bei dieser speziellen Aufgabe keine Mehrdeutigkeit in Bezug auf die Antwort gibt, nur richtig oder falsch, so dass das Fehlen von Nuancen oder Perspektiven die Aufgabe ideal für einen Algorithmus im Gegensatz zu einem Menschen macht.
“Dies ist eine Aufgabe, von der die Menschen glauben, dass ein Computer sie gut bewältigen kann, auch wenn sie vielleicht mehr der Voreingenommenheit unterliegt als das Zählen von Objekten”, sagt Aaron Schecter, ein Informationssystem-Forscher von der University of Georgia.
Die Forscher betonen jedoch, dass unsere Wahrnehmung, wie genau ein Algorithmus sein kann, einen wichtigen Faktor spielt – die Auslagerung der Aufgabe an eine Maschine bietet unbewusst die Möglichkeit, dass sich Voreingenommenheit und Diskriminierung unbemerkt von den menschlichen Teilnehmern einschleichen.
“Eines der häufigsten Probleme mit KI ist, wenn sie für die Vergabe von Krediten oder die Genehmigung von Darlehen eingesetzt wird”, sagt Schecter.
“Das ist zwar eine subjektive Entscheidung, aber da sind viele Zahlen drin – wie Einkommen und Kreditwürdigkeit -, so dass die Leute meinen, das sei ein guter Job für einen Algorithmus. Aber wir wissen, dass diese Abhängigkeit in vielen Fällen zu diskriminierenden Praktiken führt, weil soziale Faktoren nicht berücksichtigt werden.”
Algorithmen diktieren bereits große Teile menschlicher Aktivitäten, wobei die Börse, soziale Medien und die Preisgestaltung auf Online-Marktplätzen zu den unzähligen Aufgaben gehören, die als zu mühsam für Menschen angesehen werden, aber genau darin liegt das Potenzial für eine Katastrophe, wie diese neueste Forschung zeigt.
