Diese Ergebnisse stammen aus Forschungsarbeiten von Tamer Boyaci und Francis de Véricourt, beide Professoren für Management Science an der ESMT Berlin, sowie von Caner Canyakmaz, der früher als Post-Doc an der ESMT tätig war und jetzt Assistent Professor of Operations Management an der Ozyegin-Universität ist. Die Forscher wollten untersuchen, wie maschinengestützte Vorhersagen den Entscheidungsprozess und die Ergebnisse eines menschlichen Entscheidungsträgers beeinflussen können.  

Interessanterweise erhöht der Einsatz von Maschinen die Arbeitsbelastung des Menschen am stärksten, wenn er kognitiv eingeschränkt ist, z. B. unter Zeitdruck steht oder Multitasking betreibt. Situationen, in denen Entscheidungsträger eine hohe Arbeitsbelastung erfahren, sind jedoch genau dann am verlockendsten, wenn der Einsatz von KI zur Erleichterung dieser Belastung sinnvoll erscheint. Die Forschung legt nahe, dass der Einsatz von KI in diesem Fall, um den Prozess zu beschleunigen, nach hinten losgehen und den kognitiven Aufwand des Menschen eher erhöhen als verringern kann.  

Die Forscher fanden auch heraus, dass maschinelle Eingaben zwar immer die Gesamtgenauigkeit menschlicher Entscheidungen verbessern, aber auch die Wahrscheinlichkeit bestimmter Fehlertypen, wie z. B. falsch positiver Ergebnisse, erhöhen können. Für die Studie wurde ein Modell des maschinellen Lernens verwendet, um die Unterschiede in der Genauigkeit, der Neigung und dem Ausmaß der kognitiven Anstrengung von Menschen zu ermitteln, wobei ausschließlich von Menschen getroffene Entscheidungen mit maschinell unterstützten Entscheidungen verglichen wurden.  

„Die rasche Einführung von KI-Technologien in vielen Unternehmen hat in letzter Zeit die Befürchtung aufkommen lassen, dass KI den Menschen bei bestimmten Aufgaben irgendwann ersetzen könnte”, sagt Professor de Véricourt. „Wenn sie jedoch zusammen mit menschlichem Verstand eingesetzt werden, können Maschinen die ergänzenden Stärken des Menschen erheblich verbessern”, sagt er.   

Die Forscher sagen, dass ihre Ergebnisse den Wert der Zusammenarbeit zwischen Menschen und Maschinen für die Fachwelt deutlich aufzeigen. Menschen sollten sich aber auch bewusst sein, dass Maschinen zwar unglaublich genaue Informationen liefern können, der Mensch aber oft noch eine kognitive Anstrengung unternehmen muss, um seine eigenen Informationen zu bewerten und das Rezept der Maschine mit seinen eigenen Schlussfolgerungen zu vergleichen, bevor er eine Entscheidung trifft. Die Forscher sagen, dass der Grad der kognitiven Anstrengung steigt, wenn Menschen unter Druck stehen, eine Entscheidung zu treffen.  

„Maschinen können aufgrund ihrer unglaublichen Rechenleistung bestimmte Aufgaben mit unglaublicher Genauigkeit ausführen, während menschliche Entscheidungsträger zwar flexibel und anpassungsfähig sind, aber durch ihre begrenzte kognitive Kapazität eingeschränkt werden - ihre Fähigkeiten ergänzen sich”, sagt Professor Boyaci. „Der Mensch muss sich jedoch vor den Umständen des Einsatzes von Maschinen in Acht nehmen und verstehen, wann er effektiv ist und wann nicht.” 

Am Beispiel einer Ärztin und eines Patienten legen die Ergebnisse der Forscher nahe, dass der Einsatz von Maschinen die Diagnosegenauigkeit insgesamt verbessert und die Zahl der falsch diagnostizierten Patientinnen und Patienten verringert. Wenn die Häufigkeit von Krankheiten jedoch gering und die Zeit knapp ist, würde die Einführung einer Maschine zur Unterstützung der Ärztinnen und Ärzte bei der Diagnose zu mehr Fehldiagnosen und einem höheren kognitiven Aufwand für die Diagnose führen – aufgrund des zusätzlichen kognitiven Aufwands, der aufgrund der Mehrdeutigkeit, die Maschinen verursachen können, erforderlich ist.  

Die Forscher erklären, dass ihre Ergebnisse sowohl Hoffnung als auch Vorsicht für diejenigen bieten, die Maschinen bei der Arbeit einsetzen wollen. Positiv ist, dass sich die durchschnittliche Genauigkeit verbessert, und wenn die maschinellen Eingaben eher das Erwartete bestätigen, sinken die Fehlerquoten und der Mensch ist „effizienter”, da er seine kognitiven Anstrengungen reduziert.   

Die Einbeziehung maschineller Vorhersagen in menschliche Entscheidungen ist jedoch nicht immer von Vorteil, weder im Hinblick auf die Verringerung von Fehlern noch auf den kognitiven Aufwand. Die Einführung einer Maschine zur Verbesserung eines Entscheidungsprozesses kann sogar kontraproduktiv sein, da sie bestimmte Fehlertypen sowie die Zeit und den kognitiven Aufwand, die für eine Entscheidung erforderlich sind, erhöhen kann. Die Ergebnisse unterstreichen den kritischen Einfluss, den maschinengestützte Vorhersagen auf menschliche Urteile und Entscheidungen haben. Die Ergebnisse geben Hinweise darauf, wann und wie maschinelle Eingaben berücksichtigt werden sollten, und damit auf die Gestaltung der Zusammenarbeit zwischen Mensch und Maschine.  

Der Artikel wurde in Management Science veröffentlicht und kann hier eingesehen werden.