Mensch & KI im Team: Warum Zusammenarbeit mehr als nur Algorithmen braucht
„Thinking Twice“ – Wenn KI zum Nachdenken anregt
Im ersten Beitrag, „Thinking Twice: A Sequential Approach to Nudge Towards Reflective Judgment in GenAI-Assisted Decision Making“, untersuchen Hüseyin H. Keke, Daniel Eisenhardt und Christian Meske wie sich Nutzer:innen bei Entscheidungen mit generativer KI zu analytischerem Denken anregen lassen, statt sich primär auf intuitive Prozesse zu verlassen.
Die Studie nutzt Erkenntnisse aus der Dual Process Theory, wonach Menschen eher analytisch denken, wenn sie auf Widersprüche stoßen. Die Autoren testeten in einem Experiment mit 130 Teilnehmenden einen sequenziellen Ansatz: Die Teilnehmenden trafen zunächst ihre eigene Entscheidung, bevor sie KI-Unterstützung erhielten.
Dieser Ansatz ermöglichte es, widersprüchliche Entscheidungen zu erkennen und führte im Vergleich zu anderen Bedingungen zu besseren Entscheidungen und einer gezielteren Nutzung der KI. Die Studie zeigt, wie gezielte Anpassungen im Design von Mensch–KI-Interaktionen zu reflektierteren Entscheidungen beitragen können.
„The GenAI Who Knew Too Little“ – Zusammenarbeit neu gedacht
Der zweite Beitrag, „The GenAI Who Knew Too Little – Revisiting Transactive Memory Systems in Human-GenAI Collaboration“ von Christian Meske und Tobias Hermanns beleuchtet die Kooperation zwischen Mensch und generativer KI aus der Perspektive der Transactive Memory Systems (TMS)-Theorie.
Die Studie untersucht, wie sich die Zusammenarbeit zwischen Mensch und generativer KI im Vergleich zu klassischer Teamarbeit zwischen Menschen verändert. Die Ergebnisse zeigen ein spannungsreiches Bild: Menschen entwickeln zunehmend ein gutes Gespür dafür, wozu generative KI in der Lage ist. Die KI hingegen erkennt menschliche Expertise nur kurzfristig und ohne echtes Erinnerungsvermögen. Das Vertrauen in die KI bleibt ambivalent. Nutzer:innen erkennen ihre Kompetenz an, überprüfen die Ergebnisse jedoch weiterhin kritisch. Zudem gestaltet sich die Zusammenarbeit überwiegend einseitig: Menschen übernehmen die führende Rolle, während die KI vor allem reagiert.
Die Ergebnisse verdeutlichen, dass die Kooperation mit generativer KI derzeit noch grundlegend anders funktioniert als klassische Teamarbeit zwischen Menschen. Zukünftige Entwicklungen sollten daher auf Anpassungen im System- und Interface-Design abzielen, um die Dimensionen Vertrauen, Koordination und Wissensverteilung stärker miteinander in Einklang zu bringen und so eine Zusammenarbeit zu ermöglichen, die dem in der TMS-Theorie beschriebenen Optimalzustand näherkommt.
Die Full Paper wurden in den Proceedingsder Konferenz publiziert und ist öffentlich zugänglich.
