Konferenzpapiere zum Einfluss von Datenspenden auf KI-Systeme und dem Design von xAI-Systemen zur Entscheidungsunterstützung der Dermatologie veröffentlicht
Das von Prof. Christian Meske und Kollegen verfasste Paper „How individuals can shape AI through data – An AI literacy and morality perspective” wurde im Rahmen der European Conference on Information Systems (ECIS 2023, VHB: B) veröffentlicht.
Das Konferenzpapier untersucht die Bedeutung von Datenspenden für das Training von Künstlicher Intelligenz (KI) an Beispielen des Gesundheitssektors und der Entertainmentindustrie. Die Ergebnisse bieten ein konzeptionelles Verständnis für die Auswirkungen von Datenspenden unterschiedlicher Qualität auf die Leistung von KI-Systemen. Dabei werden die Abhängigkeit von KI-Systemen von verfügbaren Trainingsdaten, sowie die dadurch im Kontext der Datenspende aufkommenden ethischen Fragestellungen aufgezeigt. Neben einem besseren Verständnis für die Auswirkung von Datenspenden auf KI-Technologien, regt der Beitrag dazu an, die eigene moralische Sichtweise auf das Thema zu reflektieren.
Daniel Eisenhardt präsentierte das gemeinsam mit Prof. Christian Meske, Enrico Bunde und weiteren Kollegen verfasste Konferenzpapier „Giving DIAnA More TIME – Guidance for the Design of XAI-Based Medical Decision Support Systems“ auf der International Conference on Design Science Research in Information Systems and Technology (DESRIST, VHB: C) in Südafrika.
Die Autoren untersuchen mit einem Design Science Ansatz wie Nutzeroberflächen von erklärbaren KI-Systemen gestaltet sein sollten, um deren Nützlichkeit für Ärzt:innen und Patient:innen im Rahmen der dermatologischen Diagnose sicherzustellen. Basierend auf qualitativen Interviews mit Nutzer:innen des existierenden Dermatologie-Systems DIAnA (Klassifizierung von Hautläsionen) und Konzepten der Theory of Interactive Media Effects Effekte (TIME) werden 20 Designanforderungen identifiziert und 9 Designprinzipien formuliert. Eine abschließende Auswertung zeigt auf, dass 77 % der Teilnehmenden die Designprinzipien übernehmen, und 82 % sie an Kolleg:innen weiterempfehlen würden. Dies belegt die Wiederverwendbarkeit der Designprinzipien und unterstreicht deren wahrgenommenen Mehrwert für betroffene Stakeholder. Darüberhinaus tragen die Forschungsergebnisse zu der Entwicklung von erklärbare, nutzerzentrierten KI-Systemen zur Verbesserung von Diagnoseverfahren und der generellen Gesundsheitsversorgung bei.
