Im Artikel wird untersucht, inwieweit Moderatoren auf Social-Media-Plattformem technisch unterstützt werden können, um Hassrede effizient zu erkennen. Verschiedene Designprinzipien werden diskutiert und entwickelt, um eine effiziente Benutzeroberfläche für Entscheidungsunterstützungssysteme zu erstellen, welche künstliche Intelligenz nutzt um menschliche Moderation zu unterstützen. In drei Designzyklen wurden die Designoptionen mit insgesamt 641 Teilnehmenden qualitativ und quantitativ bewertet. Dabei wurden unter anderem die wahrgenommene Benutzerfreundlichkeit untersucht, sowie der signifikante Einfluss der KI-Erklärbarkeit auf wahrgenommene kognitive Anstrengung, wahrgenommene Informiertheit und Vertrauenswürdigkeit der KI nachgewiesen.

Das Paper kann hier aufgerufen und heruntergeladen werden.

Aktuelles

Übersicht