Teilnahmevoraussetzungen

• Fundierte Kenntnisse in der Programmierung (in Python oder einer anderen Programmiersprache)
• Grundkenntnisse in Python (die Programmiersprache wird nicht von Grund auf behandelt)
• Grundkenntnisse im Bereich der Künstlichen Intelligenz / Machine Learning
• Eigenen PC oder Laptop
• Google Konto für GPU-Rechenkontingent in Google-Colab

Anmeldung

Die Vergabe von Praktikumsplätzen für den Studiengang Angewandte Informatik erfolgt zentral über die Fakultät Informatik. Zwischen dem 01.02.26 und dem 01.03.26 muss dazu der folgende Moodle-Kurs genutz werden: Allocation of Places in Seminars and Lab Classes.

Die Vergabe von Praktikumsplätzen für die Studiengänge Maschinenbau sowie Sales Engineering and Product Management erfolgt über Interessensbekundungen an die E-Mail unseres Sekretariats. Bitte Melden Sie Ihr Interesse bis zum 31.03.26 an. Sie werden bis zum Start der Vorlesungszeit darüber informiert, ob Sie einen Platz erhalten haben.

Die Vergabe von Praktikumsplätzen für Studierende der Universität Oldenburg erfolgt über die dortigen Verfahren.

Termine

• Einführungsveranstaltung: TBA per Zoom
• Einwöchige Blockveranstaltung: TBA per Zoom
• Dem Moodle-Kurs des Praktikums können Sie beitreten unter: Moodle (Das Passwort wird Ihnen mitgeteilt, sofern Sie einen Platz erhalten haben)

Ziele

Der Fokus dieser Lehrveranstaltung liegt auf der Erklärbarkeit und Transparenz von modernen Ansätzen
der Künstlichen Intelligenz (Explainable Artificial Intelligence/XAI). Dieses Modul befasst sich mit
anwendungsorientierten Fragen rund um XAI-Herausforderungen, die sowohl für die Praxis als auch
für die Forschung von großer Bedeutung sind. Primäres Lernziel ist die praktische Anwendung von
Techniken zur Unterstützung von Transparenz und Erklärbarkeit im Kontext der Künstlichen Intelligenz.
Aufgabenstellungen, die mit Hilfe prototypischer Implementierungen beantwortet werden, dienen dem
Transfer der theoretisch erlernten Inhalte.

Nach dem erfolgreichen Abschluss des Moduls …

• haben Studierende den Begriff und das Forschungsfeld der „Erklärbaren Künstlichen Intelligenz“ kennengelernt
• verfügen die Studierenden über die Grundlagenkenntnisse, um mit Hilfe der Programmiersprache Python beispielhafte ML-Modelle und XAI-Methoden auf unterschiedlichen Datensätzen anzuwenden

Inhalte

Die Veranstaltung verbindet theoretische Grundlagen der Erklärbarkeit von KI mit der praktischen Umsetzung und Anwendung von XAI-Methoden. Dazu gehören:

• Praktisches Grundlagenwissen zum Thema maschinelles Lernen
• Vertiefendes Anwendungswissen zum Thema Explainable Artificial Intelligence
• Vermittlung spezieller Anwendungsfelder und unterschiedlicher Herausforderungen der XAI (bspw. Bild-Klassifikation vs. Natural Language Processing)
• Aktuelle XAI-Tools verstehen und anwenden (z.B. SHAP, Grad-CAM, LIME, o.ä.)

Lehrform

Das Praktikum (virtuell durchgeführt) wird immer im Sommersemester in Kooperation mit der Universität
Oldenburg (Prof. Dr.-Ing. Daniel Sonntag) als einwöchige Blockveranstaltung angeboten. Zu Beginn des
Semesters findet eine Auftaktveranstaltung mit thematischer Einführung statt, in der Grundlagenliteratur
ausgegeben wird und die nachfolgend zusammengefasst werden muss. Hinzu kommt ein weiterer Austausch
ca. zwei Monate vor der Blockveranstaltung.

Es folgt in der vorlesungsfreien Zeit die Blockveranstaltung: in Vollzeit (8 Stunden/Tag). Nach
Einführungsvorträgen durch die Dozierenden zu Themen der Erklärbaren Künstlichen Intelligenz arbeiten
die Studierenden hier selbstständig an Praktikumsaufgaben. Jede teilnehmende Person erarbeitet eine
eigenständige Lösung, der Austausch mit anderen Teilnehmenden und gegenseitige Hilfestellungen sind
dabei gewünscht. Nach jeder Teilaufgabe erhalten die Studierenden Feedback zu ihrer Lösung durch die
Dozierenden.

Das Modul wird vollständig online (via Zoom) durchgeführt.

Prüfungsform

• Zusammenfassung XAI-bezogener Grundlagenliteratur
• Programmier- und Textaufgaben im Programmierpraktikum

Voraussetzungen für die Vergabe von Kreditpunkten

• Regelmäßige Teilnahme am Praktikum
• Beide Prüfungsformen (Zusammenfassung XAI-bezogene Grundlagenliteratur + Programmier- und
  Textaufgaben im Programmierpraktikum) mindestens bestanden

Literatur

• Adadi, A., & Berrada, M. (2018). Peeking inside the black-box: a survey on explainable artificial intelligence (XAI). IEEE access, 6, 52138-52160.
• Arrieta, A. B., Díaz-Rodríguez, N., Del Ser, J., Bennetot, A., Tabik, S., Barbado, A., … & Herrera, F. (2020). Explainable Artificial Intelligence (XAI): Concepts, taxonomies, opportunities and challenges toward responsible AI. Information fusion, 58, 82-115.
• Gunning, D., & Aha, D. (2019). DARPA’s explainable artificial intelligence (XAI) program. AI magazine, 40(2), 44-58.
• Meske, C., Bunde, E., Schneider, J., & Gersch, M. (2022). Explainable artificial intelligence: objectives, stakeholders, and future research opportunities. Information Systems Management, 39(1), 53-63.
• Minh, D., Wang, H. X., Li, Y. F., & Nguyen, T. N. (2022). Explainable artificial intelligence: a comprehensive review. Artificial Intelligence Review, 55(5), 3503-3568.
• Vilone, G., & Longo, L. (2021). Notions of explainability and evaluation approaches for explainable artificial intelligence. Information Fusion, 76, 89-106.