26. Juni 2025
Human-Centered AI – Insights into Explainable AI and Uncertainty Quantification
Anton Hummel
AI Engineer
XITASO
Emily Schiller
AI Engineer
XITASO
Veranstaltung
Gastvorlesung an der Universität Augsburg – Studiengang Softwareengineering
Themen
- Human-Centered AI
- Explainable AI (XAI)
- Uncertainty Quantification
- AI in Healthcare
- Clinical Decision Support Systems
Abstract
Künstliche Intelligenz wird zunehmend in sicherheitskritischen Bereichen wie dem Gesundheitswesen eingesetzt. Gleichzeitig stellen komplexe Machine-Learning-Modelle Anwenderinnen und Anwender vor Herausforderungen hinsichtlich Nachvollziehbarkeit, Vertrauen und verantwortungsvoller Nutzung.
Die Gastvorlesung vermittelt die Grundlagen KI-basierter Clinical Decision Support Systems (CDSS) und zeigt, warum moderne neuronale Netze häufig als „Black Boxes“ wahrgenommen werden. Aufbauend darauf werden Methoden der Explainable AI (XAI) vorgestellt, mit denen Entscheidungen von KI-Systemen verständlicher gemacht werden können. Ergänzend behandelt die Vorlesung Ansätze zur Uncertainty Quantification (UQ), die Unsicherheiten von Vorhersagen sichtbar machen und so eine fundierte Mensch-KI-Zusammenarbeit unterstützen.
Anhand aktueller Forschungsarbeiten und Praxisbeispiele aus dem Gesundheitswesen wird diskutiert, wie Human-Centered AI dazu beitragen kann, vertrauenswürdige und nutzerorientierte KI-Systeme zu entwickeln.
Präsentation kostenlos downloaden
Füllen Sie das Formular aus und erhalten Sie die Präsentation anschließend direkt als PDF.