Wissenssnack: Der Blick in die »Black-Box« – Methoden, Fortschritte und Anwendungen der erklärbaren Künstlichen Intelligenz

Methoden der erklärbaren künstlichen Intelligenz (Explainable Artificial Intelligence, XAI) zielen darauf ab, den Entscheidungsprozess von »Black-Box«-KI-Systemen zu erklären. Sie sind in letzter Zeit verstärkt in den Fokus gerückt, da immer mehr KI-Systeme mit verbesserten Architekturen und zusätzlichen Leistungsvorteilen durch die Nutzung von GPU-Funktionen hervorragende Ergebnisse erzielen. In wichtigen Anwendungen ist die Gewährleistung von Transparenz und Interpretierbarkeit von KI-Systemen kein zusätzlicher Vorteil, sondern eine Mindestanforderung. In diesem Wissenssnack lernen Sie verschiedene XAI-Methoden und deren neueste Fortschritte kennen. Anhand von praktischen Beispielen aus den Bereichen Bild, Audio und Zeitreihen zeigen wir auf, wie XAI zur Vertrauensbildung beiträgt, indem sie klare und interpretierbare Erklärungen für KI-Modellvorhersagen liefert.

Referentin: Akshaya Bindu Gowri, Datenanalysesysteme am Fraunhofer IIS in Dresden