Station 19 – Erklärbare KI

Kiste 19: Erklärbare KI

Vertrauen ist gut – Kontrolle ist besser!

Die Funktionsweise von KI-Systemen, die mit Algorithmen des Maschinellen Lernens auf großen Datenmengen trainiert werden, ist oft nicht genau erklärbar. Entsprechend schwierig ist es zu bestimmen, wie ein solches KI-System zu einem Ergebnis gekommen ist und wie dieses zu beurteilen ist. Dabei können andere KI-Systeme, die Methoden der erklärbaren Künstlichen Intelligenz (eXplainable AI) nutzen, unterstützen. An dieser Station testen Schülerinnen und Schüler, wie sich ihr Vertrauen in die Ergebnisse von KI-Systemen durch Erklärungen für das Zustandekommen der Ergebnisse verändert.

Der Infotext erklärt, wie Methoden der eXplainable AI funktionieren.

Diese Lernstation wurde in Kooperation mit Ute Schmid, Lehrstuhl für Kognitive Systeme der Otto-Friedrich-Universität Bamberg, entwickelt. Vielen Dank für die Zusammenarbeit!