Fraunhofer-Institut für Optronik, Systemtechnik und Bildauswertung IOSB 
Kurzbeschreibung des Produkts
Die vom Fraunhofer IOSB entwickelte XAI-Toolbox ist im Kern auf die KI-Erklärbarkeit ausgelegt. Sie ermöglicht die schnelle Auswertung verschiedener XAI-Methoden für KI-Verfahren. Das heißt, die Toolbox kann z. B. zur Datenanalyse, zum Debugging und zur Erklärung der Vorhersage eines beliebigen Black-Box-Modells eingesetzt werden. Damit wird die Vertrauenswürdigkeit bei KI-Entscheidungen gewährleistet. Aktuell unterstützt sie scikit- und TensorFlow-basierte Zeitreihen-Klassifikatoren.
Funktionen
Die XAI-Toolbox erschließt die KI-Methoden (Black-Box) und zeigt die Auswirkungen der einzelnen Inputs auf die Outputs. Dazu erzeugt sie zwei Arten von Erklärungen: lokale Erklärung für eine einzelne Instanz und globale Erklärung für mehrere Instanzen oder das gesamte Modell. Einerseits verbessert dies die Fähigkeit der Entwickler, die Ergebnisse besser zu erklären, andererseits stärkt das Vertrauen der Anwender auf die Methoden.
Außerdem hat die Toolbox eine benutzerfreundliche Oberfläche, um die Verwendung von KI-Modellen zu unterstützen. Dies erlaubt dem Anwender, das Ergebnis des KI-Verfahrens und die dazugehörigen Erklärungen intuitiv und korrekt zu interpretieren und schnell die richtigen Schlüsse zu ziehen. Zusätzlich kann der Anwender verschiedene XAI-Methoden bewerten und die beste auswählen. Daher ist die XAI-Toolbox eine notwendige Plattform für den Einsatz in entscheidungskritischen Domänen wie Medizin, Automobil, maritime Situationsanalyse usw.