RIXA - Real-time Interactive eXplainable AI

Kurzbeschreibung des Projekts

RIXA (Real-time Interactive eXplainable AI) ist ein natürlichsprachliches Dashboard, das KI-Modelle für Endanwender verständlich erklären kann. Es verbindet Methoden aus dem Forschungsgebiet der erklärbaren KI mit großen Sprachmodellen (LLMs). Dadurch können die üblicherweise sehr technischen Erklärungen für Laien zugänglich gemacht werden.

Projektziele

KI findet in der Produktion immer mehr Einsatz, ob in der Montageassistenz, in der Schichtplanung oder zur Angriffserkennung. Dadurch wird auch die Nutzergruppe von KI-Systemen immer breiter und es interagieren immer mehr Menschen ohne technische Expertise mit diesen Systemen. Insbesondere im Arbeitskontext greift hier auch die Europäische KI-Verordnung. Diese fordert, dass bestimmte KI-Systeme transparent und verständlich sind. Transparenz und Erklärbarkeit können zusätzlich auch die Akzeptanz für den Einsatz von KI-Systemen erhöhen. Existierende Erklärmethoden scheitern oft daran, dass sie zu technisch sind und von Laien nicht verstanden werden. Sie finden zur Zeit eher in der Modellentwicklung Einsatz.

Projektergebnis

RIXA bietet den Nutzern einen Chat über den sie sich in natürlicher Sprache mit dem System unterhalten können. Hier können Sie Fragen zu dem darunterliegenden KI-System und dessen Funktionsweise stellen. Der Chat wird über ein Sprachmodell betrieben, das jedoch nicht frei antwortet sondern seine Antworten auf Basis von Funktionsaufrufen und Hintergrundwissen gibt. Die Funktionen und das Hintergrundwissen können je nach Einsatzgebiet beliebig geändert werden, wodurch RIXA eine große Bandbreite von Anwendungen unterstützen kann.