Erklärbare KI in der Industrie: Wenn Künstliche Intelligenz Klartext spricht

Grundsätzlich ist der Einsatz von KI in der Industrie vor allem bei der Überwachung von Prozessen denkbar. Bei großen Anlagen liegt das Hauptaugenmerk darauf, den normalen Betrieb aufrechtzuerhalten. Um dies zu gewährleisten, werden in der Leitwarte verschiedene Signaltrends beobachtet – in der Regel manuell von erfahrenen Mitarbeitern. Kommt es zu Abweichungen und Anomalien, können die Mitarbeiter reagieren – den Fehler beheben und den Betrieb am Laufen halten.

Das Problem hierbei: Die Mitarbeiter müssen jederzeit eine Vielzahl an Signalen und Trends gleichzeitig im Auge behalten. Bei manchen Anomalien sind die Abweichungen so gering, dass diese für das menschliche Auge nur schwer zu erkennen sind. Und genau hier kommt KI ins Spiel.

KI-Systeme können ohne große Mühe hunderte von Signalen und deren Interaktionen auf Abweichungen und Anomalien überwachen. Zu diesem Zweck kommen sie bereits in einer Vielzahl an Anwendungen zum Einsatz. Das Hauptproblem für industrielle Anwendungen liegt jedoch woanders: KI-Vorhersagen stellen für Anlagenfahrer eine intransparente Black Box dar. Die Prozesse, wie ein KI-Modell eine Entscheidung getroffen hat, lassen sich nicht nachvollziehen. Fragen nach dem Warum und Woher von Anomalien bleiben so unbeantwortet. Diese mangelnde Transparenz ist der Grund, warum Mitarbeiter kein blindes Vertrauen in KI setzen wollen. Dafür sind die Systeme zu sensibel und die Verantwortung, die die Mitarbeiter tragen, zu groß.

Das KI jedoch nicht zwingend intransparent sein muss, haben ABB und LEAG jetzt in einem erfolgreichen Forschungsprojekt unter Beweis gestellt. Der Kern des Ganzen: Wie kann Künstliche Intelligenz erklärbar gemacht werden?

Fallbasierte Erklärung: Liefert eine Erklärung auf die Frage: „Gab es den Fall schon einmal?“. Die KI prüft hier im historischen Vergleich, ob eine ähnliche Anomalie bereits schon einmal aufgetreten war. Ist das der Fall, ist es wahrscheinlich, dass es sich auch um die gleiche Fehlerursache handeln – und die KI weist daraufhin.

Sprachbasierte Erklärung: Liefert eine Erklärung auf die Frage: „Lässt sich die Anomalie in einem Satz zusammenfassen?“. Das Problem: KI-Vorhersagen zu möglichen Anomalien erscheinen in Form von numerischen Anomalie-Indikatoren, die ein Mensch auch erst einmal interpretieren muss. Die Idee dieses Explainer ist daher, dass der Mensch i.d.R. in Sprache denkt und eben dieses sprachliche Denken angesprochen werden will.

Merkmalsbedeutung: Liefert eine Erklärung auf die Frage: „Woher kommt die Anomalie?“. Zu einer Anomalie tragen verschiedene Signale in unterschiedlichem Ausmaß bei. Die KI identifiziert, welches Signal den stärksten Einfluss hat und weist so auf den wahrscheinlichen Ursprungsort des Problems hin. Das erleichtert die gezielte Fehlersuche in einem bestimmten Bereich der Anlage.

Kontrafaktische Erklärung: Liefert eine Erklärung auf die Frage: „Wie hätte das Signal im Normalfall verlaufen müssen?“. Das KI-System zeigt hier den erwarteten Normalverlauf eines Signals im Vergleich zur Anomalie auf. Diesen Soll-Ist-Vergleich machen Anlagenfahrer heute bereits gedanklich, was jedoch viel Erfahrung erfordert. Der Explainer kann die Abweichung direkt verdeutlichen.

Kontextualisierung: Liefert eine Erklärung auf die Frage: „Gibt es weitere Informationen, die zur Erklärung beitragen können?“. Dazu werden zusätzliche Datenquellen wie Alarmlogs und elektronische Schichtbücher mit der Anomalie korreliert, um mehr Kontext zu dem Problem zu liefern.

Die zunehmende Digitalisierung in der Industrie macht den Einsatz von KI in verschiedenen Bereichen möglich. Bei dem Forschungsprojekt von ABB und LEAG zeigt sich, dass künstliche Intelligenz vielversprechendes Potenzial hat: