8 minDigitalisierungVeröffentlicht am 4. Februar 2025

Erklärbare KI in der Industrie: Wenn Künstliche Intelligenz Klartext spricht

Gefällt mir
Bookmark
Intro

Künstliche Intelligenz revolutioniert viele Bereiche unseres Lebens. Doch beim Einsatz in der Industrie herrscht manchmal noch Zurückhaltung. Ein innovatives Forschungsprojekt von ABB und LEAG zeigt, wie erklärbare KI (zu Englisch: „Explainable AI“ bzw. „XAI“) das Vertrauen in diese Technologie stärken und Prozesse unterstützen kann. Dieser Artikel beleuchtet die Herausforderungen, Lösungsansätze und das Potenzial von XAI in der Industrie – insbesondere am Beispiel der KI-basierten Unterstützung von Kraftwerksfahrern.

Die großartigen Möglichkeiten Künstlicher Intelligenz stehen in der Industrie besonders sensiblen Prozessen gegenüber. Das betrifft vor allem die kritische Infrastruktur. In der Leitwarte eines Kraftwerks arbeiten hochqualifizierte Fachkräfte rund um die Uhr, um einen reibungslosen Betrieb bei größtmöglicher Sicherheit zu gewährleisten. Die Leitwarte ist damit das „Gehirn“ eines Kraftwerks. Von dort werden wichtige Entscheidungen getroffen und alle Prozesse gesteuert. Klar ist: Dieses Gehirn möchte niemand einfach einer Künstlichen Intelligenz überlassen.

Künstliche Intelligenz in der Industrie: Probleme und Potenziale

Grundsätzlich ist der Einsatz von KI in der Industrie vor allem bei der Überwachung von Prozessen denkbar. Bei großen Anlagen liegt das Hauptaugenmerk darauf, den normalen Betrieb aufrechtzuerhalten. Um dies zu gewährleisten, werden in der Leitwarte verschiedene Signaltrends beobachtet – in der Regel manuell von erfahrenen Mitarbeitern. Kommt es zu Abweichungen und Anomalien, können die Mitarbeiter reagieren – den Fehler beheben und den Betrieb am Laufen halten.

Das Problem hierbei: Die Mitarbeiter müssen jederzeit eine Vielzahl an Signalen und Trends gleichzeitig im Auge behalten. Bei manchen Anomalien sind die Abweichungen so gering, dass diese für das menschliche Auge nur schwer zu erkennen sind. Und genau hier kommt KI ins Spiel.

KI-Systeme können ohne große Mühe hunderte von Signalen und deren Interaktionen auf Abweichungen und Anomalien überwachen. Zu diesem Zweck kommen sie bereits in einer Vielzahl an Anwendungen zum Einsatz. Das Hauptproblem für industrielle Anwendungen liegt jedoch woanders: KI-Vorhersagen stellen für Anlagenfahrer eine intransparente Black Box dar. Die Prozesse, wie ein KI-Modell eine Entscheidung getroffen hat, lassen sich nicht nachvollziehen. Fragen nach dem Warum und Woher von Anomalien bleiben so unbeantwortet. Diese mangelnde Transparenz ist der Grund, warum Mitarbeiter kein blindes Vertrauen in KI setzen wollen. Dafür sind die Systeme zu sensibel und die Verantwortung, die die Mitarbeiter tragen, zu groß.

XAI – ein Blick in die Black Box

Das KI jedoch nicht zwingend intransparent sein muss, haben ABB und LEAG jetzt in einem erfolgreichen Forschungsprojekt unter Beweis gestellt. Der Kern des Ganzen: Wie kann Künstliche Intelligenz erklärbar gemacht werden?

EU-gefördertes Forschungsprojekt „EXPLAIN“

Das Projekt von ABB und LEAG im Kohlekraftwerk in Boxberg zu XAI ist Teil des EU-geförderten Forschungsprojekts EXPLAIN mit dem Ziel, einen durchgängigen KI-Lebenszyklus für industrielle Experten zu schaffen, der die menschliche Aufsicht über KI-Systeme ermöglicht und so die Akzeptanz von KI in industriellen Umgebungen steigert. Diese Arbeit wurde vom Bundesministerium für Bildung und Forschung (BMBF) gemäß Beschluss des Deutschen Bundestages unter dem Förderkennzeichen 01IS22030A gefördert.

Zu den größten Chancen der KI gehören die Beschleunigung von Prozessen, die Möglichkeit der Verarbeitung großer Datenmengen und das Verringern potenzieller Fehlerquellen. Demgegenüber stehen allerdings zahlreiche Sorgen. Beispielsweise der Verlust durch Kompetenzen, das Ziehen falscher Schlussfolgerungen und die fehlende Transparenz der Entscheidungen durch eine KI.

„Unser Ziel war es, den Schlüssel zu einem vertrauensvollen Einsatz von KI in der Leitwarte eines Kraftwerks zu finden.“

Marcel Dix, Senior Scientist, ABB AG Forschungszentrum 

Dass es für diese Befürchtungen jedoch eine Lösung gibt, zeigt das von der EU geförderte Forschungsprojekt EXPLAIN von ABB und LEAG. Das Ziel: Ein KI-basiertes System zur Anomalieerkennung, als Unterstützungssystem für Anlagenfahrer in der Leitwarte eines Kraftwerks zu entwickeln – sodass KI beim Einsatz in der Industrie nicht nur alarmiert, wenn etwas schiefläuft. Sondern eben außerdem auch eine Erklärung liefert was schiefläuft, wo das Problem auftritt und warum. Oder anders gesagt: Den Blick in die Black Box für Anwender möglich machen und so das Vertrauen in die Technologie stärken.

„Das Forschungsprojekt sollte zeigen, dass Künstliche Intelligenz Anlagenfahrer bei ihrem anspruchsvollen Job unterstützen kann – ohne aber selbst in den Betrieb einzugreifen.“

Dr. Jan Koltermann, Projektleiter Digitalisierung LEAG

Wie das funktioniert? Die Antwort lautet: XAI. „Explainable Artificial Intelligence“ oder „erklärbare Künstliche Intelligenz“ war für die Forscher Marcel Dix und Dr. Jan Koltermann der Ausgangspunkt. Ziel war die Entwicklung eines KI-Systems, dass die hohen Anforderungen an den Einsatz von künstlicher Intelligenz in der Industrie erfüllt.

Blick in die Leitwarte des LEAG-Kohlekraftwerks in Boxberg: Hier behalten die Operatoren alle Signale im Blick, um den reibungslosen Betrieb des Kraftwerks sicherzustellen.

Für die Anlagenfahrer war dabei eines entscheidend: Die KI sollte lediglich über Anomalien informieren – aber nicht aktiv in einen Prozess eingreifen. Die Entscheidung darüber, welche Maßnahmen ergriffen werden, sollte weiterhin stets bei den Mitarbeitern liegen. Genau deshalb muss KI beim Einsatz in sensiblen Bereichen der Industrie auf XAI-Techniken gestützt sein: Um Auffälligkeiten den Anlagenfahrern plausibel erklären zu können. Nur dann ist es ihnen möglich, auf KI-Vorhersagen einzugehen.

Wie das dann in der Praxis funktionieren kann? Das haben die Forscher anhand von Anlagendaten aus dem LEAG-Kohlekraftwerk in Boxberg mit dem Einsatz ihres KI Systems getestet. Dazu standen rund 22.000 Zeitreihen und zwölf Millionen ausgelöste Alarme aus zehn Jahren Kraftwerksbetrieb zur Verfügung.

XAI im Test mit Daten aus dem LEAG-Kohlekraftwerk in Boxberg

In einem Kraftwerk können bereits kleinste Abweichungen in den Signaldaten zur Erkennung einer Anomalie führen, die die Reaktion des Anlagenfahrers erfordert. Eine solche Abweichung kann etwa eine Veränderung der Qualität der Kohle darstellen oder auch technische Störungen wie beispielsweise die veränderte Laufruhe eines Motors.

In der Regel beginnt zu diesem Zeitpunkt die aufwändige Fehlersuche. Mit dem Einsatz des KI-Systems, das multivariante Zeitreihendaten auswertet und daraufhin Erklärungsansätze bietet, kann diese Ursachensuche deutlich beschleunigt werden. Dabei kommen verschiedene, in das System implementierte Erklärtechniken (Explainer) zum Einsatz, die im Rahmen des Forschungsprojektes entwickelt wurden.

Im Rahmen des Forschungsprojektes wurden XAI-Techniken entwickelt, um im Anlagenbetrieb Anomalien zu detektieren und den Anlagenfahrern erklärbar zu machen.

Diese Explainer wurden im Rahmen des Forschungsprojektes mit ABB und LEAG, auf Basis von XAI-Techniken, entwickelt:

Fallbasierte Erklärung: Liefert eine Erklärung auf die Frage: „Gab es den Fall schon einmal?“. Die KI prüft hier im historischen Vergleich, ob eine ähnliche Anomalie bereits schon einmal aufgetreten war. Ist das der Fall, ist es wahrscheinlich, dass es sich auch um die gleiche Fehlerursache handeln – und die KI weist daraufhin.

Sprachbasierte Erklärung: Liefert eine Erklärung auf die Frage: „Lässt sich die Anomalie in einem Satz zusammenfassen?“. Das Problem: KI-Vorhersagen zu möglichen Anomalien erscheinen in Form von numerischen Anomalie-Indikatoren, die ein Mensch auch erst einmal interpretieren muss. Die Idee dieses Explainer ist daher, dass der Mensch i.d.R. in Sprache denkt und eben dieses sprachliche Denken angesprochen werden will.

Merkmalsbedeutung: Liefert eine Erklärung auf die Frage: „Woher kommt die Anomalie?“. Zu einer Anomalie tragen verschiedene Signale in unterschiedlichem Ausmaß bei. Die KI identifiziert, welches Signal den stärksten Einfluss hat und weist so auf den wahrscheinlichen Ursprungsort des Problems hin. Das erleichtert die gezielte Fehlersuche in einem bestimmten Bereich der Anlage.

Kontrafaktische Erklärung: Liefert eine Erklärung auf die Frage: „Wie hätte das Signal im Normalfall verlaufen müssen?“. Das KI-System zeigt hier den erwarteten Normalverlauf eines Signals im Vergleich zur Anomalie auf. Diesen Soll-Ist-Vergleich machen Anlagenfahrer heute bereits gedanklich, was jedoch viel Erfahrung erfordert. Der Explainer kann die Abweichung direkt verdeutlichen.

Kontextualisierung: Liefert eine Erklärung auf die Frage: „Gibt es weitere Informationen, die zur Erklärung beitragen können?“. Dazu werden zusätzliche Datenquellen wie Alarmlogs und elektronische Schichtbücher mit der Anomalie korreliert, um mehr Kontext zu dem Problem zu liefern.

Künstliche Intelligenz in der Industrie: Wie viel Potenzial steckt drin?

Die zunehmende Digitalisierung in der Industrie macht den Einsatz von KI in verschiedenen Bereichen möglich. Bei dem Forschungsprojekt von ABB und LEAG zeigt sich, dass künstliche Intelligenz vielversprechendes Potenzial hat: 

Diesen Mehrwert bietet erklärbare Künstliche Intelligenz (XAI) in der Leitwarte eines Kraftwerks:

1

Unterstützung des Anlagenfahrers bei der Erkennung von Anomalien

2

Proaktive Früherkennung von Prozessabweichungen, noch bevor Probleme entstehen

3

Reduzierung des Risikos, Störungen zu übersehen

4

Reduzierung des Risikos ungeplanter Stillstände der Anlage

In einer Evaluation mit mehreren Anlagenfahrern des LEAG Kraftwerks in Boxberg wurde das KI-System als insgesamt sehr hilfreich bewertet. Den größten Nutzen für die Mitarbeiter hatte die Erklärung der Merkmalsbedeutung – denn im Arbeitsalltag spart das Zeit: Statt nach einem Problem suchen zu müssen, kann dieser Explainer des IT-Systems den Ursprung des Signals stark eingrenzen. Bei dem Forschungsprojekt wurde aber auch deutlich: Nur wenn KI erklärbar ist, kann sie bei der Entscheidungsfindung unterstützen.

9 minDigitalisierung

Wie Künstliche Intelligenz die Welt verändert

Inhalt

Einfühlsame Roboter, sprechende Spiegel oder Kopfhörer, die automatisch übersetzen – die KI dringt in alle denkbaren elektronischen Geräte vor. Algorithmen werden für unser vernetztes Leben immer wichtiger.

Bookmark

5 minDigitalisierung

Künstliche Intelligenz: Droht ein neuer KI-Winter?

Inhalt

Bei KI folgten auf Phasen der Euphorie bislang immer Phasen der Ernüchterung. KI-Experte Gianluca Manca beantwortet im Interview, ob wieder ein solcher „KI-Winter“ bevorsteht.

Bookmark

Wie geht es jetzt weiter mit dem XAI-Dashboard? Als Technologiekonzern in den Bereichen Elektrifizierung, Robotik, Automation und Antriebstechnik, der als globaler Marktführer innovative Lösungen für Industrie, Energieversorgung und Infrastruktur entwickelt, hat ABB in den vergangenen Jahren bereits KI-Technologien in verschiedene Produkte und Dienstleistungen integriert. Eines dieser Produkte ist die Datenanalyse- und Visualisierungsplattform ABB Ability PlantInsight. Diese wird nun sukzessive mit den entwickelten XAI-Funktionalitäten und den Explainern aus dem Forschungsprojekt ergänzt. Um Effizienz, Produktivität und Zuverlässigkeit in verschiedenen industriellen Anwendungen zu verbessern, das Vertrauen in die Technologie zu stärken und zukunftsfähig zu bleiben.