Die größten Hürden in der Anwendung von KI-Technologien im industriellen Umfeld sind geringe Datenmengen, eine eingeschränkte Erklärbarkeit der Ergebnisse und die mangelnde Adaptierbarkeit an neue Umgebungsbedingungen. An dieser Stelle setzt das Forschungsvorhaben ExplAIn an und entwickelt basierend auf einem 4-Stufen-Plan neue Methoden für den sicheren und vertrauenswürdigen Einsatz künstlicher Intelligenz in industriellen Applikationen.

Die industrielle Anwendung von Künstlicher Intelligenz birgt einige Herausforderungen. Eines der größten Probleme besteht darin, dass KI-Systeme oft große Mengen an Daten benötigen, um robsut und effektiv zu sein. In vielen Industriezweigen sind jedoch nicht genügend qualitativ hochwertige Daten vorhanden, um KI-Modelle zu trainieren. Mit reduzierter Datenmenge steigt jedoch die Gefahr für Fehleinschätzungen des KI-Systems. In der Industrie wird zwar immer öfter verucht, maschinelles Lernen in die Produktion einzubunden. Dabei wird jedoch häufig nicht auf die Resilienz und Nachvollziehbarkeit der Prozesse geachten.

Im Bestreben, die Vision Industrie 4.0 zu erreichen, werden datengetriebene Systeme schnell umgesetzt, ohne ihre Einsatzfähigkeit systematisch prozessbegleitend zu bewerten und ihren Betrieb adaptiv zu kontrollieren. Konkret werden durch die komplexe Struktur der ML-Systeme und die auf vorhandene Trainingsdaten begrenzte Datenbasis u.a. folgende Herausforderungen verursacht:

• ML-Systeme sollen Entscheidungen treffen, für die ihre gesammelte Datengrundlage nicht ausreichend ist. Das Versagen ist häufig nicht nachvollziehbar und wird als Schwäche des Verfahrens interpretiert. Eingehende Daten werden nicht klassifiziert und Datensets nicht balanciert, sondern sofort und ohne Analyse zum Lernen benutzt.

• ML-Systeme kommunizieren nicht, wie sie zu Entscheidungen gelangen. Das Verhalten wird als nicht nachvollziehbare Blackbox wahrgenommen.

• ML-Systeme können nicht gezielt beeinflusst werden. Anders als konventionelle Systeme besitzen Systeme wie künstliche neuronale Netze keine Parameter, die prozessbegleitend von Bedienern eines Produktionssystems sinnvoll angepasst werden können

Diese Herausforderungen führen dazu, dass ML-Systeme vor allem in der Praxis kontrovers betrachtet werden. Während in günstigen Betriebspunkten die Leistungsfähigkeit bewundert wird, wird ihnen aufgrund situativen Versagens, fehlender Nachvollziehbarkeit und Beeinflussbarkeit kein Vertrauen entgegengebracht. Dabei handelt es sich bei diesen Aspekten nicht um Schwächen der künstlichen Intelligenz, sondern um Nachholbedarf bei der autonomen, systematischen Kontrolle des Betriebs intelligenter Systeme. Es fehlt an einfach implementierbaren Kontrollinstanzen, die vorhandene und neue ML-Systeme nachvollziehbarer und sicherer machen. 

Das Projekt ExplAIn setzt sich zum Ziel, mithilfe der Stufen Safe Training, Safe Usage, Explainability und Adaptability ein Framework zu schaffen, dass einen sicheren Einsatz von KI-Technologien im industriellen Umfeld gewährleistet. Das Fundament, auf dem die Methode aufbaut, ist die „Hybride Modellbildung“. Dabei wird Expertenwissen, zum Beispiel in Form von Simulationen, mit den KI-Systemen kombiniert. Dadurch kann die KI auf hochwertige Informationen zurückgreifen und bessere Ergebnisse liefern. Die Stufen der dargestellten Methodik werden nachfolgend erläutert.  

1. Safe Training bedeutet, dass KI-Systeme nicht einfach blind alles aus den Daten lernen. Stattdessen werden die Daten genau überprüft, um sicherzustellen, dass sie vollständig, konsistent und fehlerfrei sind. Wenn Probleme in den Daten erkannt werden, werden diese behoben. Die Informationen, die in der Datenbasis versteckt liegen, sind ausschlaggebend für die Fähigkeiten, die ein KI-Algorithmus erlernen kann. Insbesondere bei spärlichen Datenmengen ist daher eine hochwertige Datenbasis von Bedeutung. Daher werden in dieser Stufe neben Verfahren zur Bereinigung der Datenbasis von unnötigen oder widersprüchlichen Informationen auch Möglichkeiten zur Aufwertung der Datenbasis und Füllung von Datenraumlücken untersucht. 

2. Safe Usage zielt darauf ab, die Fähigkeiten des KI-Systems realistisch einzuschätzen und die funktionale Sicherheit im Einsatz zu gewährleisten. Das bedeutet, dass man sich sicher sein will, dass die KI korrekte Ergebnisse liefert und keine falschen Informationen „halluziniert“. Zudem ist es wichtig, den Einsatzbereich der KI klar festzulegen, damit Nutzer realistische Erwartungen haben. Dazu ist eine Bewertung des KI-Systems im Kontext der zum Lernen genutzten Datenbasis und der aktuellen Aufgabe von Nöten. Um die Sicherheit der Systeme im Einsatz zu gewährleisten, werden in dieser Stufe Verfahren zu Quantifizierung und Kommunikation der Unsicherheit entwickelt. Die Gewährleistung von Sicherheit erfordert dazu beispielsweise die Integration von Fallback-Lösungen und Schnittstellen zum Eingriff von außen durch den Menschen 

3. Explainability bedeutet Transparenz zu schaffen und zielt darauf ab, dass Menschen verstehen können, wie die KI ihre Entscheidungen trifft. So können Nutzer besser mit dem System interagieren und verstehen, warum es bestimmte Entscheidungen vorschlägt. In diesem Kontext werden Methoden der erklärbaren KI untersucht. Die Stufe zielt darauf ab, relevante Zusammenhänge in den Daten automatisiert auszugeben. KI-basierte Analysen und Entscheidungen müssen für Nutzer:innen im Kontext der aktuellen Datenlage transparent und nachvollziehbar gemacht werden. Dazu werden nicht nur Verfahren zur Erklärbarkeit von KI entwickelt. Auch die bedarfsgerechte Aufbereitung und Visualisierung der Informationen für die betroffenen Nutzer steht im Fokus. 

4. Adaptability bezieht sich darauf Möglichkeiten zu schaffen, mit denen Menschen das KI-System weiter verbessern können. Sie können ihre eigenen Erfahrungen und ihr Wissen einbringen, um die KI noch leistungsfähiger zu machen. Diese Stufe berücksichtigt den Menschen im Loop und zielt darauf ab, ein iteratives Verbessern der KI-Systeme zu ermöglichen. Wesentliche Grundlage dafür ist, dass der Mensch im Rahmen der vorherigen Stufe befähigt wird, die Entscheidungsfindung der KI nachzuvollziehen und so Gründe für unerwünschtes Verhalten identifizieren kann.  

Datenraumanalyse

Bei der Datenraumanalyse werden die Eingangsdaten des KI-Systems geprüft.

Dabei werden zunächst alle vorhandenen Trainingsdaten in einem Datenraum dargestellt. Anschließend werden bekannte und unbekannte Bereiche markiert.

Das Ziel ist es, anhand der markierten Bereiche den Bekanntheitsgrad eines Datenpunkts zu bestimmen.

Wird das System mit einem Datenpunkt der unbekannten Zone genutzt, so muss die Systemanwort zusätzlich geprüft werdeny, da die Aussagesicherheit nicht gewährleistet werden kann.

Nach Prüfung der Systemantwort kann der neue Datenpunkt für ein Nachtraining des Systems verwendet werden.

Im Bild rechts ist ein Beispiel für eine Datenraumanalyse für ein Schweißverfahren gezeigt. Zur Veranschaulichung sind hier nur zwei Dimensionen des Datenraums gezeigt. Es ist klar zu erkennen, dass sich oben rechts eine unbekannte Zone ausgeprägt hat.