Das Projekt gibt es, weil wir zukünftige Produkte, allen voran KI-basierte Produkte, nicht mehr in einem Schritt erstellen können. Wir gehen nicht mehr nach den klassischen Phasen wie z. B. Design, Implementierung und Roll-Out vor, sondern führen eine sukzessive Produkterweiterung und Verbesserung im Feld durch. Wir sprechen von einem DevOps-Ansatz, in dem wir das Entwickeln („Dev“ für Development) und den Betrieb („Ops“ für Operations) mit dem Ziel der kontinuierlichen Produktverbesserung bzw. -weiterentwicklung integriert denken.

Im DLR Institut für KI-Sicherheit beschäftigen wir uns insbesondere mit den Themen Safety und Security für KI-basierte Lösungen. Deshalb konzentrieren wir uns auf sicherheitsrelevante Fragestellungen im Projekt „AI in the Loop“.

Ebenfalls benötigen wir innovative Methoden, um für eine iterierte Systementwicklung sicherheitsgerichtete Nachweise durchführen und das Thema Security substanziell adressieren zu können. Das Projekt ist ein Vehikel für unsere Forschung, weshalb es für uns strategisch wichtig ist, das Labor praxisnah aufzubauen und umzusetzen.

Das DLR wünscht sich, die Lösungen so generisch aufzubauen, dass wir sie in unterschiedlichen Industriedomänen anwenden können. Das soll z. B. für Anwendungen im Bereich Robotik, Luftfahrt und Automotive geschehen.

Wir wollen die Erkenntnisse zeitnah praktisch anwenden. Deshalb ist es sinnvoll, dass wir Partner haben, die aus der Praxis kommen und das Projekt nicht rein akademisch betrachten. Die Idee ist auch, die mit dem Laboraufbau „AI in the Loop“ startende Kooperation längerfristig weiterzuführen.

Erste Schritte können wir jetzt schon machen. Die Serviceroboter fahren bereits im DLR herum, holen Gäste vom Fahrstuhl ab, fahren durch eine Menschenmenge und meistern erste Interaktion mit Menschen.

Dabei ist die Entwicklung der Serviceroboter eigentlich gar nicht unser Hauptthema, aber mit ihnen lässt sich einfacher verstehen, was ein KI-System ist. Die Roboter sind vor allem dazu da, um unsere Arbeit sichtbar und greifbar werden zu lassen. An ihrer physischen Gestalt sieht man, dass die KI-Algorithmen nicht nur in Science-Fiction-Filmen relevant sind, sondern bereits heute ganz nah an uns dran sind. Es ist also nichts, womit man sich in 20 Jahren beschäftigen muss, sondern ein Thema, das uns alle relativ schnell erreicht.

Erkennen die Roboter Personen, die sie schon einmal gesehen haben?

Noch nicht, aber im nächsten Schritt wäre es wünschenswert, dass die Roboter Personen, die häufiger zu Gast im Institut sind, erkennen und mit ihnen eine Interaktion starten. Sie sollten dann u.a. auch wissen, wo sich die Person aufhält, zu der die Gäste möchten.

Bei KI haben wir die Möglichkeit, mit intelligenten Algorithmen umfassend, auch große Datenmengen zu verarbeiten. Das ist auch in den Robotern eine zentrale Funktionalität. Sie sollen z.B. mit einer Kamera die Umgebung wahrnehmen, die Objekte darin erkennen und sie klassifizieren können. Darüber hinaus sollen sie wissen, wie sie sich in der Interaktion mit Menschen und Gegenständen verhalten sollen. Dabei ist wichtig, dass zukünftige Entwicklungen in der Umwelt bzw. in einem System vorhergesagt werden können.

Um dies zu realisieren, benutzen wir KI-Algorithmen. Gerade in der Perzeption, sprich im Erkennen, Interpretieren und dem Ableiten von Handlungen, sind KI-basierte Komponenten zwingend notwendige Lösungsbausteine.

Welche Herausforderungen gibt es dabei?

Es ist eine große Herausforderung, eine tiefe fachliche bzw. semantische Ebene in technische Systeme zu projizieren. D.h. ein Roboter soll Gegenstände und Personen erkennen und genau verstehen, welches Objekt er vor sich hat. Er soll wissen, dass ein Stuhl umgefallen ist oder eine Person auf dem Boden liegt, weil sie vielleicht ein gesundheitliches Problem hat. Wir versuchen herauszufinden, wie man technische Algorithmen und semantische Informationen elegant verknüpfen kann, um jeweils adäquate Handlungen und Aktionen zuverlässig zu planen und zu initiieren.

Eine zweite Herausforderung ist, die Erkennung und die Algorithmen im Hinblick auf Safety und Security robust zu gestalten, um Angriffsszenarien abfedern zu können. Derzeit könnte z. B. ein spezielles Muster auf einem T-Shirt dazu genutzt werden, dass Objekte nicht mehr korrekt erkannt werden: Wir müssen herausfinden, worin dieses Täuschungspotential besteht, und wie es sich durch andere Sensoren oder Datenquellen kompensieren lässt.

Der Fokus ist für uns das „AI in the Loop“-Labor als Werkzeug. Relevant wird die Technik für verschiedene robotische Systeme, aber auch im Bereich des automatisierten Fliegens und des automatisierten Fahrens. Schwerpunkte der Forschungsarbeit werden zunächst auf dem Perzeptionsanteil liegen – also auf dem Ableiten von Umgebungsmodellen und dem Verstehen von Situationen.

Gibt es Überschneidungen mit anderen Wissenschaften?

Über die technologieorientierten Fragen hinaus interessieren uns auch ethische, rechtliche und gesellschaftsrelevante Fragen, wie sie sich bei einer starken Menschen-Technik-Integration stellen.

Wenn wir auch hier zunächst auf den Anwendungsfall der Serviceroboter schauen, ist es für uns spannend zu beobachten, wie Menschen auf solche Roboter reagieren, wenn sie mit ihnen in Kontakt kommen: Schieben sie ihn als Technikkomponente beiseite oder interagieren sie normal und machen ihnen Platz.

Ich glaube, es braucht mehr Langfristkooperationen zwischen Forschungseinrichtungen und Praxispartnern, weil man sich bei der heute notwendigen Komplexität IT-geprägter Lösungen nicht mehr einbilden kann, dass man kurzfristig in ein neues Themenfeld hineinspringt und dort nach kürzester Zeit eine skalierbare Problemlösung findet, die noch langfristig tragfähig ist.

Deshalb müssen wir akzeptieren, dass viele Problemstellungen im Bereich der Safety und Security von KI-Systemen nur mit wissenschaftlich fundierten Herangehensweisen lösbar sind. Hier benötigen wir eine viel intensivere und auf Langfristigkeit ausgerichtete Zusammenarbeit von Wirtschafts- und Wissenschaftspartnern.

Kontakt:

Jan Gacnik
jan.gacnik@iav.de

Falk Langer
falk.langer@iav.de

Christian Steiner
christian.steiner@iav.de