Lernende Systeme erkunden, schützen, retten

Potenziale und Nutzen

Der Einsatz Lernender Systeme in menschenfeindlichen Umgebungen verspricht daher großen Nutzen – zusammen mit dem Menschen können sie für unterschiedliche Aufgaben eingesetzt werden, in Form von Robotern etwa auch für die Gewinnung von Rohstoffen und Nahrungsmitteln (z.B. Aquakulturen). Darüber hinaus bieten KI-basierte Systeme große Potenziale für Forschung und Wirtschaft, da sie dank ihrer Lernfähigkeit bei Einsätzen in gefährlichen und schwer zugänglichen Umgebungen gegenüber bemannten Einsätzen ökonomische Vorteile bieten oder Einsätze überhaupt erst möglich machen. Die Arbeitsgruppe Lebensfeindliche Umgebungen der vom Bundesministerium für Bildung und Forschung (BMBF) initiierten Plattform Lernende Systeme hat in ihrem Bericht, auf dem dieser Beitrag basiert, ­Potenziale und Anforderungen an den Einsatz Lernender Systeme in lebensfeindliche Umgebungen zusammengefasst. Dazu wurden fiktive Anwendungsszenarien entworfen, die Einsatzorte und mögliche Tätigkeiten darstellen. Die verschiedenen Potenziale, die Lernende Systeme Systeme in lebensfeindlichen Umgebungen versprechen, ­betreffen viele Aspekte, die hier zusammengefasst und diskutiert werden.

Mehr Sicherheit für den Menschen

Sinnvolle Arbeitsteilung

Lernende Systeme arbeiten selbständig, allein oder in hybriden Teams mit anderen Lernenden bzw. autonomen Systemen und dem Menschen zusammen. Sie schätzen als Assistenten Gefahren für den Menschen ein, sind aber auch fähig, in einer bestimmten Situation eigenständig adäquat zu agieren. Überdies können sie Hilfe anfragen – sei es für Menschen oder sich selbst. Die Systeme sammeln dazu Informationen, tauschen sie mit anderen Systemen aus und lernen fortlaufend weiter. Auf diese Weise schließen sie im Laufe der Zeit sukzessive noch bestehende Wissenslücken. Ihre Nutzung wird die Arbeitsweise und Arbeitsteilung in menschenfeindlichen Umgebungen grundlegend verändern. Das Lernende System nutzt seine an die Umgebung angepassten physischen Eigenschaften (Härtung), um auch lange Zeit unter widrigen Umständen im Einsatz zu bleiben. Menschen können, etwa durch immersive Technologien, ihre Erfahrung und Flexibilität in der jeweiligen Situation einbringen, ohne selbst vor Ort sein zu müssen.

Wirtschaftliche Potenziale und Nachhaltigkeit

Lernende Systeme versprechen auch ein großes Nutzenpotenzial für Infrastrukturen in menschenfeindlichen Umgebungen – etwa in Offshore-Windkraftanlagen oder auf Satelliten im Weltall. Deren Inspektion ist bislang mit einem hohen finanziellen Aufwand für die Betreiber und einem riskanten körperlichen Einsatz der Fachkräfte verbunden. Teilweise ist sie auch schlicht unmöglich, so etwa bei Satelliten. Die Wartung von Offshore-Windparks ist sehr kostenintensiv und die Arbeit von Tauchern und Industriekletterern ist teils mit großer Lebensgefahr verbunden. Lernende Systeme zeichnen sich hier durch ihre Adaptivität, Lernfähigkeit und ein an den spezifischen Einsatzort angepasstes Design aus. So können Lernende robotische Unterwassersysteme die angemessene Inspektion von Offshore-Anlagen künftig weitgehend übernehmen. Durch ihre Lernfähigkeit sind sie in der Lage, adäquat auf Ausfälle von Teilsystemen (z.B. einer Kamera oder einer Antriebseinheit) zu reagieren und diese zumindest teilweise zu kompensieren. Überwasserteile von Windkraftanlagen oder landbasierte Windräder können von Flugrobotern (oft auch „Drohnen“ genannt) inspiziert werden. Das reduziert den logistischen und personellen Aufwand weiter, was den Einsatz Lernender Systeme besser und kostengünstiger macht.

Wie das Beispiel der Offshore-Windkraftanlagen verdeutlicht, machen KI-Systeme den Betrieb von Infrastrukturen voraussichtlich auch ökologisch verträglicher und sicherer, da die bisher eingesetzten bemannten Systeme, wie etwa Hubschrauber, unter ökologischen Aspekten negativ zu bewerten sind und sich in vielen Bereichen durch energieeffiziente autonome Systeme mit deutlich besserer Ökobilanz ersetzen lassen. Gerade in solchen menschenfeindlichen Umgebungen erhöhen Lernende Systeme die ökologische und wirtschaftliche Nachhaltigkeit, denn sie sind permanent verfügbar und einsetzbar. Speziell die Fähigkeit zu Lernen ermöglicht es, solche Systeme über lange Zeiträume bzw. permanent vor Ort zu halten. Dies ist die Grundlage für den nachhaltigen Betrieb von Anlagen und Infrastrukturen – insbesondere in lebensfeindlichen Umgebungen, wo der Mensch eine dauerhafte Präsenz nicht gewährleisten kann. So wären so genannte Subsea Resident AUVs (Autonomous Underwater Verhicles) durch eine Rund-um-die-Uhr-Überwachung von Offshore-Windkraft oder Öl- und Gasproduktionsstätten in der Lage, den Zustand der Anlagen sehr präzise und dauerhaft zu überwachen. Bereits kleinste Störungen im Betriebsablauf könnten sofort erkannt und schnell behoben werden – oder sogar durch eine Vorhersage verhindert werden, bevor sie überhaupt auftreten. Um Nutzen und Potenziale von Lernenden Systemen verständlicher darstellen zu können, soll exemplarisch ein Einsatzbeispiel detaillierter betrachtet werden:

Einsatzbeispiel: Explosion und Brand in einer Chemiefabrik

Der zunehmende Einsatz Lernender Systeme bei Katastrophenbewältigung und Rettungseinsätzen wird die heute üblichen Arbeitsabläufe grundlegend verändern. Das Anwendungsszenario zeigt schematisch den möglichen Ablauf solcher Rettungseinsätze bei enger Kooperation menschlicher Rettungskräfte mit diversen Lernenden Systemen in lebensfeindlichen Umgebungen. Das Beispiel verdeutlicht auch, dass KI-Systeme nicht nur Risiken für das Einsatzpersonal minimieren und die Reaktionszeit bei zeitkritischen Ereignissen verkürzen, sondern dass auch die gesammelten Erkenntnisse verwertet und verallgemeinert werden können, um die Unterstützung der Rettungskräfte mit jedem Einsatz zu verbessern.

Erkundung der Lage

So genannte Unmanned Aerial Vehicle (UAV) erstellen autonom detaillierte Luftbilder der Großliegenschaft und vermessen das Schadstoffvorkommen sowie Luftströme. Ziel ist es, eine mögliche Verbreitung von Gefahrstoffen zu erkennen, das Schadensgebiet einzugrenzen sowie potenziell gefährdete Bereiche der Umgebung zu bestimmen. Die UAVs kommunizieren und kooperieren dabei untereinander sowie mit anderen Systemen (z.B. Bodenroboter, so genannte Unmanned Ground Vehicles (UGV)), um kritische Bereiche schnell und detailliert zu erkunden. Sie übertragen die Informationen an die Einsatzleitung, der sie als Grundlage für eine umfassende Lagebewertung dienen.

Einsatz der Rettungskräfte

Die Rettungskräfte arbeiten in Teams mit verschiedenen Robotern. Diese gewährleisten die Kommunikation sowie Logistik und versorgen alle Beteiligten mit aktuellen Lageinformationen. Diverse UGVs und UAVs erkunden den Weg für weitere Rettungskräfte, analysieren die Gefahrenlage (z.B. die Einsturzgefahr oder Undichtigkeiten von ­Gebäuden) und überwachen den körperlichen Zustand von Rettungskräften und Opfern. Sie können in die Erste Hilfe oder zum Abtransport in die Rettungsmaßnahmen integriert werden. Menschen können, etwa durch immersive Technologien, ihre Erfahrung und Flexibilität in der jeweiligen Situation einbringen, ohne selbst vor Ort sein zu müssen.

Kommunizieren und Kooperieren

Für einen effektiven Rettungseinsatz ist eine schnelle und intuitive Interaktion zwischen Mensch und Lernenden Systemen notwendig. Lernende Systeme kooperieren auf unterschiedliche Weise mit dem Menschen – um größere Kräfte anzubringen, falls ein System eine Aufgabe allein nicht erfüllen kann, um spezielle Fähigkeiten bzw. Werkzeuge zu benutzen (z.B. Röntgenbilder erstellen oder Organisation von Verletztentransports), vor allem aber, um Rettungskräfte abzusichern und zu unterstützen. Dies erfordert einerseits eine adäquate Verständigung zwischen Menschen und Robotern – über Sprache, Gesten und ­Biosignale, wie Blickrichtung oder Hautwiderstand. Andererseits müssen robotische Systeme mit den Fachleuten in ­einer Leitstelle kommunizieren. Dazu analysieren Lernende Systeme ständig ihren Eigenzustand und übertragen Diagnoseinformation an ihre Zentrale. Bei Bedarf fordern sie spezialisierte Hilfs- und Wartungsroboter oder menschliche Rettungskräfte und Wartungspersonal bei der Einsatzleitung an.

Lernen für die Zukunft

Die von den autonomen Systemen gesammelten Informationen und erlernten Fähigkeiten werden unter Wahrung des Datenschutzes in entsprechende Datenbanken zur Weiterverwertung übertragen. Dabei wird nach effizienten Verhaltensmustern in neuen Situationen gesucht – insbesondere, wenn eine Interaktion zwischen Mensch und Maschine notwendig war. Auf Basis von eigener und fremder Erfahrung werden die Fähigkeiten der Systeme durch Lernverfahren in einem Prozess, der von Menschen gesteuert wird, so fortlaufend optimiert. Auf diese Weise verbessert sich die Unterstützung der Rettungskräfte mit jedem Einsatz.

Anforderungen und Herausforderungen

Beschränkt sind die Systeme dadurch, dass die wenigsten über die kognitiven Fähigkeiten verfügen, um den Herausforderungen, der Komplexität und den Unvorhersehbarkeiten in menschenfeindlichen Umgebungen allein begegnen zu können. Zukünftig sollen technische Systeme jedoch auch in der Lage sein, die Komplexität von menschenfeindlichen Umgebungen zu „verstehen“ und gestellte Aufgaben effizient zu bearbeiten. Lernende Systeme, die sich an veränderte Situationen anpassen, ohne dafür programmiert werden zu müssen, können den Menschen dadurch in Gefahrensituationen noch besser unterstützen. Damit Lernende Systeme in lebensfeindlichen Umgebungen verlässlich, sicher und zum Wohle des Menschen eingesetzt und ihr wirtschaftliches Potenzial ausgeschöpft werden können, sind noch einige Herausforderungen zu bewältigen. Dazu zählen vor allem technische Herausforderungen, so etwa die Gewährleistung von Langzeitautonomie und autonomem Lernen in unbekannten Umgebungen auf Basis von wenigen Daten. Auch die Gestaltung der Interaktion und Kooperation der selbständigen Roboter oder Assistenzsysteme mit dem Menschen und der Schutz gegen Missbrauch müssen technisch gelöst werden.

Dazu bestehen nicht-technische Herausforderungen, die vor allem rechtlicher und ethischer Natur sind. Fragen zu Verantwortung, Haftung und Versicherung stellen sich, wenn durch die Systeme Schäden entstehen. Privacy- und Datenschutzprobleme können entstehen, wenn Lernende Systeme Daten erfassen und weitergeben. Die wichtigsten Herausforderungen werden hier kurz erklärt:

Technische Herausforderungen

• Hohes Maß an Resilienz:

Lernende Systeme benötigen ein hohes Maß an Adaptivität. Gleichzeitig müssen sie fähig sein, auch bei unvollständigem Wissen und beeinträchtigter Funktionalität einzelner Teilsysteme ihre Aufgabe zu erfüllen. Dazu ist es notwendig, dass sie sich während eines Einsatzes, in gewissem Umfang rekonfigurieren können, um etwa unzureichende oder ausgefallene Sensoren oder Aktoren zu kompensieren. Die Fähigkeit zu lernen ist hierbei essenziell. Ein modularer Aufbau eines Lernenden Systems kann die Kompensation und Adaption maßgeblich erleichtern.

• Autonomes Entscheiden und Lernen:

Bedingungen und Ereignisse in lebensfeindlichen Umgebungen sind naturgemäß nicht vorhersagbar. Lernende Systeme müssen ihre Umgebung daher sensorisch erfassen, diese Wahrnehmung einordnen und interpretieren. Auf dieser Grundlage sollen sie selbstständig Entscheidungen treffen sowie Handlungen planen und ausführen. Die Systeme müssen aus Beobachtung und Erfahrung lernen, dabei ihr Vorwissen einbeziehen (informiertes Lernen) und so ihr Wissen und ihre Fähigkeiten ständig erweitern und verbessern.

• Lernen anhand spärlicher Daten:

Manche Ereignisse, die für das Verhalten von Lernenden Systemen relevant sind, treten nur sehr selten auf. Die eingesetzten Lernverfahren müssen daher in der Lage sein, anhand unvollständiger Daten und aus wenigen Beispielen oder sogar aus einem einzigen „prägenden“ Beispiel bzw. Ereignis (One-Shot Learning) zu lernen, etwa durch verstärkte Nutzung von Vorwissen oder Methoden des inkrementellen Lernens.

• Mechanismen für den Transfer:

Um Vorwissen und Erfahrungen zu nutzen sowie sich auch mit anderen Lernenden Systemen auszutauschen, sind Mechanismen für den Transfer von Gelerntem sowie ein verallgemeinerndes Lernen (induktives Lernen) erforderlich. Insbesondere für lebensfeindliche Umgebungen ist es wichtig, das menschliche Vorwissen zu formalisieren und für Lernende Systeme nutzbar zu machen.

• Erweiterung um Erklärungsmodelle:

Lernende Systeme, die Entscheidungen treffen, müssen diese aufzeichnen (loggen), interpretierbar repräsentieren und im Idealfall erklären können. Nur so lassen sich etwa die Abläufe eines Einsatzes rekonstruieren und Lehren aus etwaigen Fehlentscheidungen ziehen. Zumindest aber müssen die Entscheidungen nachvollziehbar sein, sodass das rein datengetriebene Lernen um Entscheidungs-, Interpretations- und Erklärungsmodelle erweitert werden muss.

• Schutz gegen Missbrauch:

Lernende Systeme müssen gegen Missbrauch geschützt werden. Neben allgemeinen Rahmenbedingungen im Einsatz (z.B. wer darf wann und wo ein System einsetzen?) bedarf es technischer Mechanismen, die verhindern, dass solche Systeme außerhalb ihrer bestimmungsgemäßen Kontexte und Einsatzorte genutzt oder zweckentfremdet werden. Das gilt auch für das Erlernen unerwünschter Verhaltensmuster aufgrund von Daten, die in manipulativer Absicht zugeführt wurden. Abgesehen vom Missbrauch muss sichergestellt werden, dass das System durch „natürlich vorgefundene“ Daten nicht unerwünschte Verhaltensmuster erlernt.

Rechtliche und ethische Herausforderungen

• Haftungsfragen:

Da Lernende Systeme mit Menschen auf unterschiedliche Weise interagieren, stellen sich Fragen zu Verantwortung, Haftung und Versicherung, etwa wenn durch die Systeme Schäden entstehen. In internationalen Einsatzgebieten ist zudem die Regelung der Eigentumsrechte zu klären; so gehören nach heutigem internationalem Seerecht etwa unbemannte Systeme in internationalen Gewässern dem Finder.

• Datenschutz:

Die Verarbeitung von personenbezogenen Informationen kann zu Privacy- und Datenschutzproblemen führen. Solche Fälle können eintreten, wenn Lernende Systeme im Katastrophenschutz oder bei Feuerwehreinsätzen hinzugezogen werden und Daten der be betroffenen Menschen erfassen und weitergeben. Selbstständig entscheidende Systeme können außerdem bei Rettungseinsätzen in Dilemma-Situationen kommen. Ein Beispiel dafür ist das so genannte Trolley-Dilemma: Es kann nur eine Person versorgt werden, obwohl mehrere Menschen Hilfe benötigen. Für den Umgang mit solchen Situationen muss ein formaler Rahmen gefunden werden, der technische, rechtliche und ethische Überlegungen einbezieht.

Das Anwendungsszenario der Plattform Lernende Systeme veranschaulicht den zukünftigen Workflow beim Einsatz Lernender Systeme in Rettungseinsätzen (© Plattform Lernende Systeme)

Ausblick: Gestaltungsoptionen und Rahmenbedingungen

Egal ob bei der Erkundung von schwer zugänglichem Terrain, bei Rettungseinsätzen oder im Katastrophenschutz – Lernende Systeme können den Menschen bei Arbeiten in gefährlichen Umgebungen in vielerlei Hinsicht wirksam unterstützen und schützen. Unbestreitbar ist aber: Der Mensch als Einsatzkraft und Entscheider wird dabei auch zukünftig – vor allem zur Rettung von menschlichem Leben – nicht ersetzbar sein. Damit Lernende Systeme künftig noch stärker in lebensfeindlichen Umgebungen eingesetzt werden können, ist es wichtig, einige Voraussetzungen und Rahmenbedingungen zu schaffen. In Deutschland sind Lernende Systeme für den Einsatz in lebensfeindlichen Umgebungen bislang noch ein Nischenmarkt. Ihr Potenzial, in Bereichen wie Katastrophenschutz, Luft- und Raumfahrt, der maritimen Welt oder an Windkraftanlagen den Menschen von gefährlichen Aufgaben zu entlasten, ist jedoch hoch. Um diese Chancen zu nutzen, gilt es, die Aktivitäten im Bereich Forschung und Entwicklung zu Robotik und KI für Systeme in lebensfeindlichen Umgebungen zu intensivieren und zu beschleunigen. Dafür ist es notwendig, wichtige technische und wissenschaftliche Forschungsfragen zu lösen, etwa zur Kompensation von Funktions- und Teilsystemausfällen durch Lernende Systeme und zur Befähigung der Systeme und Verarbeitung personenbezogener Daten. Zudem sollten Simulations- und (immersive) Testumgebungen etabliert werden, in denen selbstständige Roboter und Rettungskräfte kooperieren.

Begleitend zu staatlichen Förderungen müssen zudem Potenziale und Grenzen der Anwendungen öffentlich kommuniziert und diskutiert werden, um die Wahrnehmung der gesellschaftlichen Relevanz zu stärken und Vertrauen in die Systeme zu schaffen. Die Praxistauglichkeit von Systemen bemisst sich auch daran, ob sie von Anwendern akzeptiert werden. Darüber hinaus ist es wichtig, Infrastrukturen, Datenpools und Referenzplattformen für die Erforschung und Entwicklung Lernender Systeme in lebensfeindlichen Umgebungen zu schaffen, die von Forschungseinrichtungen betrieben, aber von allen verschiedenen beteiligten Akteuren genutzt werden können. Die Förderung von Innovationen, etwa durch die Entwicklung von Geschäftsmodellen und die Schaffung einheitlicher rechtlicher Rahmenbedingungen – wie gemeinsame Standards und eine unabhängige Zertifizierung in Wirtschaft und Forschung – zählen zu weiteren Gestaltungsoptionen. Das hohe wirtschaftliche Potenzial von Lernenden Systemen für den Einsatz in lebensfeindlichen Umgebungen könnte damit künftig auch auf internationalen Märkten ausgeschöpft werden.