Deep Learning

Wie werden Deep Learning-Verfahren verlässlich?

Das DFKI hat ein Projekt gestartet, bei dem Deep Learning-Verfahren anhand eines jonglierenden Industrieroboters erforscht werden. Eine KI soll sowohl schnelle als auch verlässliche Entscheidungen treffen können - anders als bisher.

DFKI BMBF Robotik Deep Learning Künstliche Intelligenz

Ein Pi4-Workerbot hält Jonglierbälle in die Luft.

Wenn Menschen vor einem Problem stehen, können sie dieses entweder logisch und mit Ruhe betrachten, oder spontan und emotional entscheiden. Ähnlich geht es dem Computer: Moderne Deep-Learning-Verfahren liefern dank ihres Trainings mit großen Datenmengen schnelle Ergebnisse, die jedoch nicht nachvollziehbar sind. Wissenschaftler des Deutschen Forschungszentrums für Künstliche Intelligenz (DFKI) untersuchen nun, wie sich diese Ergebnisse durch formale Verfahren überprüfen lassen und so verlässlicher werden – ohne an Schnelligkeit einzubüßen. Die neue Methode soll unter anderem anhand eines jonglierenden Industrieroboters getestet werden. Wie lässt sich das Jonglieren besser erlernen: Durch Beobachten und Ausprobieren, oder durch das langwierige Planen der einzelnen Handbewegungen und Würfe?

Dem Psychologen Daniel Kahneman zufolge verstecken sich hierin die zwei Systeme, die das menschliche Denken bestimmen – das schnelle, emotionale und unbewusste Entscheiden, oder das langsame, logische und berechnende. Obwohl Computer nach wie vor weit davon entfernt sind, das menschliche Denkvermögen in seiner Komplexität nachzuahmen, gibt es zwei vergleichbare Herangehensweisen, mithilfe derer eine Künstliche Intelligenz Entscheidungen treffen kann. Während Deep-Learning-Verfahren zu schnellen, jedoch rational nicht begründbaren Ergebnissen führen, können durch formale Berechnungen nachvollziehbare und mathematisch korrekte Antworten erhalten werden – die allerdings mehr Zeit beanspruchen. In dem am 1. November 2019 gestarteten Projekt „Fast&Slow“ untersuchen Wissenschaftler des DFKI, wie sich die beiden Methoden kombinieren lassen. Am Forschungsbereich Cyber-Physical Systems soll es einer Künstlichen Intelligenz ermöglicht werden, gleichzeitig schnelle wie auch verlässliche Entscheidungen zu treffen. Denn Deep-Learning-Verfahren alleine liefern lediglich subsymbolisch errechnete Lösungen, die auf Millionen von Parametern und Unmengen von Testbeispielen basieren. In vielen Anwendungsgebieten erfüllt dieses Vorgehen jedoch nicht die Ansprüche an Verlässlichkeit und Vertrauenswürdigkeit – beispielsweise im Bereich des autonomen Fahrens. Aus diesem Grund ist es notwendig, die Ergebnisse überprüfen und der KI die korrekten Ergebnisse antrainieren zu können.

Wenn Roboter sicher jonglieren und navigieren

Hierzu sollen diese subsymbolischen Verfahren mit symbolischen kombiniert werden, um so die Vorteile beider – die Schnelligkeit ebenso wie die nachvollziehbare Korrektheit der Resultate – nutzen zu können. Dafür ist es zunächst nötig, Problemstellungen zu definieren, die sowohl formal als auch durch Deep-Learning-Algorithmen lösbar sind – wie beispielsweise das Planen von Handlungsabläufen. Zunächst soll das formal korrekte Ergebnis trainiert werden, bevor das Problem durch das schnellere, subymbolische Verfahren zu lösen versucht wird. Das Resultat kann im Nachhinein mit der symbolischen Methode überprüft und gegebenenfalls korrigiert werden. Um die Kombination der Verfahren zu testen, planen die Wissenschaftler des DFKI zwei Versuchsabläufe: Im ersten Versuch sollen sogenannte TurtleBots (kleine autonome Transportroboter, die unter anderem als Transporthilfen genutzt werden können) ihren sicheren Weg durch ein Smart Home finden. Im zweiten Versuch soll wiederum einem Pi4-Workerbot – ein Industrieroboter mit zwei Armen – das Jonglieren beigebracht werden. Ziel ist es, den Roboter sowohl alleine als auch zusammen mit einem Menschen jonglieren zu lassen, indem er die berechneten Bewegungsabläufe kennt und gleichzeitig durch Deep-Learning-Verfahren schnell über die nächste Armbewegung entscheiden kann.

White Paper zum Thema

Grundlagen für eine vorurteilsfreie und verlässliche KI

Zunächst geht es in dem Projekt „Fast&Slow“ jedoch darum, die grundlegenden Probleme der zwei Verfahren zu betrachten: Wie lassen sich die Informationen der verschiedenen KI-Methoden zusammenführen, welche Probleme lassen sich formell überprüfen und in welchen Fällen ist diese Überprüfung besonders wichtig? Ein bekanntes Beispiel für die Schwächen des Deep Learning sind Verfahren, die aufgrund der Daten, mit denen sie trainiert wurden, Vorurteile ausbilden. Gerade in solchen Situationen ist es von Bedeutung, auch formale Ergebnisse zu erhalten. Die Wissenschaftler des DFKI zielen darauf ab, die Grundlagen für einen sichereren und verlässlicheren Einsatz von Deep-Learning-Verfahren zu entwickeln, um so das Potential der maschinellen Entscheidungsfindung auch in anspruchsvollen Bereichen nutzen zu können. Das Bundesministerium für Bildung und Forschung (BMBF) fördert das Projekt „Fast&Slow“ deshalb mit rund 1,2 Millionen Euro über eine Laufzeit von drei Jahren.

Verwandte tecfindr-Einträge