Künstliche Intelligenz : „Neuronale Netze werden extrem blind verwendet“

Factory: Herr Mehnen, Sie beschäftigen sich unter anderem damit, wie sehr man künstlicher Intelligenz vertrauen sollte. Nehmen Sie hier in der breiten Gesellschaft eher ein Misstrauen oder einen „Overtrust“ wahr?

Lars Mehnen: Ich sehe beides. Das Bildungsbürgertum begreift KI als Werkzeug und verwendet sie auch als solches. Alle abseits davon nehmen die neuen Technologien sehr kritisch auf. Viele wissen nicht, wie sie damit umgehen sollen, können sie nicht einschätzen und sind zu weit weg davon.

Technische Leiter in Produktionsbetrieben stehen hier tendenziell genau dazwischen: sie sind fachlich gebildet, haben vielleicht studiert, kommen aber oftmals von der Basis der Unternehmen. Dementsprechend wird KI dort sehr unterschiedlich aufgenommen.

Vor kurzem war ich bei einem Antriebshersteller, wo genau dieser Zweispalt Thema war. Die Tochterfirma in Österreich hat von der amerikanischen Geschäftsleitung die Direktive bekommen, KI einzusetzen. In Nordamerika herrscht allerdings eine ganz andere Firmenkultur als bei uns. Die Abteilungsleiter haben sich dann an uns gewandt und wollten wissen: „Was ist das eigentlich und was haben wir davon?“. Die große Frage ist also, wie kann man dieses Werkzeug so einsetzen, dass es sich wirtschaftlich auch rentiert.

Warum macht KI manchen Menschen Angst?

Weil sie deren Fähigkeiten und Folgen nicht wirklich abschätzen können. Und dazu kommt, dass viele eigentlich ihr gesamtes Unternehmen umstrukturieren müssten, um sich für die kommenden Jahre zu wappnen. Es ist also etwas widersprüchlich: Viele wollen KI, brauchen sie auch, aber es ist natürlich eine Investition, die nicht ohne Risiko ist.

Der Begriff Vertrauen wird normalerweise im Rahmen des Zwischenmenschlichen verwendet. Ist der Anspruch, dass Menschen auch einer Maschine oder einem Algorithmus vertrauen, nicht überzogen?

Menschen im Industriezeitalter sind schon lange daran gewöhnt, Vertrauen nicht nur im Zwischenmenschlichen anzusiedeln. Wenn Sie mit dem Flugzeug nach Hawaii fliegen, vertrauen Sie der Maschine Ihr Leben an. Heutzutage vertrauen wir sogar Maschinen oft mehr als Menschen. Früher wurden Aufzüge noch von eigenen Fahrstuhlführern bedient – das würde uns heute befremdlich vorkommen.

Und trotzdem haben Sie einige gut begründete Argumente parat, warum man einer KI doch nicht blind vertrauen sollte.

Richtig!

Was ist Ihrer Meinung nach am Einsatz von künstlicher Intelligenz zu bemängeln?

Ich muss dazu sagen, dass ich ein großer Kritiker von neuronalen Netzen bin. Die werden heute extrem blind verwendet. Nach dem Motto „Ich habe irgendwo ein Problem, schmeiße das in ein neuronales Netz und wird schon passen“. Es muss klar sein; ein neuronales Netz ist ein statistisches Werkzeug. Und Statistik ist nicht einfach. Daher drücke ich auf die Bremse und sage: Bitte passt auf. Denn was ihr glaubt, was das Ding kann, kann es nicht wirklich.

Was ist das Problem daran?

Eines der größten Probleme ist zum Beispiel, dass bei neuronalen Netzen sehr häufig von Qualität gesprochen wird. Dieses Qualitätsmaß ist aber völliger Blödsinn, weil die Metrik, die man da verwendet, überhaupt nicht definiert ist. Neuronale Netze sind Approximationsverfahren, mit denen man versucht, Gewichte soweit zu approximieren, bis die Klassifikation passt. Das kann man aber nicht so einfach machen.

Können Sie kurz erklären, was Sie in diesem Zusammenhang unter Qualität verstehen?

Wenn ich zwei Sachen voneinander abziehe, die nicht abziehbar sind, ist das Qualitätsmaß, das dabei herauskommt, nur bedingt wahr. Was soll das Ergebnis von Apfel minus Birne sein? Ich kann hier nur sagen ja oder nein, aber ich kann nichts über die Qualität aussagen.

Für welche Fälle eignen sich neuronale Netze gut?

Sachen, die designt worden sind, wie etwa ein Verkehrsschild. Das hat einen Sinn, warum es ausschaut, wie es ausschaut, weswegen es gut erkannt werden kann. Damit tun sich die Algorithmen leicht. Bei anderen Sachen wird’s schwieriger. Zum Beispiel Hautkrebs oder Fehler in Prozessen. Sie zu klassifizieren ist erheblich schwieriger.

Aber interessant wird es ja genau dort, wo etwas nicht bewusst designt worden ist…

Genau. Und meistens ist das von Menschen Designte nur ein ganz kleiner Bereich, während alles andere Fehler sind. Zurückkommend auf die Industrie: Es fließen mittlerweile Millionen in Predictive Maintenance, um Fehler zu vermeiden. Aber das ist sehr schwer. Man versucht hier, die bereits passierten Fehler zu verwenden, um sie nachher zu verhindern. Bloß: Fehler passieren selten.

Könnte ein Zusammenschluss mit anderen darauf nicht die Antwort sein – um Fehlerdaten zu bekommen, ohne dass man sie selber machen muss?

Da kommen Sie wieder auf das Problem: Fehler kann man sehr schwer miteinander vergleichen. Und die Ursache für Fehler herauszufinden, ist eine Aufgabe für Expert:innen. Das ist nicht trivial. Es werden natürlich die Werkzeuge und Hilfsmittel dafür verwendet, wo es geht, aber von einer allgemeinen KI, die das kann, sind wir noch sehr weit entfernt. Und ich würde einer solchen auch nicht wirklich vertrauen.

Gehen wir zu einem konkreten Beispiel aus dem Produktionsumfeld. Da wird als Low-Hanging-Fruit immer wieder die Bildauswertung in der Qualitätskontrolle genannt. Sehen Sie den Einsatz von Vision-KI hier auch problematisch?

Das ist kein Problem, wenn wir ja/nein-Antworten mit gewissen Toleranzen haben. Hier möchte ich nicht die Fehler voneinander unterscheiden, sondern die Fehler überhaupt erkennen. Wenn ich ein Gussteil habe und da ist ein Bläschen drinnen, dann sehe ich, dass da eine Fehlerstruktur drinnen ist und kann es aussortieren. Ich definiere, was richtig ist, und alles andere ist Ausschuss – Punkt.

Das erste Level beim Einsatz von KI in der Produktion ist, eben etwas zu erkennen, einen Zustand zu bewerten, mit großen Datenmengen umzugehen und die zu klassifizieren. Der zweite Schritt ist dann schon die Voraussage. Ab da wird es dann kritisch, habe ich das richtig verstanden?

Ja, das ist dann nicht mehr trivial. Da muss man dann viel Zeit und Geld investieren, damit man das machen kann. Da würde ich auch meinen, da fangen die meisten Leute an, Angst zu kriegen.

Der dritte Schritt ist dann die Selbststeuerung einer Maschine. Schrillen da bei Ihnen dann alle Alarmglocken?

Das kommt auf die Anwendung drauf an. Wenn das komplexe Anwendungen sind, wo wir gegenseitige Abhängigkeiten haben, würde ich damit aufpassen. Ich habe so etwas schon gemacht, aber das hat über ein Jahr Arbeit gekostet, damit es industriell anwendbar wurde.

Was braucht es dann Ihrer Meinung nach, um KI-Modelle industriell breit einsatzfähig zu machen? Ist es eine reine Ressourcenfrage?

In Österreich ist es sehr divers. Es gibt Firmen, die KI verwenden und gut damit umgehen können. Andere halten sich eher an das Motto „Never change a winning system“. Und diese Firmen haben meistens das Problem, dass sie noch nichts digitalisiert haben. Da müsste zuerst ein Data Scientist kommen und herausfinden, welche Daten es überhaupt gibt und welche Qualitäten diese haben. Und erst wenn ich halbwegs gute Daten habe, kann eine KI etwas damit anfangen. Die meisten sind da noch lange nicht.

Also es hapert daran, dass oft keine Daten vorhanden sind?

Ja, vor allem qualitätsvolle Daten. Ich kann ein Beispiel nennen: A1 hat den Schritt gewagt. Die haben einem Team ein Jahr Zeit gegeben, um ein KI-Projekt umzusetzen – mit relativ offenem Ausgang. Zunächst haben sie nur Daten gesammelt und geschaut, was sie damit machen können. Dann haben sie in Babyschritten kleinste Dinge zusammengeführt, aus den Daten gelernt – und daraus ein wirklich wertvolles Werkzeug gebaut. Das wäre ein optimales Vorgehen.

Besteht vor allem bei kleinen Unternehmen die Gefahr, dass sie von den großen geschluckt werden, wenn sie in Bezug auf KI nicht mitziehen?

Ja. Aber sie müssen aufpassen, wie sie das einsetzen. Wenn sie dadurch den Kundenkontakt verlieren, ist es kontraproduktiv. Die Großen können nicht anders. Sie müssen ihre Prozesse optimieren, weil sie weltweit die Mitbewerber haben. Die mittleren Unternehmen sind dafür in der Zwickmühle, weil sie von beiden Seiten gefordert sind.

Manche Expert:innen meinen, dass wir in Europa mit ethischer KI noch die Chance haben uns weltweit durchzusetzen. Was braucht es denn, damit eine KI ethische Grundsätze erfüllen kann?

Natürlich muss eine gewisse Art von Ethik in die künstliche Intelligenz einfließen. Gleichzeitig besteht für Europa aber eher die Gefahr, damit ins Hintertreffen zu geraten. Die Chinesen haben wesentlich weniger ethische Probleme, KI einzusetzen. Die trainieren auf Teufel komm raus neuronale Netze an KIs, damit sie effizienter produzieren können – was erstmal teuer ist. Da ist es wahrscheinlich, dass wir in Europa diese KIs teilweise übernehmen. Damit übernehmen wir aber auch deren Ethik. Wenn wir als Europäer sagen, das wollen wir nicht, müssen wir uns das leisten können. Das wirtschaftliche Interesse hat bis jetzt aber meistens gewonnen.

Zum Schluss hätte ich gern noch einen Tipp, wie vor allem kleine und mittlere Produktionsbetriebe mit dem Problem der, wie Sie sagen, nicht ganz so vertrauenswürdigen KI umgehen sollen. Sollen sie noch kritischer werden, als sie ohnehin schon sind?

Die sind konservativ. Das ist nicht unbedingt kritisch.

Wie sieht dann Ihr Tipp aus?

Sie sollten erfinderischer sein. Gerade bei kleineren Unternehmen ist die hierarchische Struktur so flach, dass man das machen kann. Sie können einen Lehrling nehmen, dem eine Ecke in der Werkshalle geben und sagen: „Spiel rum! Du bist jung, probiere etwas aus!“ Und der darf dafür vom Meister, der seit Jahrzehnten im Unternehmen ist, keine auf die Finger bekommen. Wenn die Firma Glück hat, funktioniert dadurch irgendetwas, das vorher nie funktioniert hat. In einigen Fällen kann dabei etwas wirklich Cooles rauskommen!