KI

Der Vorsprung sicherer Daten

Die Mathematikerin Sophie Grünbacher forscht gemeinsam mit ihrem Partner an vertrauenswürdigen Algorithmen, um absolute Datensicherheit zu gewährleisten. Diese sind auch für Industrie und Produktion von Relevanz.

Von

Sophie Grünbacher, Mitbegründerin des Start-Ups "DatenVorsprung", beschäftigt sich mit KI-Algorithmen.

Sophie Grünbacher ist Doktorandin eines vom Wissenschaftsfonds FWF geförderten Projekts am Institut für Logic and Computation der TU Wien. Gemeinsam mit ihrem Lebensgefährten Philipp Neubauer gründete sie neben ihrer Forschungstätigkeit das Start-Up DatenVorsprung mit dem Slogan „Zukunft made in Austria“. Das Ziel: Sie wollen der Macht amerikanischer Unternehmen entgegenwirken und vertrauenswürdige Datenanalysen anbieten, die noch dazu auf Servern in Österreich erfolgen. Ähnlich wie Google Analytics bieten sie so Visualisierungen, Besucherstromanalysen oder Besucherstromprognosen an – alles auf Basis künstlicher Intelligenz. „Wir wollen zeigen, dass man sehr viel Nutzen aus Daten ziehen kann, ohne dass man sie missbraucht“, sagt Grünbacher. Viele Unternehmen hätten schon dementsprechende Daten, wüssten jedoch nicht, was sie alles damit machen können.

Im Anschluss an ihr Studium der Technischen Mathematik landete Grünbacher in der Forschungsgruppe „Cyber-Physical Systems“ der TU Wien. Vertrauenswürdige Algorithmen, die auf künstlicher Intelligenz basieren, sind auch das Thema ihrer Doktorarbeit. Was genau vertrauenswürdig bedeutet, muss dabei definiert werden. „Stellen wir uns einen Wagen mit einem Pendel vor, das man austarieren möchte. Wir können manuell alle möglichen Winkel ausprobieren, oder man definiert in Modellierungen unsichere Bereiche, in denen das Pendel umfallen würde“, erklärt Grünbacher. Das gleiche könne man zum Beispiel auf das autonome Fahren umlegen: Der unsichere Bereich wäre hier, nicht zu nah an ein anderes Auto oder einen Menschen zu kommen.

KI-Algorithmen in der Produktion

„Unsere vertrauenswürdigen KI-Algorithmen sind selbstverständlich auch für Industrie und Produktion (z.B. Produktionshallen und Robotik) von großer Relevanz. Bei DatenVorsprung verbinden wir aktuellste KI-Methoden, reinforcement learning und time-continuous neural networks mit unserer Forschung zur Sicherstellung von Vertrauen und Sicherheit in der Anwendung, indem unerklärbare Vorgänge in der künstlichen Intelligenz verifizierbar gemacht werden“, erklärt Sophie Grünbacher, Mitgründerin von DatenVorsprung.

White Paper zum Thema

Durch die Verifizierung soll eine gewisse Kontrolle der KI geschaffen und Zustandsräume definiert werden, in denen sich die KI bewegen kann. Bei einer Abweichung von Inputs zu zuvor verwendeten Trainingsdaten kann somit auf eine gewisse Art und Weise garantiert werden, dass sich der Output einer KI (Stellgrößen usw.) somit in einem definierten Lösungsraum befinden.

„Dies ist ein sicherheitskritisches Thema bei selbstfahrenden Fahrzeugen oder auch der Steuerung von Greifarmen, denn diese sollen sich optimal in ihrem Lösungsraum bewegen, Abläufe oder Bewegungen optimieren, aber keinesfalls irgendwelche Zustände erreichen, die sicherheitskritisch, gefährlich oder einfach unerwünscht sind. Im Bereich von Industrie und Produktion kann somit vermieden werden, dass bei der Anwendung von KI-Algorithmen unsichere Zustände, wie beispielsweise die Verletzung eines Menschen, zu starkes Erhitzen, zu später Austausch eines Ersatzteils, erreicht werden“, so Grünbacher. Auf diese Weise soll Sicherheit und Vertrauen bei der Verwendung unserer KI garantiert werden.