Paradigmenwechsel in Security : 5 Expertenmeinungen: KI-Trends und Herausforderungen 2024

Wir erwarten 2024 einen Paradigmenwechsel in der Interaktion zwischen Mensch und künstlicher Intelligenz (KI). Der Trend geht zur nahtlosen Integration von KI in unsere täglichen Arbeitsmittel: selbst komplexe Geschäftssoftware werden dann über Spracheingabe einfach zu bedienen sein müssen, um zukunftsfähig zu bleiben. Generative KI wird Nutzerinteraktionen auf verschiedensten Plattformen und deren Funktionalitäten in diversen Wirtschaftsbereichen verbessern. Wir erwarten, dass iterative KI-Interaktionen zur Norm und die Nutzer sich an kontinuierliche Feedbackschleifen mit digitalen Assistenten in zahlreichen Anwendungen gewöhnen werden. Die Akzeptanz von KI-Technologien steigt in dem Maße, in dem immer mehr Nutzer sie verwenden und mit dem Grad ihrer Reife. Nach dem Erfolg von Modellen, die Texte und Bilder generieren, wird sich der Schwerpunkt nach und nach auf Modelle verlagern, die aus Videomaterial Texte erstellen. Das könnte eine Revolution sein, weil sie das Lernen aus alltäglichen menschlichen Aktivitäten ermöglichen würde.

Außerdem ist ein Wandel hin zu offenen Informationsökosystemen zu erwarten: Indem Unternehmen gemeinsam hochwertige Prozessdaten nutzen, fördern sie ein kollaboratives Umfeld und treiben so weitere KI-Innovationen voran. In deren Folge lässt sich eine gerechtere Zukunft gestalten, in der Daten den Fortschritt für alle forcieren. Allerdings haben die neu bereitgestellten KI-Tools unbeabsichtigt auch die Möglichkeiten für Cyberkriminelle massiv erhöht. Um den immer ausgefeilterten Gefahren durch die KI in falschen Händen zu begegnen, müssen alle Beteiligten dringend ebenso intelligente wie fortschrittliche Cybersicherheitsmaßnahmen etablieren. Denn eines ist klar: Mit den zunehmenden Fähigkeiten der KI wächst auch deren Missbrauchspotenzial.

Doch nicht nur erhöhte Wachsamkeit ist nötig, sondern auch ein solider ethischer Rahmen für ihre Anwendungen. Entwicklungen wie das KI-Gesetz der EU, die KI-Verordnung von US-Präsident Biden und der Hiroshima-Prozess der G7-Staaten weisen darauf hin, dass die Einführung weltweiter Regulierungsrahmen bevorsteht. Es geht um einen transparenten, verantwortungsvollen Umgang mit künstlicher Intelligenz, bei dem die Verantwortung immer beim Menschen verbleibt.

In einer Phase intensiver technologischer Innovationen und angesichts eines schnellen Flusses auch schnell wieder verschwindender Ansätze wird sich die KI weiter turbulent entwickeln. Dennoch lassen sich für 2024 schon einige Trends erkennen. Ganz wichtig ist: KI wird auch Cyberkriminelle in ihren alltäglichen Aufgaben unterstützen. KI wird ihnen helfen, mehr Ziele effizient anzugreifen und bestehende Angriffsmechanismen unterstützen, aber nicht alle Vorgehensweisen völlig umwälzen.

Hacker suchen nämlich eher das einfache und effiziente Tool. Sie wollen oder benötigen keine aufwändigen Systeme. Sie bevorzugen robuste unkomplizierte Playbooks als Hilfe für wiederholbare und skalierbare Angriffe. Hacker nutzen KI also lieber als Arbeitswerkzeug für das Anpassen von Code in einer gewünschten Programmiersprache oder für das Entwickeln einer Flut von weiteren durchschnittlichen Varianten, um die Abwehr zu überlisten. Zu erwarten ist daher eine massive Welle eher einfach gestrickter Malware mittleren Niveaus sowie eine Fülle abgeleiteter Malware-Varianten. Nicht zu erwarten ist eine hochanspruchsvolle KI, die sich autonom auf den Weg durch das Opfernetz macht.

Dank einer durch KI entwickelten Malware, die alltägliche Aufgaben einfacher und effizienter gestalten kann, können die Hacker mehr Angriffe fahren. Dabei werden sie aber 2024 kein neues technisches Niveau erreichen, von der bemerkenswerten Ausnahme wie Deepfakes einmal abgesehen.

Ein weiteres Beispiel für einen Einsatz von KI als effizientes Werkzeug ist Social Engineering. Hier ist ab der zweiten Hälfte des Jahres 2024 eine Welle neuer Attacken zu erwarten. Dank Large-Language-Modellen (LLM) und der sich spektakulär entwickelnden Deepfakes werden Hacker in allen Bereichen diesen Angriffsmechanismus verbessern. Diese Angreifer zielen auf den einzelnen Menschen als schwächstem Glied der Abwehrkette.

Die cyberkriminellen Hacker profitieren dabei bereits von kleineren Fortschritten bei Large-Language-Modellen (LLM), auch wenn diese Hilfe nicht das Niveau einer Cloud-basierten KI erreicht. Lokal installierte Large-Language-Modelle werden dabei ein bevorzugtes und enorm wichtiges Tool für Hacker werden. Diese KI-Modelle laufen auf dem Rechner eines Anwenders oder Servers. Cyberkriminelle bevorzugen lokale LLM, weil sie offline zur Verfügung stehen und keiner Zensur unterliegen.

Zugleich werden Ransomware-as-a-Software-Operateure KI nutzen, um Tools zur Suche nach Informationen im angegriffenen Unternehmen zu entwickeln. So können sie Opfer von hohem Wert und mit großen finanziellen Mitteln recherchieren, um möglichst hohe Lösegeldforderungen zu realisieren. Dank KI suchen sie in einer eventuell in Terabyte zu messenden Datenbeute nach den wertvollsten Kronjuwelen, die sie mit hohem Profit weiterverkaufen oder offenlegen können.

Ein weiteres Problem ist, dass der Hype um das Schlagwort KI bei vielen Unternehmen den Blick auf die Sicherheitsrisiken verstellt. Angreifer werden nicht immer die fortschrittlichsten KI-Tools benötigen, da letztlich unsere ganze Gesellschaft immer noch mit grundlegenden Problemen der IT-Sicherheit zu kämpfen hat. Anwender nutzen oft selbst einfache Abwehrmaßnahmen nicht und am Anfang vieler Angriffe steht immer noch eine banale Phishing-Mail.

Künstliche Intelligenz hat vor allem im Enterprise-Bereich und auch in großen mittelständischen Unternehmen Einzug gehalten, um eine cyberresiliente Datensicherheit und Datensicherung zu verwirklichen. Dieser Trend wird sich weiter fortsetzen. Zu schnell wachsen die zu sichernden Datenmengen, die Frequenz und Komplexität der Ransomware-Angriffe - vor allem auf Backups - sowie die zeitlichen Vorgaben für eine Recovery. Gerade komplexe, gewachsene hybride Umgebungen von Daten machen bereits das Management von Backup-Jobs zu einer Aufgabe, die IT-Teams allein kaum fehlerfrei und nur mit hohem Aufwand bewältigen können. Wer zum Beispiel schnell unterscheiden muss, welche Störungen im Backup-Prozess aktuell stattfinden und welche ein Eingreifen der IT-Teams erfordern, benötigt priorisierte Alerts, um ein Problem zu analysieren und zu beheben.

Lösungen für eine cyberresiliente Datensicherung müssen zudem auch die Datensicherheit berücksichtigen. Eine Klassifikation von Daten und eine entsprechende Definition der gewünschten Schutzlevel bedarf der Analyse, zum Beispiel welche Informationen oder Anwendungen von welchen Abteilungen wie genutzt werden dürfen. Zugleich erfordern die komplexen Attacken von Ransomware-as-a-Service-Akteuren eine Früherkennung. Denn solche Angriffe beginnen oft nur mit dem unscheinbaren Eintritt der Hacker in das Opfernetzwerk. Je besser eine KI die IT-Sicherheit unterstützt, Anomalien in sämtlichen IT-Abläufen zu Anzeichen für eine Attacke zu korrelieren, umso früher kann die IT sich anbahnende Angriffe im Vorfeld verhindern.

Prävention ist gerade bei erpresserischen Angriffen zentral: Denn im Moment der Exfiltration oder dem Verschlüsseln von Daten entsteht der Schaden sofort und eine Abwehr kommt zu spät. KI und Machine Learning unterstützen zugleich im Ernstfall, Daten und Infrastrukturen schnellstmöglich und effizient wiederherzustellen. IT-Teams können dadurch optimale Recovery Time Objectives und Recovery Point Objectives mit minimalem Informationsverlust und maximal schneller Wiederverfügbarkeit abbilden. Sie erhalten Alarme, wenn vordefinierte Service Level Agreements zur Datenverfügbarkeit eventuell nicht mehr zu bedienen sind. Eine künstliche Intelligenz hilft zudem, die nötigen Recovery-Schritte im Desaster-Fall vorab zu definieren. Eine saubere, von Malware-Rückständen freie Wiederherstellung in einem Cloud-Reinraum beruht auf der KI- und ML-gestützten Definition der letzten sauberen Sicherheitskopie in einem Datenset.

2024 wird KI keine Zukunftsvision mehr sein, sondern praktikabel, umsetzbar und finanzierbar. Der Weg in die Cloud macht es möglich, Kosten zu verlagern: Unternehmen können an Infrastruktur einsparen und stattdessen von der Technologie sowie - DSGVO-konform - von den Ergebnissen aus den für eine Künstliche Intelligenz notwendige Datenpools eines Cloud-Providers profitieren.

In der sich ständig entwickelnden Welt der digitalen Transformation stehen Unternehmen vor verschiedenen Herausforderungen und Schlüsselthemen. Insbesondere die Integration von Künstlicher Intelligenz und Maschinellem Lernen in Geschäftsprozesse wird mehr und mehr zu einem unumgänglichen Trend, um zukunftsfähig zu bleiben.

Die Evolution der Digitalisierung hat in den letzten zwei Jahrzehnten maßgeblich dazu beigetragen, manuelle und repetitive Aufgaben zu automatisieren. Mit dem Aufkommen von Large Language Models (LLMs) erleben wir keine bloße Fortführung dieses Trends, sondern einen Durchbruch in neue Dimensionen. Nicht nur werden bestehende Prozesse optimiert, sondern auch gänzlich neue Bereiche und Tätigkeiten werden automatisiert oder entscheidend unterstützt.

Trotz dieser vielversprechenden Entwicklungen stehen wir vor der Herausforderung, einer jungen Technologie gegenüberzustehen, deren Anwendung und Qualitätssicherung noch nicht vollständig ausgereift sind. Die entscheidende Frage liegt darin, wie wir diese leistungsstarken Werkzeuge in Bereichen einsetzen können, in denen Fehler nicht akzeptabel sind. In dieser Gratwanderung zwischen Innovation und Risikomanagement liegt der Schlüssel zur erfolgreichen Integration von LLMs in die digitale Transformation. Diese Technologie bietet nicht nur Chancen, sondern verlangt auch nach einer strategischen Herangehensweise und der Auseinandersetzung mit ethischen und regulatorischen Fragen, um ihre Potenziale optimal zu entfalten.

Die rasante Entwicklung und Integration Künstlicher Intelligenz (KI) markiert eine der bahnbrechendsten technologischen Revolutionen unserer Zeit. Insbesondere im Technologieumfeld eröffnet KI ungeahnte Chancen für Innovation und Effizienzsteigerung: Die Automatisierung von Arbeitsprozessen, intelligente Datenanalysen und personalisierte Interaktionen sind nur einige Beispiele. Maschinelles Lernen, generative KI und Deep Learning haben dazu beigetragen, komplexe Probleme zu lösen, Muster in Daten zu erkennen und fortschrittliche Entscheidungsfindung zu ermöglichen.

KI wird zunehmend in verschiedenen Geschäftsbereichen eingesetzt, darunter auch im Business Process Management (BPM). Als weltweit verbreitete Managementdisziplin verfolgt sie das Ziel, Geschäftsabläufe im Unternehmen zu verstehen, zu analysieren und kontinuierlich zu optimieren, um einen möglichst hohen Grad an Digitalisierung, Automatisierung und Effizienz zu erreichen. In diesem Zusammenhang wird häufig von „Operational Excellence“ oder „operativer Exzellenz“ gesprochen, die durch den Einsatz von KI in BPM-Software noch einfacher und schneller realisierbar ist.

Die KI durchdringt dabei den gesamten BPM-Lebenszyklus – vom Prozessdesign über die Prozessanalyse bis zur Prozessautomation und -optimierung. KI-Modellierer, auch als AI Modeler bekannt, generieren in Sekundenschnelle tausende Prozessmodelle und erschaffen auf diese Weise eine vollständige, auf die Branche des Unternehmens abgestimmte Prozesslandschaft – ganz ohne menschliches Zutun und gleich in mehreren Sprachen. Die KI interagiert in der Form eine Chatbots in Echtzeit mit Usern, gibt Antworten auf Fragen und Problemstellungen und liefert „on the fly“ personalisierte Empfehlungen zur Optimierung und Automatisierung von Prozessen. Als intelligenter Copilot und strategischer Berater schlägt die KI außerdem Aktivitäten und Entscheidungspunkte vor und kann sogar eigenständig automatisierte Prozessapplikationen entwickeln.

Die Implementierung von KI in Software eröffnet neue Horizonte für personalisierte Benutzererfahrungen. Intelligente Assistenten, wie von Zauberhand automatisierte Prozesse und KI-gestützte Prozessanalysen und Optimierungsvorschläge verbessern die Interaktion zwischen Mensch und Maschine. Dies schafft nicht nur benutzerfreundliche Produkte, sondern katapultiert Unternehmen auf ihrer Reise zur operativen Exzellenz auf ein ganz neues Level.

Doch neben der Euphorie gilt es, die ethische Verantwortung im Umgang mit KI nicht zu vernachlässigen. Transparenz von Entscheidungsprozessen, Vorurteilsfreiheit, Sicherheit und Datenschutz sind zentrale Fragen, die sorgfältig adressiert werden müssen, um das Vertrauen der Nutzer zu wahren.

Der zunehmende Einsatz von KI stellt zweifellos einen entscheidenden Wendepunkt für die Technologiebranche und unsere Gesellschaft dar. Diejenigen, die sich anpassen und KI verantwortungsbewusst integrieren, stehen vor der Möglichkeit, innovative Lösungen zu schaffen und einen entscheidenden Wettbewerbsvorteil zu erlangen. Wir stehen vor aufregenden Zeiten, in denen die Kombination von menschlichem Know-how und künstlicher Intelligenz das Potenzial hat, die Arbeitsweisen von heute in bisher ungeahnte Höhen zu führen.