KI erfordert Anpassung der gesamten IT-Sicherheitsstrategie

Unternehmen müssen Sicherheitsmaßnahmen erweitern und an KI-Workflows bzw. veränderte Datenarchitektur anpassen.

Laut dem 2025 State of Data and Cloud Strategy Survey Report von Ctera legen IT-Führungskräfte den Schwerpunkt auf Cybersicherheit. Vor allem robuste Strategien zur Bekämpfung von Ransomware stehen im Mittelpunkt. Aaron Brand von Ctera gibt Tipps zur Informationssicherheit im KI-Zeitalter.

Für seinen 2025 State of Data and Cloud Strategy Survey Report hat Ctera 300 leitende IT- und Sicherheitsverantwortliche in den Regionen USA, EMEA und APAC befragt. Alle befragten Unternehmen gaben an, in den letzten zwei Jahren einen Ransomware-Angriff erlebt zu haben. 17% der befragten Unternehmen erlitten zumindest teilweise Datenverluste im gesamten Unternehmen. In nur 59% der Fälle konnten die Daten aus Backups wiederhergestellt werden.

Sicherheitsrisiko KI

Die zunehmende Verbreitung von KI kann die Angriffsfläche für Ransomwareangriffe erhöhen, weiß Ctera-CTO Aron Brand: “Erstens nutzen Angreifer KI, um ihre Angriffe effektiver und effizienter zu gestalten. Dies erreichen sie durch intelligentere Phishing-Angriffe, schnellere Malware-Erstellung und automatisierte Recherche. Zweitens kann die Art und Weise, wie Unternehmen KI einsetzen, ihre eigenen Abwehrmechanismen unbemerkt untergraben.”

Zwar ist Sicherheit laut dem Cetera-Report für Verantwortliche bei der Auswahl geeigneter KI-Werkzeuge am wichtigsten. In der Praxis reicht das jedoch nicht aus. Oft werden diese Dateien z. B. zu Trainingszwecken, in neue Datenspeicher kopiert oder an externe Cloud-Dienste gesendet. Selbst wenn diese Transfers nur vorübergehend sind, vergrößern sie die Angriffsfläche.

Nicht nur, dass die Daten für die Verwendung in KI-Anwendungen ihre sicheren Speicherumgebungen verlassen, ist ein Risiko. Auch werden die Rollen- und Berechtigungskonzepte aufgeweicht.

Als Beispiel nennt Brand Retrieval-Augmented Generation (RAG). RAG ermöglicht relevantere und unternehmensspezifische Antworten. Viele Unternehmen nutzen RAG und geben den Sprachmodellen (LLMs) Zugriff auf eine Vielzahl interner Inhalte – darunter auch sensible Unternehmensdaten.

Brand gibt zu bedenken: “Zugriffskontrollen in Unternehmen sind in der Regel an Identitätssysteme und Dateispeicher gebunden; ihre Neuimplementierung in einer KI-Pipeline ist selten problemlos.” Im besten Fall können Anwender in einer Organisation während einer Abfrage auf Inhalte zugreifen, die sie niemals sehen sollten. Im schlimmsten Fall erhalten Cyberkriminelle Zugang zu sensiblen Daten.

Strategie an KI-Workloads anpassen

Unabhängig von der Sicherheit der Werkzeuge müssen Organisationen daher die gesamte Sicherheits- und Datenstrategie auf die KI-Prozesse ausweiten. Rollen- und Berechtigungskonzepte müssen an die dynamischen KI-Workloads angepasst werden.

Aron Brand empfiehlt in einem Blogpost: “Verwenden Sie Identitäts- und Autorisierungssysteme des Unternehmens auch innerhalb des KI-Pfads. Legen Sie fest, was Mitarbeiter und Agenten tun dürfen und was nicht. Setzen Sie Richtlinien sowohl auf der Ebene der Eingabeaufforderung als auch auf der Ebene der Orchestrierung durch.“

Auch veränderte Datenstrukturen erfordern ein Umdenken in der Sicherheitsstrategie der Unternehmen. “Die Zukunft der Unternehmens-KI liegt nicht in einem einzigen, allmächtigen Modell in einer zentralisierten Cloud”, schreibt Brad Shimmin, Vice President and Practice Lead for Data Intelligence, Analytics, and Infrastructure bei Futurum, in einem Gastbeitrag für Ctera.

Karyn Price, Industry Director and AI Program Manager bei Frost & Sullivan bestätigt in einem anderen Gastbeitrag: “Legacy-NAS-Systeme wurden für eine andere Ära entwickelt – als Daten noch an einem Ort gespeichert waren, Teams im selben Büro arbeiteten und KI noch kein Thema war. Heute sind Daten überall zu finden, und KI-Modelle benötigen in Echtzeit Zugriff auf riesige, vielfältige Datensätze.”

Die Empfehlung von Brand lautet: “Unternehmen können wichtige Daten vor Ort oder in privaten Clouds speichern, um Souveränitätsanforderungen zu erfüllen, beispielsweise um Daten von EU-Bürgern innerhalb der Grenzen zu halten oder um sicherzustellen, dass keine Daten ohne Aufsicht die Firewall verlassen.”

KI-Agenten in Sicherheitsstrategie einbeziehen

Agenten erhalten im System eine eigene digitale Identität und Zugangsdaten. Das macht sie zu einem Sicherheitsrisiko. KI-Agenten haben zudem oft Zugriff auf externe Tools und APIs (z. B. E-Mail-Versand, Datenbankzugriff, Code-Ausführung), was die Angriffsfläche vergrößert.

Mit Prompt Injection und Goal Manipulation können Angreifer versteckte oder irreführende Anweisungen einschleusen und die Agenten manipulieren, um vertrauliche Daten abzugreifen oder andere Systeme zu kompromittieren. Ein weiteres Risiko ist ungenügendes Lifecycle Management. Wenn Agenten nicht mehr benötigt werden, aber ihre Zugriffsrechte nicht entzogen werden, bleiben sie als unüberwachte Hintertür im System bestehen.

Brand empfiehlt die Härtung von KI-Agenten und die Nutzung sogenannter Sandboxen (entkoppelte Umgebungen zur Ausführung von Anwendungen) sowie Mechanismen zur Überprüfung von Tool-Ausgaben. Er gibt weitere Tipps: “Legen Sie strenge Ausgangsrichtlinien für KI-Dienste fest, einschließlich DNS- und Netzwerkkontrollen. Notfallzugriffe sollten selten sein und überprüft werden. Rüsten Sie KI-Gateways für die Erkennung von Anomalien aus: ungewöhnliche Abrufvolumina, mandantenübergreifende Zugriffe oder plötzliche Spitzen bei sensiblen oder abgelehnten Abfragen. Dokumentieren Sie Datenflüsse, Speicherorte, Aufbewahrung und DSR-Handhabung für KI-Pfade genauso wie für jedes andere System.”