2025 AI Cyber Benchmark

Viele klassische Sicherheitsmaßnahmen können problemlos auf Künstliche Intelligenz angewendet werden, das aber reicht nicht aus, insbesondere bei kritischen Anwendungsfällen. Das erforderliche Sicherheitsniveau hängt von Ihrer KI-Nutzung ab, wie zu Beginn dieser Studie beschrieben:

• KI-Nutzung: Organisationen in dieser Kategorie, die hauptsächlich Drittanbieter-KI-Lösungen nutzen, müssen sich auf Datensicherheit und Lieferantenrisikomanagement konzentrieren. 40 % der Organisationen in unserer Benchmark haben ihre Drittanbieterevaluierungsmethodik für KI-Anbieter angepasst. Wichtige Themen umfassen das Bewusstsein für KI-Risiken, Governance, Richtlinien und Compliance (z. B. KI-Gesetz und Vermeidung von „Shadow AI“) sowie die Implementierung eines Risikomanagementrahmens für Drittanbieter im Bereich KI.
• KI-Orchestrierung: Diese Organisationen integrieren Drittanbieter-KI-Modelle in ihre Produkte/Dienstleistungen. Sicherheitsprioritäten umfassen die Gewährleistung der Robustheit von KI-Plattformen und die Sicherung von Datenspeichern. 43 % der Organisationen haben bereits einen Modellauswahlprozess implementiert, der Sicherheitskriterien umfasst. Es ist entscheidend, KI-Plattformen zu sichern, KI-zugängliche Datenspeicher zu schützen (z. B. RAG-basierte Architekturen) und Sicherheitswerkzeuge für kritische Anwendungsfälle zu erweitern. Mit dem Wachstum der KI-Integration wird die Implementierung von MLSecOps-Praktiken unerlässlich.
• KI-Entwicklung mit fortgeschrittenem Niveau: Organisationen, die proprietäre KI-Modelle entwickeln, tragen die volle Verantwortung für ihre Sicherheitsarchitektur und benötigen ein hohes Maß an Reife. Bis heute haben nur 7 % der Organisationen in unserem Panel Maßnahmen zur Erkennung und Abwehr von bösartigen Eingabeaufforderungen und anderen KI-Bedrohungen umgesetzt. Prioritäten umfassen die Sicherung aller Werkzeuge und Prozesse, die von MLOps-Teams zum Aufbau von KI verwendet werden, die Gewährleistung eines fortgeschrittenen Schutzes für ML-Schlüsselressourcen und die Verbesserung von Erkennungs- und Reaktionsfähigkeiten.

Jede dieser KI-Posturen bringt ihre eigenen Risiken und notwendigen Risikominderungsstrategien mit sich. Glücklicherweise wird der Markt für Sicherheitslösungen zunehmend vielfältiger, auch mit Open-Source-Lösungen. Organisationen müssen sicherstellen, dass sie sich nicht nur auf die nativen Sicherheitsmaßnahmen ihrer Anbieter oder auf ihre Annahmen zur Cybersicherheit verlassen, sondern ein Schutzniveau implementieren, das auf ihre Risiken abgestimmt ist.

Monitoring und Testing sind entscheidend, um Schutzmaßnahmen zu ergänzen. Obwohl viele Tools bereits verfügbar sind, haben Organisationen oft noch keine Strategie in diesem Bereich definiert:

Beim Monitoring sammeln 71 % der Organisationen Anwendungsprotokolle, aber nur 13 % senden diese an ihr SOC, um Alarme zu generieren. Organisationen sind in der kontinuierlichen Bewertung der Leistung ihrer Modelle tendenziell reifer, da 36 % der Organisationen Metriken in diesem Bereich definiert haben, insbesondere solche mit etablierten Data-Science-Prozessen.

Bezüglich AI-Pentesting (auch bekannt als AI Red Teaming) haben 64 % der Organisationen einen spezifischen Testprozess für ihre Anwendungsfälle implementiert, jedoch in der Regel nur für grundlegende Angriffe und manuell ausgeführt. Nur 7 % haben einen Testprozess implementiert, der Automatisierung umfasst und fortgeschrittene Tests durchführt, die auf die verwendeten Algorithmen und Technologien abgestimmt sind.

Für Organisationen ist es entscheidend geworden, eine Strategie in diesen beiden Bereichen zu definieren: Welche Anwendungsfälle sind am kritischsten und müssen überwacht und getestet werden? Wie kann ich meine SOC-Teams schulen, um Alarme effektiv zu bearbeiten? Wie kann ich Tests für Anwendungsfälle skalieren, die sich schnell weiterentwickeln?

Der Bereich der KI-Vorfallerkennung bleibt noch unerschlossen: Die Reife in diesem Bereich liegt bei nur 9 %. Viele Organisationen verlassen sich immer noch auf ihre allgemeinen Vorfallreaktions- und Untersuchungsprozesse, ohne KI-spezifische Aspekte zu berücksichtigen. Nur 29 % haben damit begonnen, Vorfallreaktionsszenarien zu integrieren, die KI-Systeme betreffen.

Da kritische Anwendungsfälle, insbesondere mit dem Aufkommen agentenbasierter KI, immer mehr an Bedeutung gewinnen, wird es notwendig sein, die Reaktionsfähigkeiten anzupassen. Erste Initiativen sind bereits entstanden: Die Carnegie Mellon University hat ein AI-CSIRT eingerichtet, um KI-Vorfälle zu analysieren und darauf zu reagieren, während die ANSSI, die französische Cybersicherheitsagentur, bei dem letzten AI Summit eine groß angelegte Krisenübung zu einem KI-bezogenen Vorfallszenario durchgeführt hat.

Die Sicherung von KI sollte eine Priorität sein, aber vergessen wir nicht, dass dies nur eine der Facetten der Auswirkungen von KI auf die Cybersicherheit ist. KI kann helfen, Ihre Cybersicherheit zu stärken: Konkrete Anwendungsfälle tauchen auf, um bestimmte Aufgaben zu automatisieren und zu beschleunigen. Vom Erleichtern der mehrsprachigen Sensibilisierung bis hin zur Vorverarbeitung von Sicherheitsalarmen und sogar der Vorab-Analyse von Sicherheitsfragebögen deiner Lieferanten gibt es bereits Ansätze, die deine Teams unterstützen können. Wir haben echte Rückmeldungen aus der Praxis gesehen, die eine Effizienzsteigerung von 15 % bis 30 % je nach Anwendungsfall zeigen.