PeopleImages.com – Shutterstock.com
Generative KI (GenAI) ist zu einem allgegenwärtigen Werkzeug in Unternehmen geworden. Laut einer Umfrage der Boston Consulting Group nutzen 50 Prozent der Unternehmen die Technologie, um Arbeitsabläufe neu zu gestalten. 77 Prozent der Befragten sind überzeugt, dass KI-Agenten in den nächsten drei bis fünf Jahren eine zentrale Rolle für ihre Unternehmensfunktionen spielen werden.
CISOs und ihre Sicherheitsteams sind mit der Leistungsfähigkeit künstlicher Intelligenz bestens vertraut und von den Fortschritten der KI ebenso betroffen wie alle anderen Funktionen im Unternehmen.
Während Machine Studying seit Jahren ein wichtiger Bestandteil von Cyber-Operationen ist, führt der jüngste Fortschritt der KI – insbesondere im Bereich der generativen KI – dazu, dass sich die Technologie immer tiefer in die Sicherheitsprozesse vordringt. Diese Instruments, teils selbst entwickelt, teils von Anbietern bereitgestellt, unterstützen unter anderem bei der Forensik, Incident Response, Log-Analyse, Orchestrierung, Schwachstellenmanagement und der Erstellung von Berichten.
Der zunehmende Einsatz von KI in Sicherheitsprozessen verändert CyberOps grundlegend. Er steigert die Wirksamkeit und Produktivität von Sicherheitsexperten und verändert nachhaltig, wie Cybersicherheitsarbeit geleistet wird.
„Es ist nicht das Was von CyberOps, das KI verändert, sondern das Wie. Sie verändert die Geschwindigkeit, mit der wir bestimmte Vorgänge erledigen können, und ermöglicht es Menschen, sich auf anspruchsvollere Tätigkeiten zu konzentrieren“, erklärt Matt Gorham, Leiter des Cyber & Danger Innovation Institute bei PwC.
Kompetenzen erweitern, Aufgaben automatisieren
„Da KI Aufgaben mit einer Geschwindigkeit ausführen kann, die menschliche Fähigkeiten übersteigt, skaliert sie das Arbeitsvolumen einer Cybersicherheitsfunktion exponentiell“, betont Rob T. Lee, Chief of Analysis für KI und neue Bedrohungen sowie Leiter der Fakultät am SANS Institute.
Darüber hinaus sei KI besonders intestine darin, repetitive Aufgaben jedes Mal nahezu perfekt auszuführen, heben Experten hervor. Damit liefere sie eine Konsistenz, die menschlichen Mitarbeitern kaum erreichen können.
„Wenn jemand aus irgendeinem Grund nicht in Bestform ist, können die Ergebnisse variieren“, erklärt Dan Mellen, globaler Cyber-CTO bei EY.
KI hingegen verfolgt einen deterministischen Ansatz und erledigt dieselbe Aufgabe immer auf die gleiche Weise.“ Dadurch sei die Konsistenz der Ergebnisse deutlich höher und vorhersehbarer ist als bei Menschen, so Mellen.
KI könne jedoch nicht nur die Geschwindigkeit und die Skalierbarkeit des Sicherheitsteams steigern, sondern auch das Kompetenzniveau erhöhen, argumentiert Jeffrey Brown, Dozent bei IANS Analysis, Cybersicherheitsberater für Finanzdienstleistungen bei Microsoft und ehemaliger CISO des Bundesstaates Connecticut.
„KI ist ein Kraftmultiplikator für die Verteidigung, und zwar gleich in zweierlei Hinsicht“, erklärt Brown: „Die Technologie hebt das Wissensniveau von Junior-Mitarbeiter deutlich an und hilft ihnen, sich schneller einzuarbeiten. Gleichzeitig macht sie erfahrene Mitarbeiter effektiver und definiert Produktivität auf höherem Niveau neu.“
Als Beispiel verweist der Cybersecurity-Experte auf den Einsatz von KI in einem Safety Operations Middle (SOC). Dort könne KI einen erheblichen Teil – und in einigen Fällen sogar alle – Degree-1-Assist-Aufgaben übernehmen, etwa Ticket-Triage und -Routing. Damit würden SOC-Mitarbeiter entlastet und könnten sich um komplexere Degree-2- oder-3-Probleme kümmern. Generative KI könne den SOC-Mitarbeitern zudem automatisierte Fallstudien und Handlungsempfehlungen für anspruchsvollere Aufgaben liefern und so Effizienz und Produktivität steigern.
Trotz der Befürchtungen, dass durch KI Arbeitsplätze verloren gehen könnten, hat Brown bisher beobachtet, dass CISOs KI nicht zum Ersatz von Mitarbeitern, sondern zur Verbesserung ihrer Arbeit einsetzen. „KI ist am effektivsten, wenn weiterhin ein Mensch im Loop bleibt“, erklärt er.
Auf diese Weise erweitere KI den Handlungsspielraum von CISO-Groups und befähige mehr Teammitglieder, anspruchsvollere Aufgaben zu übernehmen. So habe etwa der Einsatz von KI im Risk Modelling es Unternehmen mit kleineren, weniger spezialisierten Groups ermöglicht, potenzielle Sicherheitsbedrohungen proaktiv zu identifizieren, zu analysieren und zu entschärfen – Aufgaben, die sie vor der Einführung von KI nicht bewältigen konnten.
„Im Allgemeinen beobachten wir, dass SecOps-Groups mit den vorhandenen Ressourcen mehr leisten und das Qualifikationsniveau insgesamt steigt. Ihre Arbeit verschiebt sich spürbar nach oben“, erklärt Wolfgang Goerlich, Dozent bei IANS Analysis und CISO im öffentlichen Sektor.
Kleinere Groups, neues Qualifikationsparadigma
All dies wirkt ich auch auf die Personalstrategie aus. Sicherheitsexperten gehen davon aus, dass traditionelle Einstiegspositionen im IT-Safety-Bereich bald verschwinden werden. Berufseinsteiger müssten bereit sein, auf einer höheren Ebene einzusteigen.
Dies gelte insbesondere, da agentenbasierte KI immer ausgereifter werde, in immer mehr Sicherheitsabteilungen zum Einsatz komme und einen zunehmend größeren Teil der Aufgaben übernehme, so Brown. „Wir müssen uns überlegen, wie viele und welche Arten von Experten wir benötigen“, fügt er hinzu.
Als Brown CISO für den Bundesstaat Connecticut battle, hatte er beispielsweise einen Mitarbeiter in seinem Sicherheitsteam, der sich auf Phishing konzentrierte. Heute stellt er in Frage, ob es eine solche Spezialisierung noch braucht, wenn Agentic AI automatisch große Teile oder sogar den gesamten Workflow zur Reaktion auf Phishing-Angriffe übernehmen kann.
Mit KI werden Cybersicherheitsteams nach Einschätzung von Brown mit KI kleiner – und bestehen aus weniger klassischer Spezialisten. „Stattdessen werden sie zu Managern von Agenten, die ihnen bei der Arbeit helfen“, sagt er.
Brown räumt jedoch ein, dass der Einsatz von KI in CyberOps neue Kompetenzen erfordern wird – und dass CISOs gezielt nach diesen Fähigkeiten suchen müssen. Kenntnisse in KI-Governance, Immediate Engineering und Knowledge Science werden seiner Ansicht nach auf allen Ebenen der IT-Sicherheit unverzichtbar.
„Das ist ein gewaltiger Paradigmenwechsel“, erklärt er. „Wir brauchen Menschen, die sich mit Agenten auskennen, und erkennen können, ob dieser die richtige Antwort gibt – oder nicht.“
„Menschliche Instinct ist unersetzlich“, so Brown abschließend. „Es wird eher eine Symbiose zwischen Mensch und KI sein, eine Partnerschaft, bei der KI die Produktivität steigert, aber immer mit einem Menschen im Loop.“
Der Bedarf an Governance, Agilität und Geschwindigkeit
Die beschleunigte Nutzung von KI im gesamten Unternehmen verändert auch die Sicherheitsmaßnahmen. Die Cybersicherheit muss mit der Absicherung von KI und den von ihr verwendeten Daten überall dort Schritt halten, wo KI eingesetzt wird.
Damit tun sich Safety-Groups bereits heute schwer.
Laut dem Bericht „State of Cybersecurity Resilience 2025“ von Accenture „hinken besorgniserregende 77 Prozent der Unternehmen bei der Einführung wesentlicher Sicherheitsmaßnahmen für Daten und KI hinterher. Nur 22 Prozent haben klare Richtlinien und Schulungen für den Einsatz von GenAI implementiert, und nur wenige führen ein vollständiges Inventar ihrer KI-Systeme – eine wichtige Voraussetzung, um das Risiko in der Lieferkette zu managen. Darüber hinaus ist der Datenschutz nach wie vor unzureichend – nur 25 Prozent der Unternehmen nutzen Verschlüsselung und Zugriffskontrollen konsequent, um wise Informationen während der Übertragung, im Ruhezustand und bei der Verarbeitung zu schützen.“
Zudem stellt der Bericht fest, dass sich die Sicherheitslücken auch auf die Cloud-Infrastruktur erstrecken. Denn, so Accenture: „Trotz der Abhängigkeit der KI von Cloud-basierter Verarbeitung haben 83 Prozent der Unternehmen keine sichere Cloud-Foundation mit integrierten Überwachungs-, Erkennungs- und Reaktionsfunktionen geschaffen.“
In ähnlicher Weise schreibt Gartner in seinem Bericht „A CISO’s Information to AI Cyber Stewardship“ vom Juli 2025, dass „CISOs bei der Sicherung der KI im gesamten Unternehmen hinterherhinken“. Um KI-bezogene Cyberrisiken zu managen, rät der Report CISOs, „einen Ansatz für die KI-Cyber-Stewardship zu verfolgen, der auf Kompetenz, Governance über den gesamten Lebenszyklus, interdisziplinären Schnittstellen, menschlicher Aufsicht, Basiskontrollen und AI TRiSM [Trust, Risk and Security Management] basiert.“
Sicherheitsverantwortliche sind sich einig, dass CyberOps seine KI-Governance-Funktion ausbauen muss – ebenso wie die Fähigkeit, KI-Agenten zu integrieren, zu identifizieren und zu autorisieren.
„Es muss Kontrollmechanismen geben, um sicherzustellen, dass KI-Agenten nicht ihre Befugnisse überschreiten, genauso wie wir es bei Menschen handhaben“, erklärt Mellen.
Zugleich muss die IT-Sicherheit schneller werden, wenn es darum geht, KI im Unternehmen abzusichern.
„Das Tempo des geschäftlichen Wandels wird weiter steigen, und der CISO muss Schritt halten“, konstatiert Gorham. „Die dafür erforderlichen Fähigkeiten werden sich verändern; Cybersecurity-Groups brauchen neben den traditionellen Sicherheitskompetenzen eine Kombination aus KI-Fähigkeiten wie Immediate Engineering und Knowledge-Science-Know-how.“
Cyber-Groups neu denken
Avivah Litan, Distinguished VP Analyst bei Gartner, geht davon aus, dass KI mindestens ebenso viele Arbeitsplätze schaffen wird, wie sie ersetzt. Wie viele andere glaubt sie, dass KI „Menschen dazu befähigen wird, mehr und bessere Arbeit zu leisten“.
Diese neuen CyberOps-Rollen werden ihrer Einschätzung nach notwendig sein, da Hacker KI nutzen, um immer raffiniertere Angriffe zu starten.
„KI wird es Unternehmen ermöglichen, dem wirksamer zu begegnen“, fügt sie hinzu.
All dies erfordert jedoch, dass CISOs ihre Safety-Organisationen überdenken, um sicherzustellen, dass sie sowohl KI als auch Menschen optimum einsetzen.
„Sie müssen sich fragen: ‚Wo ist es sinnvoll, einen Menschen einzusetzen, und was kann ich an die KI auslagern? Und welche Kosten entstehen dadurch, weil mir bestimmte Ressourcen im Crew fehlen?‘“, erklärt CISO Goerlich.
„Wir sind im Safety-Bereich seit langem unterbesetzt, und darin liegt eine große Likelihood. Andererseits möchte niemand ein SOC-Crew, das nur noch auf Knöpfe klickt.“
Goerlich zufolge müssen CISOs ihre Talentstrategien aktualisieren und Roadmaps entwickeln – um bestehender Mitarbeiter weiterzuentwickeln und neue Mitarbeiter für die Positionen der Zukunft einzustellen, in denen sie Seite an Seite mit KI und KI-Agenten arbeiten werden. Dabei darf jedoch die menschliche Intelligenz in den Sicherheitsprozessen nicht verloren gehen.
Dies ist besonders wichtig, da – wie CISOs wissen – auch die Angreifer KI einsetzen. Und sie tun dies oft schneller, da sie anders als die Unternehmen nicht an ethische Vorgaben und rechtliche Vorschriften gebunden sind.
Goerlich bemerkt dazu: „Die Zukunft der Safety Operations wird ein Wettstreit zwischen KI und KI sein. Maschine gegen Maschine – mit Menschen im Cockpit, die auf der Verteidigerseite sicherstellen, dass die richtigen Dinge geschehen – oder auf der Seite der Angreifer dafür sorgen, dass die Attacken erfolgreich sind. Das wird uns zwingen, unsere Sicherheitsmaßnahmen zu überdenken.“ (mb)
