Künstliche Intelligenz (KI)

Die Technologie, die Cyberangreifer nutzen, um Ihre Abwehrmechanismen zu umgehen, ist dieselbe Technologie, die Sie benötigen, um sie zu stoppen. Dies stellt ein Problem für Organisationen dar, die keine KI-gestützte Sicherheit einsetzen, da sie in puncto Leistungsfähigkeit und Geschwindigkeit ins Hintertreffen geraten.

Das Weltwirtschaftsforum stellte fest, dass 47 % der Organisationen nennen generative KI als ihr größtes Sicherheitsrisiko. und dass 86 % der Unternehmensführer haben im vergangenen Jahr mindestens einen Vorfall im Zusammenhang mit KI erlebt. Sogar das FBI dokumentierte einen 37 % Anstieg bei KI-gestützten Angriffen auf geschäftliche E-Mails Die Künstliche Intelligenz hat die Hürde für Angreifer gesenkt und ausgefeilte Techniken für jeden mit grundlegenden technischen Kenntnissen zugänglich gemacht.

Herkömmliche Lösungen funktionieren nicht mehr. Die Daten zeigen, dass 76 % aller Schadsoftware besteht mittlerweile aus Zero-Day-Bedrohungen. das herkömmliche Antivirenprogramme nicht erkennen. Dieser Unterschied zwischen dem Erkennen von drei Vierteln der Bedrohungen und dem Übersehen dieser Bedrohungen erklärt, warum Sicherheitsteams auf KI-gestützte Erkennung umsteigen.

Die Rolle der generativen KI in der Cybersicherheit

Sicherheitsteams nutzen generative KI, um Bedrohungen schneller zu erkennen, Malware-Code zu analysieren und das Netzwerkverhalten zu überwachen, um GenAI-Cybersicherheitsbedrohungen zu bekämpfen. Künstliche Intelligenz wird in der Cybersicherheit in folgenden Bereichen eingesetzt:

• Verbesserung der Bedrohungserkennung und -reaktion: Organisationen, die KI in ihre Sicherheitsabläufe integrieren, um die Geschwindigkeit und den Umfang der Bedrohungserkennung gegenüber herkömmlichen Methoden zu steigern. Um in diesem Umfeld erfolgreich zu sein, müssen Unternehmen jetzt Sicherheits-KI und Automatisierung in ihren Operationszentren einsetzen, um die Priorisierung von Warnmeldungen und die Verhaltensanalyse zu bewältigen. Dies ist notwendig, um Datenmuster zu analysieren und Anomalien zu erkennen, die auf potenzielle Angriffe hinweisen.
• Reverse Engineering von Phishing- und Malware-Angriffen: KI-Systeme können schädliche Dateien analysieren, um zu verstehen, wie sie funktionieren, welche Sicherheitslücken sie ausnutzen und wie sie mit Command-and-Control-Servern kommunizieren. Diese Systeme können Schadcode disassemblieren, Ausführungspfade verfolgen und die Techniken identifizieren, die Angreifer verwenden, um einer Entdeckung zu entgehen. Die Technologie kann Indikatoren für eine Kompromittierung aus verschlüsselten Daten extrahieren, sodass Sicherheitsteams Signaturen und Erkennungsregeln schneller entwickeln können, als es eine manuelle Analyse ermöglichen würde. Diese Automatisierung kann die Menge an neuen Malware-Varianten bewältigen, die täglich auftreten, Familien verwandter Bedrohungen identifizieren und nachverfolgen, wie Angreifer ihre Werkzeuge modifizieren.
• Verbesserung der Endpunkt- und Netzwerksicherheit: Künstliche Intelligenz kann Verkehrsmuster überwachen, um Anomalien zu erkennen, die auf eine Gefährdung oder Verstöße gegen Richtlinien hindeuten könnten. Diese Systeme legen Referenzwerte für das normale Verhalten von Benutzern, Geräten und Anwendungen fest und kennzeichnen dann Abweichungen, die möglicherweise eine Untersuchung erforderlich machen. Die Technologie arbeitet in Maschinengeschwindigkeit und analysiert Tausende von Ereignissen pro Sekunde, um Bedrohungen zu erkennen, die menschliche Analysten überfordern könnten. KI kann die Zugriffskontrollen dynamisch an das Benutzerverhalten und den Kontext anpassen, indem sie Berechtigungen einschränkt, wenn sie verdächtige Aktivitäten erkennt, oder Zugriff gewährt, wenn das Verhalten etablierten Mustern entspricht.

KI-Sicherheitsrisiken

Angreifer nutzen KI, um Angriffe zu automatisieren, überzeugende Social-Engineering-Methoden zu entwickeln und Schwachstellen schneller zu finden, als die Verteidiger sie beheben können. Nachfolgend einige Beispiele für solche KI-Sicherheitsrisiken.

• Gegner und KI-gesteuerte Bots: Automatisierte Bots wickeln mittlerweile einen erheblichen Teil des Internetverkehrs ab, wobei bösartige Bots Credential-Stuffing-Angriffe durchführen, Daten extrahieren und Websites auf Sicherheitslücken testen. Diese Bots nutzen maschinelles Lernen, um ihr Verhalten in Echtzeit anzupassen, indem sie IP-Adressen wechseln, menschliche Surfverhaltensweisen nachahmen und ihre Taktiken anpassen, wenn sie auf Sicherheitskontrollen stoßen. KI-Tools haben die technische Hürde für den Start von Bot-Angriffen gesenkt und ermöglichen es Akteuren ohne tiefgreifende Programmierkenntnisse, ausgeklügelte Botnetze einzusetzen, für deren Betrieb zuvor Expertenkenntnisse erforderlich waren.
• Phishing, Social Engineering und Deepfakes: Die KI eliminierte die grammatikalischen Fehler und die umständlichen Formulierungen, auf die sich die Benutzer bei der Erkennung von Phishing-Versuchen verließen. Sprachmodelle generieren überzeugende E-Mail-Inhalte, die dem Kommunikationsstil von Unternehmen entsprechen, wodurch es schwieriger wird, legitime Nachrichten von Angriffen zu unterscheiden. Mithilfe der Deepfake-Technologie werden Audio- und Videodateien erstellt, die Führungskräfte imitieren und es Angreifern ermöglichen, betrügerische Überweisungen zu autorisieren oder Mitarbeiter dazu zu verleiten, Zugangsdaten preiszugeben. Diese Angriffe sind erfolgreich, weil sie Vertrauensverhältnisse ausnutzen und technische Sicherheitskontrollen umgehen, indem sie auf die menschliche Entscheidungsfindung abzielen.
• Ausnutzung von Sicherheitslücken: Das Zeitfenster zwischen der Aufdeckung von Sicherheitslücken und deren Ausnutzung ist zusammengebrochen, da KI den Prozess der Analyse von Patches, des Reverse Engineering von Sicherheitslücken und der Generierung funktionierender Exploits automatisiert. Angreifer nutzen KI-Agenten, um Netzwerke nach anfälligen Systemen abzusuchen, Exploit-Code zu testen und sich ohne manuelles Eingreifen lateral in kompromittierten Umgebungen zu bewegen. Durch diese Automatisierung verkürzt sich die Angriffszeit von Wochen auf Stunden, wodurch den Verteidigern weniger Zeit bleibt, Systeme zu patchen, bevor Angreifer neu entdeckte Schwachstellen ausnutzen können.

Maschinelles Lernen ermöglicht prädiktive Analysen, Anomalieerkennung und mehr.

Maschinelle Lernalgorithmen identifizieren Muster in historischen Angriffsdaten, um die Signaturen der Angriffsvorbereitung zu erkennen. Dies gibt den Verteidigern Zeit, den Zugriff zu blockieren oder kompromittierte Konten zu isolieren, bevor Angreifer ihre Nutzlast ausführen können. Dies geschieht durch den Einsatz von Verhaltensanalysen und Anomalieerkennung.

Sicherheitstools ermitteln den Normalzustand, indem sie beobachten, wie Benutzer auf Systeme zugreifen, welche Daten sie berühren und wann sie diese Aktionen ausführen. ML-Modelle erkennen Abweichungen von diesen Ausgangswerten, weil sie mit Wahrscheinlichkeiten und nicht mit festen Regeln arbeiten.Sie können Verhaltensanalysen anwenden, um Bedrohungen aufzudecken, die signaturbasierte Antivirenprogramme übersehen, was zu einem Zunahme der Entdeckungen Die

Der Aufstieg der Automatisierung im Bereich der Sicherheitsoperationen

Sicherheitszentralen erhalten täglich Tausende von Warnmeldungen, bei denen es sich meist um Fehlalarme oder Ereignisse mit niedriger Priorität handelt. Die Automatisierung übernimmt die sich wiederholenden Arbeiten, die die Zeit der Analysten in Anspruch nehmen, indem sie Warnmeldungen aus verschiedenen Quellen korreliert, sie mit Bedrohungsinformationen anreichert und erste Reaktionsmaßnahmen ohne menschliches Eingreifen ausführt.

Beispiele für Tools zur Sicherheitsautomatisierung:

1. XDR (Erweiterte Erkennung und Reaktion)

XDR-Plattformen Sicherheitsdaten von Endpunkten, Netzwerken, E-Mails und Cloud-Diensten werden in einer einzigen Ansicht zusammengeführt. Herkömmliche Sicherheitstools arbeiten isoliert, wodurch Analysten gezwungen sind, zwischen verschiedenen Konsolen hin und her zu wechseln und Ereignisse manuell zu korrelieren. XDR automatisiert diese Korrelation.

2. SOAR (Security Orchestration, Automation, and Response)

SOAR-Plattformen führen vordefinierte Playbooks aus, wenn bestimmte Bedingungen eintreten. Diese Systeme integrieren sich über APIs in bestehende Sicherheitstools und orchestrieren Reaktionen, die andernfalls eine manuelle Koordination zwischen mehreren Produkten erfordern würden.

3. Schwachstellenmanagement

Automatisierte Schwachstellenscanner testen kontinuierlich Netzwerke und Anwendungen auf bekannte Schwachstellen. Wenn eine neue CVE veröffentlicht wird, scannen diese Systeme sofort die Umgebung, um betroffene Systeme zu identifizieren und die Patch-Eingabe anhand der Ausnutzbarkeit und der Gefährdung zu priorisieren.

4. AIOps (Künstliche Intelligenz für IT-Betrieb)

AIOps wendet maschinelles Lernen auf IT-Betriebsdaten an und identifiziert Leistungsbeeinträchtigungen oder Anomalien, die auf Sicherheitsprobleme hinweisen. AIOps-Tools erkennen diese Anomalien in den Betriebskennzahlen, die von herkömmlichen Sicherheitstools nicht überwacht werden.

Den menschlichen Faktor bewahren

Die Automatisierung hilft bei der Bewältigung des Volumens, aber Menschen treffen Entscheidungen, die Maschinen nicht treffen können. Sicherheitsexperten werden benötigt, um Fälle zu prüfen, die nicht automatisiert gelöst werden können, um ausgeklügelte Angriffe zu untersuchen, die nicht bekannten Mustern entsprechen, und um Entscheidungen über das akzeptable Risiko zu treffen.

Die Arbeit selbst verändert sich. Früher verbrachten Analysten den größten Teil ihrer Zeit damit, Warnmeldungen zu priorisieren und festzustellen, welche einer Untersuchung bedurften und welche Fehlalarme waren. Nun entwerfen sie die Erkennungsregeln, die diese Warnmeldungen generieren, optimieren die ML-Modelle, die Störungen herausfiltern, und erstellen die Reaktions-Playbooks, die von der Automatisierung ausgeführt werden. Diese Veränderung bedeutet, dass Sicherheitsexperten sowohl die geschäftlichen Bedrohungen, gegen die sie sich verteidigen, als auch die technischen Fähigkeiten ihrer Tools verstehen müssen. Sie entwickeln sich eher zu Architekten von Sicherheitssystemen als zu Bedienern, die manuell auf jeden Vorfall reagieren.

Ethische KI-Einführung im Sicherheitsbereich

KI-Systeme, die primär auf Angriffe gegen eine bestimmte Branche trainiert wurden, könnten Techniken übersehen, die in einer anderen Branche üblich sind. Ein Modell, das aus Sicherheitslücken im Finanzdienstleistungssektor gelernt hat, wird nicht unbedingt Angriffsmuster erkennen, die speziell im Gesundheitswesen auftreten. Sicherheitsteams müssen ihre KI-Tools in den realen Umgebungen und Bedrohungen, denen sie ausgesetzt sind, validieren und dürfen sich nicht nur auf die Angaben der Anbieter zur Genauigkeit verlassen. Auch automatisierte Reaktionsmaßnahmen bergen Risiken – ein Fehlalarm, der legitime Benutzer während eines geschäftlichen Notfalls aussperrt, verursacht ganz eigene Schäden. Menschliche Aufsicht ist wichtig, weil jemand die Automatisierungsentscheidungen überprüfen und die Verantwortung für die im Namen der Organisation getroffenen Maßnahmen übernehmen muss.