Intelligence artificielle (IA)

La technologie utilisée par les cyberattaquants pour contourner vos défenses est la même technologie dont vous avez besoin pour les arrêter. Cela pose problème aux organisations qui n'adoptent pas une sécurité basée sur l'IA, car elles prennent du retard en termes de capacités et de rapidité.

Le Forum économique mondial a constaté que 47 % des organisations citent l'IA générative comme leur principale préoccupation en matière de sécurité. et cela 86 % des chefs d'entreprise ont connu au moins un incident lié à l'IA au cours de l'année écoulée. Même le FBI a documenté un Augmentation de 37 % des attaques par compromission de messagerie professionnelle assistées par l'IA . L'IA a abaissé la barrière pour les attaquants, rendant des techniques sophistiquées accessibles à toute personne possédant des compétences techniques de base.

Les solutions traditionnelles ne fonctionnent plus. Les données montrent que 76 % des logiciels malveillants sont désormais des menaces zero-day que les antivirus traditionnels ne reconnaissent pas. Cette différence entre détecter les trois quarts des menaces et les manquer explique pourquoi les équipes de sécurité se tournent vers la détection basée sur l'IA.

Le rôle de l'IA générative en cybersécurité

Les équipes de sécurité utilisent l'IA générative pour identifier plus rapidement les menaces, analyser le code des logiciels malveillants et surveiller le comportement du réseau, afin de lutter contre les menaces de cybersécurité liées à l'IA générative. L'IA est utilisée en cybersécurité dans les domaines suivants :

• Améliorer la détection et la réponse aux menaces : Les organisations qui intègrent l'IA dans leurs opérations de sécurité permettent d'accroître la rapidité et le volume de la détection des menaces par rapport aux méthodes traditionnelles. Pour réussir dans cet environnement, les organisations doivent désormais utiliser l'IA de sécurité et l'automatisation dans leurs centres d'opérations pour gérer le tri des alertes et l'analyse comportementale. Cette opération est indispensable pour analyser les tendances des données et repérer les anomalies qui indiquent des attaques potentielles.
• Ingénierie inverse des attaques de phishing et de logiciels malveillants : Les systèmes d'IA peuvent analyser les fichiers malveillants pour comprendre leur fonctionnement, les vulnérabilités qu'ils exploitent et comment ils communiquent avec les serveurs de commande et de contrôle. Ces systèmes peuvent désassembler le code malveillant, retracer les chemins d'exécution et identifier les techniques utilisées par les attaquants pour échapper à la détection. Cette technologie permet d'extraire des indicateurs de compromission à partir d'échantillons chiffrés, permettant ainsi aux équipes de sécurité de développer des signatures et des règles de détection plus rapidement qu'une analyse manuelle ne le permettrait. Cette automatisation peut gérer le volume de nouvelles variantes de logiciels malveillants qui apparaissent quotidiennement, en identifiant les familles de menaces apparentées et en suivant la façon dont les attaquants modifient leurs outils.
• Amélioration de la sécurité des terminaux et du réseau : L'IA peut surveiller les schémas de trafic pour identifier les anomalies pouvant indiquer une compromission ou une violation des politiques. Ces systèmes établissent des normes de comportement normal pour les utilisateurs, les appareils et les applications, puis signalent les écarts qui pourraient justifier une enquête. Cette technologie fonctionne à la vitesse d'une machine, analysant des milliers d'événements par seconde pour détecter les menaces qui pourraient submerger les analystes humains. L'IA peut ajuster dynamiquement les contrôles d'accès en fonction du comportement de l'utilisateur et du contexte, en restreignant les privilèges lorsqu'elle détecte une activité suspecte ou en accordant l'accès lorsque le comportement correspond à des modèles établis.

Risques liés à la sécurité de l'IA

Les attaquants utilisent l'IA pour automatiser les attaques, créer des techniques d'ingénierie sociale convaincantes et trouver les vulnérabilités plus rapidement que les défenseurs ne peuvent les corriger. Vous trouverez ci-dessous quelques exemples de tels risques liés à la sécurité de l'IA.

• Adversaires et bots dotés d'IA : Les robots automatisés gèrent désormais une part importante du trafic internet, les robots malveillants exécutant des attaques par bourrage d'identifiants, collectant des données et testant les sites web à la recherche de vulnérabilités. Ces bots intègrent l'apprentissage automatique pour adapter leur comportement en temps réel, en changeant d'adresse IP, en imitant les habitudes de navigation humaine et en ajustant leurs tactiques lorsqu'ils rencontrent des contrôles de sécurité. Les outils d'IA ont abaissé la barrière technique pour le lancement d'attaques de bots, permettant à des acteurs sans connaissances approfondies en programmation de déployer des réseaux de bots sophistiqués qui nécessitaient auparavant des compétences d'experts pour fonctionner.
• Hameçonnage, ingénierie sociale et deepfakes : L'IA a éliminé les erreurs grammaticales et les formulations maladroites sur lesquelles les utilisateurs s'appuyaient pour identifier les tentatives d'hameçonnage. Les modèles de langage génèrent un contenu de courriel convaincant qui correspond aux styles de communication d'entreprise, ce qui rend plus difficile la distinction entre les messages légitimes et les attaques. La technologie deepfake crée des contenus audio et vidéo qui usurpent l'identité de dirigeants, permettant ainsi aux pirates d'autoriser des virements frauduleux ou d'amener des employés à partager leurs identifiants. Ces attaques réussissent car elles exploitent les relations de confiance et contournent les contrôles de sécurité techniques en ciblant la prise de décision humaine.
• Exploitation des vulnérabilités : Le délai entre la divulgation d'une vulnérabilité et son exploitation s'est considérablement réduit grâce à l'automatisation par l'IA du processus d'analyse des correctifs, de rétro-ingénierie des vulnérabilités et de génération d'exploits fonctionnels. Les attaquants utilisent des agents d'IA pour analyser les réseaux à la recherche de systèmes vulnérables, tester le code d'exploitation et se déplacer latéralement dans les environnements compromis sans intervention manuelle. Cette automatisation réduit les délais d'attaque de plusieurs semaines à quelques heures, laissant ainsi moins de temps aux défenseurs pour corriger les systèmes avant que les attaquants n'exploitent les vulnérabilités nouvellement découvertes.

L'apprentissage automatique offre des capacités d'analyse prédictive, de détection d'anomalies et bien plus encore.

Les algorithmes d'apprentissage automatique identifient des schémas dans les données d'attaques historiques afin de reconnaître les signatures de la préparation d'une attaque, donnant ainsi aux défenseurs le temps de bloquer l'accès ou d'isoler les comptes compromis avant que les attaquants n'exécutent leur charge utile grâce à l'analyse comportementale et à la détection d'anomalies.

Les outils de sécurité établissent des bases de référence d'activité normale en observant comment les utilisateurs accèdent aux systèmes, quelles données ils manipulent et quand ils effectuent ces actions. Les modèles d'apprentissage automatique détectent les écarts par rapport à ces valeurs de référence car ils fonctionnent sur des probabilités plutôt que sur des règles fixes.Vous pouvez appliquer l'analyse comportementale pour détecter les menaces que les antivirus basés sur les signatures ne repèrent pas, contribuant ainsi à une augmentation des détections .

L'essor de l'automatisation dans les opérations de sécurité

Les centres d'opérations de sécurité reçoivent quotidiennement des milliers d'alertes, dont la plupart sont des faux positifs ou des événements de faible priorité. L'automatisation prend en charge les tâches répétitives qui absorbent le temps des analystes en corrélant les alertes provenant de sources multiples, en les enrichissant de renseignements sur les menaces et en exécutant les premières actions de réponse sans intervention humaine.

Exemples d'outils d'automatisation de la sécurité :

1. XDR (Détection et réponse étendues)

Plateformes XDR Regrouper les données de sécurité provenant des terminaux, des réseaux, des messageries électroniques et des services cloud en une vue unique. Les outils de sécurité traditionnels fonctionnent de manière isolée, obligeant les analystes à jongler entre les consoles et à corréler manuellement les événements. XDR automatise cette corrélation.

2. SOAR (Orchestration, automatisation et réponse en matière de sécurité)

Les plateformes SOAR exécutent des scénarios prédéfinis lorsque des conditions spécifiques se produisent. Ces systèmes s'intègrent aux outils de sécurité existants via des API, orchestrant des réponses qui nécessiteraient autrement une coordination manuelle entre plusieurs produits.

3. Gestion des vulnérabilités

Les scanners de vulnérabilités automatisés testent en permanence les réseaux et les applications afin de détecter les faiblesses connues. Lorsqu'une nouvelle CVE est publiée, ces systèmes analysent immédiatement l'environnement pour identifier les systèmes affectés et prioriser les correctifs en fonction de l'exploitabilité et de l'exposition.

4. AIOps (Intelligence Artificielle pour les Opérations Informatiques)

L'AIOps applique l'apprentissage automatique aux données des opérations informatiques, identifiant les dégradations de performance ou les anomalies qui indiquent des problèmes de sécurité. Les outils AIOps détectent ces anomalies dans les indicateurs opérationnels que les outils de sécurité traditionnels ne surveillent pas.

Préserver l'élément humain

L'automatisation permet de gérer les volumes importants, mais les humains prennent des décisions que les machines ne peuvent pas prendre. Des professionnels de la sécurité sont nécessaires pour examiner les cas que l'automatisation ne peut pas résoudre, enquêter sur les attaques sophistiquées qui ne correspondent pas aux schémas connus et prendre des décisions concernant les risques acceptables.

Le travail lui-même est en train de changer. Auparavant, les analystes passaient la majeure partie de leur temps à trier les alertes, à déterminer lesquelles nécessitaient une enquête et lesquelles étaient de faux positifs. Ils conçoivent désormais les règles de détection qui génèrent ces alertes, optimisent les modèles d'apprentissage automatique qui filtrent le bruit et élaborent les scénarios de réponse que l'automatisation exécute. Ce changement implique que les professionnels de la sécurité doivent comprendre à la fois les menaces pesant sur l'entreprise et les capacités techniques de leurs outils. Ils deviennent des architectes de systèmes de sécurité plutôt que des opérateurs qui interviennent manuellement à chaque incident.

Adoption éthique de l'IA dans le domaine de la sécurité

Les systèmes d'IA entraînés principalement sur des attaques contre un secteur d'activité peuvent passer à côté de techniques courantes dans un autre. Un modèle basé sur les enseignements tirés des violations de données dans le secteur financier ne permettra pas nécessairement de détecter les schémas d'attaque spécifiques au secteur de la santé. Les équipes de sécurité doivent valider leurs outils d'IA dans les environnements et face aux menaces réelles auxquelles elles sont confrontées, et ne pas se fier uniquement aux affirmations des fournisseurs concernant leur précision. Les actions de réponse automatisées comportent également des risques : un faux positif qui bloque l'accès à des utilisateurs légitimes lors d'une situation d'urgence en entreprise engendre des dommages d'une autre nature. La supervision humaine est importante car il faut que quelqu'un examine les décisions d'automatisation et assume la responsabilité des actions entreprises au nom de l'organisation.