L’apprentissage automatique (ML) et l’intelligence artificielle (IA) sont devenus des outils essentiels pour faire face au volume et à la complexité croissants des menaces de cybersécurité.
Les machines reconnaissent les schémas et détectent les malwares et les activités inhabituelles mieux que les humains et les logiciels classiques. Cette technologie prédit également les attaques potentielles et répond automatiquement aux menaces en identifiant certaines tendances et certains cycles.
Il n’est effectivement pas rare que des incidents similaires nécessitent généralement la même réponse. Plutôt que de répéter la même procédure, parfois manuellement, le système peut détecter l’attaque, signaler et catégoriser l’incident, puis appliquer automatiquement le correctif.
Mieux encore, les outils de sécurité tels que l’analyse comportementale peuvent repérer les attaques en détectant simplement toute activité anormale, une technologie importante pour identifier les menaces zero-day et les attaques adverses.
C’est un atout remarquable pour la cyberdéfense, mais les adversaires ont appris à tromper les algorithmes et même à utiliser une technologie similaire pour compromettre les systèmes ciblés. C’est le dernier chapitre de la course aux armements perpétuelle en matière de cybersécurité : attaquants et défenseurs sont engagés dans une lutte sans fin, chacun s’adaptant aux innovations de l’autre pour tenter de prendre l’avantage.
À lire également : Les meilleurs outils d’analyse comportementale des utilisateurs et des entités (UEBA)
IA ou ML ou apprentissage profond
Commençons par quelques définitions, car l’apprentissage informatique recouvre de nombreuses variantes. L’IA est le terme le plus générique et englobe tous les autres domaines.
Les systèmes d’apprentissage automatique contribuent à prendre des décisions à partir des données collectées et ajustent eux-mêmes leur modèle lorsqu’ils détectent de nouveaux schémas. Le ML s’appuie sur l’expérience pour améliorer l’exécution de ses tâches.
Lorsque vous entraînez un modèle à reconnaître des images ou la parole, il s’agit d’apprentissage profond (DL), un sous-ensemble de l’apprentissage automatique. Les données traversent plusieurs couches où des entrées et sorties cachées exécutent des tâches prédictives et transmettent le résultat à la couche suivante, ce qui rend la chaîne de traitement complexe, d’où le terme « profond ». L’apprentissage profond peut donc être considéré comme un ensemble particulier de techniques d’apprentissage automatique.
Le ML au service de la cyberdéfense
L’approche de sécurité fondée sur le ML la plus courante est la technique de régression, également appelée prédiction. Dans cette approche, les défenseurs peuvent utiliser les données existantes pour détecter la fraude et les malwares.
L’analyse statistique de grands ensembles de données permet de prédire le comportement d’un ordinateur et d’anticiper des actions qui n’ont même pas été programmées.
De plus en plus, des outils populaires comme Windows Defender de Microsoft utilisent cette approche pour identifier et neutraliser les menaces. Même certains des principaux antivirus grand public ont commencé à intégrer la détection fondée sur l’apprentissage automatique.
Il n’est pas rare que les solutions de gestion des informations et des événements de sécurité (SIEM) intègrent des modules de ML pour détecter les vulnérabilités du réseau et y répondre automatiquement.
L’analyse comportementale, souvent appelée UEBA (pour analyse comportementale des utilisateurs et des entités), est l’une des applications de sécurité les plus prometteuses de l’apprentissage automatique. Les outils UEBA recherchent les activités nouvelles ou inattendues sur le réseau afin de détecter les menaces. Ces outils peuvent être particulièrement utiles pour se défendre contre les menaces zero-day, c’est-à-dire inconnues jusqu’alors.
Plus concrètement, les équipes de sécurité peuvent utiliser le ML pour mettre en place une défense proactive contre diverses menaces, notamment :
- Prévention du spam
- DDoS (déni de service distribué) : atténuation
- Intrusion et détection des malwares
- Analyse des journaux pour identifier les tendances et les schémas
- Vérification des vulnérabilités
- Détection et confinement des botnets
Le ML peut considérablement intensifier les attaques
Le paysage des menaces évolue constamment. La plupart des spécialistes de la sécurité s’accordent à dire que de plus en plus de cybercriminels utilisent le ML pour générer des attaques sophistiquées, échapper à la détection et contourner les défenses classiques.
Les CAPTCHA ne sont plus assez complexes
Les CAPTCHA, par exemple, sont de petits défis rapides qui invitent les utilisateurs à résoudre des opérations mathématiques élémentaires (ou à copier-coller une suite de lettres et de chiffres aléatoires), ce qui est censé être trivial pour les humains mais extrêmement difficile pour les robots.
Cependant, les modèles sont désormais remarquablement efficaces pour résoudre ce type d’opérations. Même si les développeurs s’efforcent de rendre les CAPTCHA toujours plus difficiles à reconnaître et à résoudre, c’est désormais un combat perdu pour les défenseurs, y compris pour de grandes plateformes comme Amazon.
Le ML automatise les attaques par force brute
Une autre utilisation malveillante du ML concerne les attaques par force brute. Les pirates peuvent désormais générer automatiquement des listes de mots de passe fiables et même les personnaliser en fonction d’un ensemble précis de données (par exemple, les informations de l’utilisateur ciblé), ce qui augmente considérablement leurs chances de réussite.
Les défenseurs ne peuvent plus lutter contre les attaques avec des défenses classiques, et c’est particulièrement vrai pour les campagnes d’hameçonnage.
De nouveaux types d’attaques par hameçonnage
Les attaques par hameçonnage constituent un moyen traditionnel mais efficace de compromettre un réseau. Depuis des années, les attaquants recueillent manuellement des informations sur leur cible afin de lui envoyer des escroqueries (par exemple, des liens malveillants) par e-mail ou via des messages sur les réseaux sociaux, en recourant à des techniques comme l’usurpation d’identité et l’ingénierie sociale.
Le ML peut automatiser l’ensemble du processus. Par exemple, les attaquants peuvent aspirer le profil de leur cible sur n’importe quelle plateforme sociale et générer automatiquement un hameçonnage.
C’est bien plus rapide que l’hameçonnage manuel, ce qui permet de cibler davantage d’utilisateurs. En outre, les attaquants peuvent personnaliser l’hameçonnage avec les données de l’utilisateur et le rendre ainsi plus crédible.
Voir les meilleures solutions de passerelles de messagerie sécurisées
Les adversaires peuvent tromper les algorithmes
L’une des situations les plus dangereuses en cybersécurité est le faux sentiment de sécurité. Les pirates étant capables de tromper les algorithmes de reconnaissance du DL, les défenses fondées sur l’IA ne sont plus à l’abri des attaques.
Par exemple, en ajoutant ou en supprimant quelques détails dans des images médicales, des chercheurs ont réussi à tromper des programmes de ML qui analysent les images médicales à la recherche de signes de cancer, rendant le diagnostic correct difficile, voire impossible, pour les machines comme pour les humains.
Le fait que les pirates ciblent de plus en plus les réseaux de santé est extrêmement préoccupant.
Plus généralement, le piratage des algorithmes connaît une forte croissance. Qu’il s’agisse de bots simulant un engagement en ligne, de consommateurs manipulant les algorithmes à leur profit ou de fausses entreprises tentant de dépasser les entreprises légitimes dans les classements, les risques sont élevés et augmentent.
Cette course aux armements sans fin exerce une forte pression sur les professionnels de la cybersécurité. La seule bonne nouvelle est peut-être que l’informatique quantique n’est plus qu’à quelques années d’atteindre son potentiel de menace.
Garder l’humain dans la boucle
Le ML nécessite toujours une supervision humaine pour certains aspects, comme la réduction du bruit (données non pertinentes) ou la limitation des faux positifs. Des modèles mal calibrés peuvent entraîner de nombreux faux positifs et, dans le pire des cas, le système peut même prendre le bruit pour un schéma et aligner le modèle sur celui-ci.
Pour entraîner vos modèles, vous aurez probablement besoin de bibliothèques tierces provenant de fournisseurs fiables. Vous devrez en outre inspecter régulièrement les données d’entraînement, à titre préventif contre des attaques telles que l’empoisonnement, qui peut introduire de multiples changements dans les classifications et détourner le modèle d’origine.
Pour être efficace, votre modèle doit envisager autant de résultats que possible, mais vous devez privilégier la qualité à la quantité. Disposer de grands ensembles de données ne suffit pas. Les données doivent être associées à un contexte pertinent et étiquetées ; pour l’instant, seuls les humains peuvent prendre en charge cette étape critique et coûteuse.
Le ML introduit de nouveaux risques et de nouvelles opportunités
Comme nous l’avons vu, le piratage des algorithmes et l’empoisonnement des données présentent aujourd’hui un risque considérable, mais vous devez connaître d’autres risques.
Les pirates peuvent utiliser des bibliothèques gratuites et open source telles que stylegan2 (et bien d’autres) pour générer de faux visages humains et créer de faux comptes dotés d’une photo de profil plutôt réaliste. Même si d’autres algorithmes peuvent repérer les artefacts de ces images contrefaites, toutes les plateformes n’effectuent pas cette vérification.
Un autre problème survient lorsque le système de ML fonctionne en ligne. En effet, il est préférable d’entraîner votre modèle hors ligne, car les attaquants peuvent potentiellement manipuler les systèmes de ML connectés à Internet, en les induisant en erreur avec de mauvaises entrées, par exemple.
Cependant, la principale préoccupation pourrait être la confidentialité. Depuis des années, de nombreuses entreprises partagent les données de leurs utilisateurs avec diverses sociétés et divers développeurs tiers, les exposant ainsi aux courtiers en données et aux acteurs malveillants. Si des pirates parviennent à extraire ces données, le risque est considérable pour l’entreprise et sa réputation.
Il existe très peu d’initiatives visant à rendre le ML conforme aux exigences de confidentialité et à anonymiser les données des utilisateurs, mais l’apprentissage fédéré semble prometteur. Au lieu de téléverser tous les ensembles de données vers un seul grand serveur, cette approche entraîne un algorithme sur plusieurs serveurs à partir de jeux de données locaux, sans partager les précieuses données.
Chaque instance locale entraîne son modèle sur son propre jeu de données. Seuls les modèles entraînés sont envoyés pour mettre à jour un modèle global. Il faudra de nouvelles approches de ce type pour réduire le risque cyber à l’ère de l’IA.
L’IA rejoint la course aux armements en cybersécurité
L’IA et le ML ont rejoint la course aux armements en cybersécurité, où attaquants et défenseurs sont engagés dans une bataille sans fin pour la supériorité technique et tactique. Le rôle d’un professionnel de la cybersécurité exige une vigilance constante et un apprentissage continu, en plus d’outils avancés capables de répondre à des menaces en perpétuelle évolution.
À lire ensuite : Les meilleurs outils de gestion des risques liés aux tiers (TPRM)