Le fossé de la cybersécurité fondée sur l’IA entre attaquants et défenseurs

Les adversaires ne soumettent pas leurs déploiements d’IA à des contrôles de conformité.

Il n’existe ni chaîne de validation, ni budget de jetons, ni comité de gouvernance chargé de débattre de la capacité d’un modèle à agir de manière autonome.

Ils utilisent simplement l’IA de manière agressive et sans aucune contrainte pour submerger les défenses.

Cet article est le deuxième de notre série rédigée par Curt Aubley, PDG de Sevii. Si vous avez manqué le premier volet, lisez-le ici.

À retenir

• La plupart des outils de cybersécurité fondés sur l’IA nécessitent encore une supervision humaine importante, ce qui limite leur capacité à réduire la charge de travail des analystes et à faire sortir les équipes de sécurité du triage.
• Les architectures de sécurité historiques et les cadres de gouvernance insuffisants empêchent l’IA de fonctionner de manière autonome à la vitesse nécessaire pour rivaliser avec les attaquants modernes.
• Les modèles de tarification de l’IA fondés sur les jetons peuvent créer des barrières financières qui dissuadent les organisations d’exploiter pleinement l’IA pour détecter les menaces et y répondre.
• Les défenseurs sont confrontés à des désavantages opérationnels et économiques croissants, tandis que les attaquants adoptent l’IA sans les contraintes de gouvernance, de conformité et de budget courantes dans les environnements d’entreprise.
• Pour combler le fossé de la cybersécurité fondée sur l’IA, il faut repenser à la fois la conception des produits d’IA et les modèles économiques qui déterminent la façon dont les équipes de sécurité utilisent ces technologies.

Pourquoi les outils de sécurité fondés sur l’IA peinent à réduire la charge de travail des analystes

Pendant ce temps, on vend aux défenseurs des outils d’IA avec une main attachée dans le dos.

La vérité dérangeante est que la plupart des outils de cybersécurité fondés sur l’IA créent encore du travail pour les défenseurs.

Le simple transfert des tâches quotidiennes répétitives ne rend pas les équipes plus performantes ni plus rapides.

Et un « copilote » n’est pas un modèle conçu pour fournir l’ampleur, la vitesse ou même l’intelligence nécessaires pour affronter les attaquants à armes égales.

Le recours persistant aux systèmes historiques ajoute des étapes inutiles et exige davantage d’interactions et de supervision humaines.

Cette dépendance à de nombreuses solutions d’IA est également le symptôme d’un manque de solides mécanismes intégrés de gouvernance qui fournissent un cadre complet et personnalisable, ainsi que des contrôles permettant une action autonome et indépendante en toute confiance.

Sans ces capacités ni la possibilité granulaire et immédiate d’intervenir lorsque cela est nécessaire, les solutions d’IA peuvent accroître la vitesse, mais elles ne peuvent pas réellement supprimer le travail, car les humains doivent toujours examiner les résultats et agir en conséquence.

Nous n’atteignons donc pas l’objectif fixé.

Les équipes de défense ont déployé des outils d’IA qui ne leur permettent pas d’aller au-delà du triage, ce qui les laisse débordées, en infériorité numérique et à court de ressources.

Comme elles ont fini par accepter cette lutte quotidienne, elles considèrent le triage comme un compromis acceptable plutôt que comme le symptôme de dysfonctionnements opérationnels systémiques.

Pourquoi les outils de cybersécurité fondés sur l’IA sont aujourd’hui insuffisants

Le problème des outils ne représente que la moitié de l’histoire. L’autre moitié concerne le modèle économique.

La promesse de l’IA recèle une vérité dérangeante.

Au-delà des difficultés techniques, le secteur de la cybersécurité reste prisonnier d’un modèle économique — fondé sur les profits et la conception des produits — qui limite, voire pénalise, les clients qui s’efforcent trop sérieusement de se défendre.

Comment les modèles de tarification de l’IA pénalisent les défenseurs de la cybersécurité

Pour équilibrer les dynamiques actuelles de déploiement et de consommation des ressources, la tokenisation est devenue la méthode de tarification de fait des implémentations d’IA.

Si elle est devenue un coût accepté dans d’autres secteurs de l’IA, elle place déjà les défenseurs dans une situation fortement désavantageuse.

Les optimistes de l’IA affirment que nous allons désormais pouvoir éliminer le déficit de compétences qui handicape le secteur depuis des décennies, en ignorant le fait que la tokenisation crée un écart de coûts qui dépassera largement les bénéfices liés à la suppression du déficit de compétences.

En obligeant les défenseurs à utiliser un jeton chaque fois qu’ils identifient une menace, analysent une alerte ou remédient à une attaque, nous monétisons chaque aspect de la défense contre les menaces et de leur atténuation, et tirons inutilement profit des difficultés d’organisations constamment attaquées.

Nous obligeons les défenseurs à déterminer quelles alertes méritent la priorité la plus élevée, à ignorer certaines menaces, à interrompre prématurément certaines investigations et à choisir les incidents qui justifient une remédiation.

Tout cela parce qu’ils ne disposent pas des jetons nécessaires pour exploiter les capacités promises par l’IA.

Et nous leur créons encore davantage de travail.

Repenser la sécurité fondée sur l’IA pour la cyberdéfense moderne

Le secteur doit regarder cette réalité en face. Il ne s’agit pas seulement des outils, mais aussi des incitations qui les sous-tendent.

Tant que le modèle de tarification tirera profit des difficultés des défenseurs et que les produits d’IA seront conçus pour maintenir les humains dans chaque boucle, quel qu’en soit le coût en temps, nous continuerons à perdre du terrain.

Dans le prochain et dernier article de cette série, j’examinerai les solutions possibles et la manière dont les organisations devraient utiliser l’IA comme multiplicateur de force.