L’IA a fait l’objet de beaucoup de battage médiatique ces derniers mois, mais il est un domaine où ce battage est justifié : la cybersécurité. L’IA va complètement transformer le paysage de la cybersécurité — et provoquer de nombreux bouleversements au passage.
Pour aller droit au but avant d’entrer dans les détails : L’IA va d’abord aggraver la sécurité avant de l’améliorer considérablement, mais au prix de nombreux emplois. Lisez la suite pour connaître toutes les implications de cette évolution.
La sécurité est le principal défi auquel l’informatique est confrontée, et il faut s’attendre à ce que la situation empire à court terme. L’IA va probablement accélérer les piratages, qu’il s’agisse de manipuler les données d’entraînement afin de fausser le modèle et de lui faire prendre de mauvaises décisions, ou des attaques constantes contre les systèmes d’exploitation qui menacent le cœur de notre société. Qu’il s’agisse de Windows, de Linux ou d’un autre système d’exploitation, des centaines, voire des milliers de personnes écrivent du code, les erreurs humaines sont inévitables et les interactions entre les différentes parties du système d’exploitation rendent difficile la vérification de tous les cas possibles.
Mon hypothèse est que, dans un avenir pas si lointain, l’IA sera utilisée pour évaluer les systèmes d’exploitation et les applications afin d’améliorer la sécurité, et que de plus en plus de code sera créé par des programmes d’IA plutôt que par des humains. Au début, le codage par IA pourrait poser des problèmes de sécurité, mais avec le temps, les machines progresseront — le laboratoire DeepMind d’Alphabet et GitHub ont déjà commencé — et finiront par dépasser les capacités humaines. Certains s’attendent à voir apparaître à terme du code autoréparateur.
Il en va de même pour la sécurité. Les pirates pourraient prendre un avantage initial grâce à l’IA, mais à mesure que le code et les défenses s’adapteront, ce sont finalement les machines qui nous fourniront une cybersécurité fiable. Les fournisseurs de solutions de sécurité ont déjà commencé à travailler avec l’IA générative et les grands modèles de langage.
Nous n’en sommes qu’au début de ce processus de génération et d’évaluation du code par l’IA. Lorsque — et non pas si — cela se produira, les conséquences seront considérables, bonnes comme mauvaises, pour tout, de nos vies numériques et de nos données personnelles aux millions d’emplois. Le bouleversement sera immense et nous devons nous y préparer.
La bonne nouvelle : du code sécurisé pour tous
De nombreux bénéfices découleront de la capacité à sécuriser l’IA et à lui faire générer du code sécurisé pour les systèmes d’exploitation et les applications, mais la première étape consistera à vérifier que le code des systèmes d’exploitation et des applications écrit par des humains est bien sécurisé. Nous verrons beaucoup moins de piratages à mesure que les vulnérabilités du code seront progressivement éliminées.
Nous ne pourrons peut-être pas empêcher les utilisateurs d’infecter les systèmes en cliquant sur des liens malveillants, mais ce problème sera probablement atténué à une phase ultérieure, lorsque les systèmes d’exploitation seront réécrits pour empêcher ce type d’incident. Je pense que, tout comme nous nous orientons aujourd’hui vers un traitement spécifique aux applications, nous disposerons d’interfaces de systèmes d’exploitation adaptées aux besoins des utilisateurs, et que les systèmes d’exploitation pourront modifier et ajouter dynamiquement des fonctionnalités en fonction de ce dont l’utilisateur a besoin ce jour-là, voire sur le moment.
Tout cela contribuera à rendre le monde plus sûr et à éliminer bon nombre des piratages que nous observons aujourd’hui, ainsi que beaucoup de ceux qui surviendront à l’avenir. Imaginez que votre client de messagerie puisse évaluer chaque lien, fichier, etc., l’isoler dans un conteneur, évaluer les conséquences de ce lien ou de ce fichier et déterminer si vous pouvez l’ouvrir ou non. Les passerelles de messagerie peuvent déjà en faire une partie aujourd’hui, mais si l’on combine ces capacités défensives avec des systèmes d’exploitation et des applications sécurisés, le risque de piratage diminue considérablement. Le problème des mots de passe et de l’identité subsiste, mais c’est un domaine qui connaît de grands progrès actuellement et qui ne fera que s’améliorer.
Avec beaucoup moins de piratages, le monde devient plus sûr pour les écoles, les hôpitaux, les infrastructures critiques, les élections et les gouvernements, et les groupes de pirates devront chercher ailleurs, par exemple du côté du vol de données de cartes bancaires et du piratage des distributeurs automatiques, à moins que ces secteurs ne bénéficient d’améliorations similaires en matière de sécurité.
J’ai conçu des environnements informatiques répondant aux niveaux de sécurité les plus élevés, et ce que j’observe dans ces premiers projets d’IA me donne de l’espoir ; toute la dynamique va changer par rapport à ce qui se passe aujourd’hui. Mais à tout bien il y a aussi un mal, et le mal sera mondial, pour tout le monde et pour toute chose.
À lire aussi Des analystes de sécurité utilisent ChatGPT pour analyser du code malveillant et prédire les menaces
La mauvaise nouvelle : un bouleversement économique massif
Les progrès de l’IA seront catastrophiques pour de nombreux emplois « sûrs », comme ceux d’ingénieur logiciel, d’analyste de sécurité et d’autres métiers de bureau. Toute tâche pouvant être automatisée intelligemment nécessitera beaucoup moins de salariés.
La perte de ces emplois bien rémunérés aura des répercussions dans toute l’économie mondiale, car les recettes fiscales et les dépenses des consommateurs diminueront, ce qui pénalisera les secteurs qui dépendent de ces sources de revenus.
Il y a plus de 4 millions d’emplois d’ingénieur logiciel aux États-Unis, et environ 27 millions dans le monde. Depuis les années 1960, voire les années 1950, le métier de programmeur pouvait être une carrière à vie, mais presque toutes les personnes qui ont choisi cette voie devront faire autre chose. Je ne sais pas encore quoi, mais elles devront se reconvertir et devront probablement financer elles-mêmes cette reconversion.
Ce n’est pas différent de ce qui s’est produit dans l’industrie manufacturière américaine, mais les conséquences y ont été dévastatrices, car beaucoup ont perdu la perspective d’un avenir stable dans la classe moyenne. Je crains que les programmeurs ne connaissent malheureusement le même sort.
Mais les implications sont encore plus larges. Notre système éducatif a été conçu pour former des personnes capables d’écrire du code pour des systèmes informatiques (micrologiciels, systèmes d’exploitation et applications), de développer des tests pour ce code et d’en assurer la maintenance (en créant des packages de mise à jour, etc.). Notre système éducatif ne sait pas changer rapidement, mais lorsque ces changements surviendront, ils se produiront rapidement.
Tous les emplois de programmation ne disparaîtront pas immédiatement, car certains cas spécialisés nécessitant du développement seront probablement préservés jusqu’à ce que l’IA les rattrape. Ce n’est pas différent de ce qui s’est produit dans l’industrie automobile. Les tâches les plus simples ont d’abord été supprimées par la robotique, puis, à mesure que les équipements robotiques progressaient, d’autres emplois ont disparu. La programmation scientifique, notamment en physique et en chimie, et probablement celle des micrologiciels, mettra beaucoup plus longtemps à passer à l’IA que, par exemple, le développement en Python ou la programmation de bases de données, mais la tendance à la banalisation a probablement déjà commencé.
À lire aussi Les problèmes de sécurité et de confidentialité de ChatGPT persistent dans GPT-4
L’avenir est déjà là
Tout au long de l’histoire humaine, il n’a jamais été possible d’arrêter durablement le progrès. Il y a eu des périodes de recul, comme le Moyen Âge, mais la Renaissance est arrivée et nous avons largement dépassé les connaissances antérieures. Depuis l’invention de la machine à vapeur, de plus en plus d’emplois ont été supprimés, et cette tendance s’accélère. Nous ne pouvons pas prétendre que le fait de vivre dans le passé tandis que le reste du monde avance conduira à une issue favorable pour quelque nation ou région que ce soit. Nous devons accepter le changement et le progrès, et mettre en place des cadres permettant aux gens de réussir. Cela implique de repenser la formation à l’échelle mondiale pour assurer la survie de l’humanité, car beaucoup de personnes seront très en colère, comme nous l’avons vu lorsque des emplois disparaissent et que les gens ne savent absolument pas quoi faire ensuite. Ce serait le moment idéal pour que nos dirigeants cessent de se tourner vers le passé et commencent à embrasser l’avenir.
Découvrez les startups de cybersécurité les plus en vue