Les systèmes d’IA centraux d’Anthropic sont restés sécurisés, mais les chercheurs ont trouvé un autre moyen d’entrer dans l’entreprise : en passant par des logiciels métier tiers.
Des chercheurs de Cathedral, une start-up spécialisée dans la cybersécurité, ont utilisé des agents IA autonomes pour accéder aux systèmes métier internes d’Anthropic en moins de 12 heures, selon un projet de rapport consulté par The Washington Post. Les agents auraient exploité des vulnérabilités dans des outils administratifs et commerciaux tiers, accédant à des informations sensibles sur les employés et l’entreprise.
Le délai de 12 heures rapporté concernait les efforts de Cathedral contre des applications métier tierces. Anthropic a déclaré que les chercheurs avaient auparavant passé plusieurs jours à tenter d’accéder directement à ses systèmes propriétaires.
Dans le réseau d’Anthropic, les agents ont accédé à des relevés de salaires d’employés, des offres d’emploi, des transcriptions de réunions et des messages Slack concernant des modèles avancés. Anthropic a confirmé l’intrusion dans un « ensemble limité » de ses plateformes commerciales, de ressources humaines et informatiques, tout en soulignant que ses actifs centraux n’avaient pas été touchés.
« Notre système de surveillance a signalé une partie de l’activité de Cathedral avant que l’entreprise ne nous en informe, et nous avons désactivé son accès le jour même », a déclaré Anthropic à The Washington Post, précisant que les conversations avec les clients, le code source et les poids des modèles n’avaient jamais été consultés.
L’illusion de la défense périmétrique
L’exercice de Cathedral révèle un angle mort structurel de la défense des entreprises : l’écart entre la protection des algorithmes propriétaires et la gestion de la prolifération des logiciels en tant que service.
Les grandes entreprises technologiques consacrent des millions à la sécurisation de leurs modèles centraux, mais leurs employés coordonnent leur travail via Slack, concluent des contrats au moyen de CRM externes et traitent les salaires sur des logiciels de ressources humaines infonuagiques.
« Le fait que des failles dans des logiciels métier ordinaires puissent compromettre l’infrastructure des organisations les plus avancées devrait servir de signal d’alarme à toutes les entreprises américaines », indique le projet de rapport de Cathedral.
Alex Stamos, directeur de la sécurité des systèmes d’information chez Cognition, une start-up spécialisée dans le codage par IA, a examiné les conclusions de Cathedral et déclaré à The Washington Post que la dépendance aux outils tiers constituait « un énorme problème pour tout le monde », ajoutant qu’« Anthropic aurait pu faire beaucoup mieux ».
Washington s’inquiète des répercussions sur le renseignement
L’incident a suscité des inquiétudes au sein du gouvernement fédéral, où les responsables considèrent les capacités de l’IA comme des actifs stratégiques nationaux.
« Si une bande de gamins qui viennent de créer une entreprise peut faire ça, alors les Chinois ne sont potentiellement pas loin derrière », a déclaré à The Washington Post un haut responsable anonyme de l’administration Trump, ajoutant qu’il était surpris par « le peu de temps qu’il a fallu pour pénétrer dans les systèmes sensibles d’une entreprise qui contrôle une matière de qualité quasi nucléaire ».
Anthropic a rétorqué que Cathedral avait exagéré les risques pour la sécurité nationale et enfreint les règles de son programme de chasse aux bugs en ne divulguant pas l’ensemble de ses activités. Cathedral a maintenu avoir respecté les normes de la recherche, affirmant que « les accès aux données ont été réduits au strict minimum, conformément aux bonnes pratiques de la recherche en sécurité ».
Répercussions sur les données des entreprises et des consommateurs
Pour la base d’utilisateurs professionnels et grand public d’Anthropic, l’intrusion révèle des risques opérationnels immédiats.
Si les conversations Claude sont restées sécurisées, Anthropic a reconnu que les coordonnées de certains partenaires et clients, ainsi que les informations de base de certains comptes utilisateurs, étaient accessibles.
Les utilisateurs ordinaires ne sont pas exposés à une prise de contrôle immédiate de leur compte, mais les clients professionnels doivent faire face à la réalité suivante : les communications propriétaires partagées lors de briefings de direction ou dans des canaux partenaires peuvent être aspirées lorsque les couches administratives secondaires s’effondrent.
Les dirigeants qui s’appuient sur des plateformes d’IA de pointe doivent désormais considérer les plateformes SaaS administratives comme des vecteurs d’attaque actifs. Si des canaux Slack internes consacrés aux architectures de modèles peuvent être exposés en moins d’une demi-journée, les intégrations tierces non contrôlées représentent une vulnérabilité urgente dans l’ensemble de la chaîne d’approvisionnement logicielle.
Anthropic a déclaré que ses systèmes d’IA centraux et les conversations avec ses clients n’avaient pas été consultés. L’incident illustre toutefois la manière dont des informations métier sensibles peuvent rester vulnérables, même lorsque les actifs techniques les plus précieux d’une organisation sont protégés.
À mesure que les outils d’IA autonomes gagnent en capacités, les équipes de sécurité pourraient devoir réévaluer si les dispositifs actuels de surveillance et de contrôle des accès permettent de détecter les activités non autorisées sur le nombre croissant de services dont dépendent leurs organisations.
Autre actualité : Un pirate informatique sud-coréen aurait utilisé des outils assistés par l’IA pour s’introduire dans 60 organisations en seulement 44 jours, contribuant à une campagne plus vaste qui a compromis les informations personnelles de plus de 8,2 millions de personnes.