Jeudi, Anthropic a ouvert une version de recherche de son Model Hardware Standard (MHS), une spécification commune qui permet aux agents d’IA de découvrir, de surveiller et d’utiliser des équipements physiques programmables par l’intermédiaire d’une couche logicielle standardisée.
L’entreprise indique que le MHS peut connecter des appareils tels que des microscopes, des robots de manipulation de liquides, des caméras, des capteurs et des bras robotisés, permettant aux agents de coordonner plusieurs machines à la fois. Il est dans un premier temps testé par un groupe restreint de laboratoires de recherche scientifique et de fabricants avancés.
Pour les équipes de sécurité, cette version préliminaire soulève des questions sur la manière dont les organisations authentifieront les agents, limiteront leurs autorisations et surveilleront les commandes lorsque des systèmes d’IA pourront utiliser directement des équipements physiques.
Le projet a commencé sous la forme d’une collaboration entre Anthropic et HHMI Janelia Research Campus. Anthropic affirme que le MHS peut réduire de plusieurs semaines ou mois à quelques heures ou minutes le travail d’intégration matérielle, même si les résultats présentés proviennent d’Anthropic et des organisations participant à la version préliminaire.
Fonctionnement du MHS
Le MHS utilise un pilote standardisé entre un agent d’IA et un appareil physique. Plutôt que d’exiger une intégration distincte pour chaque équipement, le pilote expose des opérations de base, comme la lecture d’une température ou la modification d’un réglage.
Le système fournit également aux agents des informations structurées sur les capacités et les limites physiques d’un appareil. Les utilisateurs peuvent décrire ses caractéristiques en langage naturel, notamment des détails qui peuvent ne pas être évidents à partir des interfaces logicielles, et le MHS peut transformer ces informations en un fichier de référence pour un agent d’IA.
Les agents peuvent ensuite contrôler les équipements par l’intermédiaire du Model Context Protocol d’Anthropic, d’outils en ligne de commande ou d’API fondées sur du code. Un agent peut ainsi coordonner plusieurs instruments, surveiller les résultats et ajuster les paramètres expérimentaux à mesure que les conditions évoluent.
Dans un exemple, Anthropic indique que Claude a ajusté un laser, utilisé une caméra pour observer le résultat, puis répété le processus jusqu’à comprendre comment aligner le faisceau. Il a ensuite transformé ce qu’il avait appris en un script déterministe capable d’effectuer l’alignement sans devoir à nouveau raisonner sur chaque étape.
Pourquoi c’est important
Anthropic présente le MHS comme une couche d’infrastructure plus large, plutôt que comme une fonctionnalité réservée à Claude. Le standard est indépendant du modèle et doit fonctionner avec tout appareil doté d’une interface programmable.
Parmi les organisations qui testent le MHS ou développent sa prise en charge figurent Amazon Web Services, Automata, Danaher et Doosan Robotics. AWS prévoit de prendre en charge le MHS par l’intermédiaire de Strands Robots, tandis que Hugging Face ajoute sa prise en charge à LeRobot et que Raspberry Pi permet des intégrations sur plusieurs produits.
Les applications potentielles vont des expériences automatisées de découverte de médicaments à la robotique, en passant par la fabrication et les systèmes d’informatique quantique.
La sécurité, le véritable enjeu
Donner à un agent d’IA le contrôle d’un équipement physique soulève une catégorie de risques différente de celle liée à l’écriture de code ou à la manipulation d’informations. Une erreur peut endommager une machine, ruiner une expérience ou potentiellement créer des risques pour la sécurité. Un agent, un compte ou un pilote compromis pourrait également exposer des équipements connectés à des commandes non autorisées. L’annonce d’Anthropic évoque les protections physiques et les limites des modèles, mais ne détaille pas les contrôles de cybersécurité tels que l’authentification, les autorisations fondées sur les rôles, l’isolation réseau, l’intégrité des pilotes ou la journalisation des audits.
Anthropic reconnaît que ses systèmes présentent encore des limites. La compréhension du monde physique par Claude peut être incomplète, et des chercheurs ont dû intervenir lorsque le modèle a pris des problèmes physiques pour des problèmes logiciels. Le MHS ne peut pas non plus prendre en charge les équipements dépourvus d’interface de programmation.
L’entreprise utilise cette version de recherche pour développer, avec les partenaires participants, des évaluations de sécurité et des pratiques de déploiement supplémentaires, et prévoit de publier en open source le MHS après cette phase de test.
La véritable opportunité pourrait être l’interopérabilité
Le MHS pourrait se révéler particulièrement précieux s’il devient une couche neutre entre les systèmes d’IA et l’univers de plus en plus fragmenté des équipements de laboratoire et industriels.
Aujourd’hui, connecter des machines de différents fournisseurs exige souvent des connaissances spécialisées et des logiciels sur mesure. Une interface commune pourrait réduire la dépendance à cette expertise et permettre aux chercheurs de consacrer davantage de temps à la conception d’expériences plutôt qu’à leur interconnexion.
Mais la standardisation à elle seule ne rend pas les systèmes physiques autonomes sûrs ou sécurisés. Avant d’adopter le MHS au-delà de tests contrôlés, les organisations devront déterminer s’il peut appliquer le principe du moindre privilège, enregistrer l’activité des agents et revenir à un état sûr lorsqu’un agent ou un composant connecté se comporte de manière inattendue. La version de recherche d’Anthropic pourrait contribuer à établir ces protections, mais les équipes de sécurité devraient considérer les interfaces entre l’IA et le matériel comme des infrastructures de contrôle critiques, et non comme de simples intégrations logicielles.