Anthropic hat am Donnerstag eine Forschungsvorschau seines Model Hardware Standard (MHS) veröffentlicht, einer gemeinsamen Spezifikation, mit der KI-Agenten programmierbare physische Geräte über eine standardisierte Softwareschicht erkennen, überwachen und bedienen können.
Nach Angaben des Unternehmens kann MHS Geräte wie Mikroskope, Flüssigkeitshandling-Systeme, Kameras, Sensoren und Roboterarme verbinden, sodass Agenten mehrere Maschinen gleichzeitig koordinieren können. Zunächst wird das System von einer begrenzten Gruppe wissenschaftlicher Forschungslabore und fortschrittlicher Hersteller getestet.
Für Sicherheitsteams wirft die Vorschau Fragen dazu auf, wie Organisationen Agenten authentifizieren, ihre Berechtigungen einschränken und Befehle überwachen werden, wenn KI-Systeme physische Geräte direkt bedienen können.
Das Projekt begann als Zusammenarbeit zwischen Anthropic und HHMI Janelia Research Campus. Anthropic zufolge kann MHS den Integrationsaufwand für Hardware, der typischerweise Wochen oder Monate dauert, auf Stunden oder Minuten reduzieren. Die Ergebnisse stammen allerdings von Anthropic und den an der Vorschau teilnehmenden Organisationen.
So funktioniert MHS
MHS nutzt einen standardisierten Treiber zwischen einem KI-Agenten und einem physischen Gerät. Statt für jedes einzelne Gerät eine separate Integration zu benötigen, stellt der Treiber grundlegende Funktionen bereit, etwa das Auslesen einer Temperatur oder das Ändern einer Einstellung.
Das System versorgt Agenten außerdem mit strukturierten Informationen über die Fähigkeiten und physischen Grenzen eines Geräts. Nutzer können Eigenschaften in natürlicher Sprache beschreiben, einschließlich Details, die aus Softwareoberflächen möglicherweise nicht ersichtlich sind, und MHS kann diese Informationen in eine Referenzdatei für einen KI-Agenten umwandeln.
Agenten können Geräte anschließend über das Model Context Protocol von Anthropic, Kommandozeilentools oder codebasierte APIs steuern. Dadurch kann ein Agent mehrere Instrumente koordinieren, Ergebnisse überwachen und Versuchsparameter an veränderte Bedingungen anpassen.
In einem Beispiel zufolge hat Claude einen Laser angepasst, mit einer Kamera das Ergebnis beobachtet und den Vorgang wiederholt, bis das System verstanden hatte, wie der Strahl auszurichten ist. Anschließend wandelte es seine Erkenntnisse in ein deterministisches Skript um, das die Ausrichtung vornehmen konnte, ohne jeden Schritt erneut durchdenken zu müssen.
Warum das wichtig ist
Anthropic positioniert MHS als breitere Infrastrukturschicht und nicht als reine Claude-Funktion. Der Standard ist modellunabhängig und soll mit jedem Gerät funktionieren, das über eine programmierbare Schnittstelle verfügt.
Zu den Organisationen, die MHS testen oder Unterstützung dafür entwickeln, gehören Amazon Web Services, Automata, Danaher und Doosan Robotics. AWS will MHS über Strands Robots unterstützen, während Hugging Face Unterstützung für LeRobot hinzufügt und Raspberry Pi Integrationen über mehrere Produkte hinweg ermöglicht.
Die möglichen Anwendungen reichen von automatisierten Experimenten zur Wirkstoffentdeckung über Robotik und Fertigung bis hin zu Quantencomputersystemen.
Die größere Bewährungsprobe ist die Sicherheit
Einem KI-Agenten die Kontrolle über physische Geräte zu geben, birgt andere Risiken, als ihn Code schreiben oder Informationen manipulieren zu lassen. Ein Fehler kann Maschinen beschädigen, ein Experiment zunichtemachen oder potenziell Sicherheitsrisiken schaffen. Ein kompromittierter Agent, ein kompromittiertes Konto oder ein kompromittierter Treiber könnte verbundene Geräte zudem unautorisierten Befehlen aussetzen. In Anthropics Ankündigung werden physische Schutzvorkehrungen und Einschränkungen der Modelle erörtert, aber keine Cybersicherheitskontrollen wie Authentifizierung, rollenbasierte Berechtigungen, Netzwerkisolierung, Treiberintegrität oder Audit-Protokollierung detailliert beschrieben.
Anthropic räumt ein, dass seine Systeme weiterhin Einschränkungen haben. Claudes Verständnis der physischen Welt kann unvollständig sein, und Forschende mussten eingreifen, wenn das Modell physische Probleme fälschlicherweise als Softwareprobleme einstufte. MHS kann derzeit außerdem keine Hardware ohne Programmierschnittstelle unterstützen.
Das Unternehmen nutzt die Forschungsvorschau, um gemeinsam mit den teilnehmenden Partnern zusätzliche Sicherheitsprüfungen und Bereitstellungspraktiken zu entwickeln, und plant, MHS nach dieser Testphase als Open Source zu veröffentlichen.
Die eigentliche Chance könnte in der Interoperabilität liegen
MHS könnte sich als besonders wertvoll erweisen, wenn es zu einer neutralen Schicht zwischen KI-Systemen und der zunehmend fragmentierten Welt der Labor- und Industrieausrüstung wird.
Heute erfordert die Verbindung von Maschinen verschiedener Hersteller häufig Spezialwissen und maßgeschneiderte Software. Eine gemeinsame Schnittstelle könnte dieses Fachwissen zu einem weniger großen Engpass machen und Forschenden ermöglichen, mehr Zeit in die Planung von Experimenten zu investieren, statt sie technisch miteinander zu verbinden.
Eine Standardisierung allein macht autonome physische Systeme jedoch weder sicher noch geschützt. Bevor Organisationen MHS über kontrollierte Tests hinaus einsetzen, müssen sie klären, ob das System Zugriffe nach dem Prinzip der geringsten Rechte durchsetzen, die Aktivitäten von Agenten protokollieren und bei unerwartetem Verhalten eines Agenten oder einer verbundenen Komponente sicher ausfallen kann. Anthropics Forschungsvorschau könnte dabei helfen, diese Schutzvorkehrungen zu etablieren. Sicherheitsteams sollten Schnittstellen zwischen KI und Hardware jedoch als kritische Steuerungsinfrastruktur und nicht als gewöhnliche Softwareintegrationen behandeln.