KI beginnt, mehr zu leisten, als Softwareschwachstellen aufzuspüren. Anthropic zufolge hat sein Modell Claude Mythos Preview nun neue Techniken zur Analyse der mathematischen Grundlagen kryptografischer Systeme beigesteuert.
Das Modell entwickelte laut Anthropic einen verbesserten Angriff gegen den Post-Quanten-Signaturkandidaten HAWK und beschleunigte eine bestehende Angriffsmethode gegen eine Version von AES-128 mit sieben Runden. Keine der beiden Erkenntnisse betrifft Verschlüsselungs- oder Signatursysteme, die derzeit produktiv eingesetzt werden.
Das unmittelbare Sicherheitsrisiko ist gering, doch die Experimente geben einen ersten Einblick darin, wie Grenzmodelle der KI die kryptografische Forschung beschleunigen und möglicherweise schwache Designs aufdecken könnten, bevor sie zu Standards werden.
Zwei Durchbrüche in der Kryptografie
Laut Anthropic hat Claude Mythos Preview einen verbesserten Angriff gegen HAWK entwickelt, eine digitale Signaturmethode, die im Rahmen des NIST-Prozesses für Post-Quanten-Kryptografie evaluiert wird.
Das Modell schloss die Forschungsarbeit in etwa 60 Stunden ab. Anthropic zufolge verringerte das Ergebnis HAWKs geschätztes Sicherheitsniveau erheblich, was darauf hindeutet, dass einige der vorgeschlagenen Parametergrößen möglicherweise weniger Schutz bieten als erwartet. Das Unternehmen teilte den Fund den HAWK-Autoren im Juni mit, bevor es die öffentliche Bekanntgabe über eine NIST-Mailingliste koordinierte.
Claude verbesserte laut Anthropic außerdem einen Angriff gegen eine Version von AES-128 mit sieben Runden, indem das Modell eine der bei früheren Techniken erforderlichen Annahmen eliminierte und den Angriff etwa 200- bis 800-mal schneller machte.
Der AES-128-Standard verwendet 10 Runden. Kryptografen untersuchen Versionen mit absichtlich reduzierter Rundenzahl, um zu testen, wie gut eine Chiffre immer ausgefeilteren Angriffen standhält. Das Ergebnis ermöglicht es Angreifern daher nicht, durch produktives AES-128 geschützte Daten zu entschlüsseln.
Forschung, kein praktisch nutzbarer Exploit
Anthropic betonte, dass keine der beiden Erkenntnisse Änderungen an den heutigen Sicherheitssystemen erfordert. Das Unternehmen erklärte, HAWK werde weiterhin evaluiert und sei noch nicht übernommen worden, während Kryptografen AES mit reduzierter Rundenzahl absichtlich untersuchten, um zu verstehen, wie sich Angriffstechniken entwickeln, bevor sie eine Gefahr für die Verschlüsselung in der Praxis darstellen.
Das Unternehmen erklärte außerdem, verantwortungsvolle Verfahren zur Offenlegung befolgt, akademische Experten zur Validierung der Ergebnisse konsultiert und die Forschung mit der US-Regierung geteilt sowie vor der Veröffentlichung mit Partnern aus der Industrie geteilt zu haben.
Parallel zu der Forschung kündigte Anthropic CryptanalysisBench an, das gemeinsam mit Forschern der ETH Zürich, der Universität Tel Aviv und der TU Berlin entwickelt wurde, um KI-Systeme bei kryptografischen Forschungsaufgaben zu evaluieren.
Was das für die Cybersicherheit bedeutet
Die Arbeit zeigt, wie schnell sich Grenzmodelle der KI über das Aufspüren von Softwarefehlern hinaus in Richtung mathematischer Forschung zur Kryptografie entwickeln.
Es gibt zwar keine Hinweise darauf, dass aktuelle KI-Modelle die Verschlüsselung knacken können, die Online-Banking, Nachrichten oder Internetverkehr schützt. Die Forschung legt jedoch nahe, dass sie Forschern zunehmend dabei helfen könnten, Schwachstellen in kryptografischen Designs aufzudecken, bevor diese Systeme umfassend eingesetzt werden. Das könnte die Prüfung künftiger Verschlüsselungsstandards beschleunigen, insbesondere während Regierungen sich auf eine Zukunft vorbereiten, in der Quantencomputer möglicherweise eines Tages die heutige Kryptografie mit öffentlichen Schlüsseln bedrohen.
Auch lesenswert: Bericht über Cyberkriminalität mit KI warnt vor neuen, durch KI verstärkten Bedrohungen