Künstliche Intelligenz verändert die Softwareentwicklung rasant, doch neue Untersuchungen von JFrog legen nahe, dass Sicherheitsteams kaum mit den damit verbundenen Risiken Schritt halten können.
Der Bericht zum Stand der Sicherheit von Software-Lieferketten 2026 ergab, dass die KI-gestützte Entwicklung in Unternehmen die Aktivität mit bösartigen Paketen, unsichere KI-Tools und Lücken bei der Governance von Software-Lieferketten beschleunigt.
„KI hat nicht nur verändert, wie Software geschrieben wird, sondern auch die Geschwindigkeit und das Ausmaß erhöht, mit denen Zero-Day-Schwachstellen ausgenutzt sowie Angriffe auf Software-Lieferketten entwickelt und verbreitet werden“, sagte Yoav Landman, CTO und Mitgründer von JFrog.
Wichtigste Erkenntnisse aus dem Bericht zur Sicherheit von Software-Lieferketten
- Die KI-gestützte Softwareentwicklung beschleunigt die Risiken für Software-Lieferketten schneller, als viele Unternehmen sie wirksam steuern oder absichern können.
- Forscher identifizierten in öffentlichen Registern fast 500 bösartige KI-Modelle, die zum Diebstahl von Zugangsdaten, zur Remote-Codeausführung und zur Kompromittierung von Systemen fähig sind.
- Die Aktivität mit bösartigen npm-Paketen stieg 2025 um 451 % und verdeutlicht das zunehmende Ausmaß der Angriffe auf vertrauenswürdige Entwicklerökosysteme.
- Angreifer verlagern sich zunehmend in vorgelagerte Bereiche wie Entwicklertools, CI/CD-Pipelines, KI-Programmierassistenten und IDE-Erweiterungen.
- Viele Unternehmen haben weiterhin Schwierigkeiten bei der Priorisierung von Schwachstellen und weisen Lücken bei der Governance von KI-gestützten Entwicklungsabläufen auf.
Wie sich das Risiko für KI-gestützte Lieferketten entwickelt
Die Ergebnisse zeigen, dass herkömmliche Kontrollen für Software-Lieferketten kaum mit KI-gestützten Entwicklungstools und den sich rasant ausweitenden Softwareabhängigkeiten Schritt halten können.
Dem Bericht zufolge beziehen 53 % der Unternehmen KI-Modelle inzwischen direkt aus öffentlichen Registern wie Hugging Face. Dort identifizierten JFrog-Forscher 495 bösartige KI-Modelle mit Schadcode, der zum Diebstahl von Zugangsdaten, zur Ausführung bösartigen Codes und zur Kompromittierung von Remotesystemen fähig ist.
Gleichzeitig wachsen die Software-Lieferketten weiterhin in gewaltigem Maßstab.
JFrog stellte fest, dass 2025 11,7 Millionen neue Pakete in die Software-Lieferketten von Unternehmen gelangten – ein Anstieg von 67 % gegenüber dem Vorjahr.
Der Bericht dokumentierte zudem einen starken Anstieg der Aktivität mit bösartigen Paketen.
Bösartige npm-Pakete legten 2025 um 451 % zu und erreichten mehr als 171.000 eindeutige bösartige Pakete.
Mehrere groß angelegte Kampagnen gegen Software-Lieferketten führten zu mehr als zwei Millionen kompromittierten Downloads. Dies unterstreicht, dass Angreifer zunehmend vertrauenswürdige Entwicklungsökosysteme ins Visier nehmen, um Schadsoftware in großem Maßstab zu verbreiten.
Angreifer verlagern sich in vorgelagerte Bereiche der Entwicklerumgebungen
Die Forscher stellten fest, dass vielen Unternehmen weiterhin eine einheitliche Governance für KI-Programmierassistenten, IDE-Erweiterungen und Model Context Protocol (MCP)-Server fehlt.
Angreifer nehmen zunehmend Entwickler-Workflows und CI/CD-Umgebungen ins Visier, anstatt sich ausschließlich auf herkömmliche Schadsoftware oder kompromittierte Open-Source-Pakete zu verlassen.
JFrog dokumentierte mehrere Angriffe mit kompromittierten IDE-Erweiterungen, bösartigen KI-Modellen und verwundbaren MCP-Servern mit kritischen Schwachstellen zur Remote-Codeausführung.
Unsicherer, von KI erzeugter Code vergrößert das Risiko
Ein weiteres großes Problem, das der Bericht hervorhebt, ist der Anstieg unsicheren, von KI erzeugten Codes.
Die JFrog-Forscher beobachteten eine Zunahme von Schwachstellen wie XSS, SQL-Injection und anderen Injection-Schwachstellen, die mit unsicheren KI-gestützten Entwicklungsabläufen zusammenhängen.
Da von KI erzeugter Code immer häufiger zum Einsatz kommt, könnten Sicherheitsteams Schwierigkeiten haben, Codequalität, Sicherheit und die Integrität von Abhängigkeiten in großem Maßstab zu prüfen.
Die Vielzahl an Schwachstellen erschwert die Risikopriorisierung
Auch die umfassendere Schwachstellenlandschaft wird für Unternehmen zunehmend schwieriger wirksam zu verwalten.
JFrog zufolge wurden 2025 mehr als 48.000 neue CVEs veröffentlicht – ein Anstieg von 20 % gegenüber dem Vorjahr.
Die Forscher warnten jedoch, dass viele Unternehmen von der Vielzahl an Schwachstellen überfordert sind, statt sich auf solche zu konzentrieren, die ein erhebliches Risiko einer tatsächlichen Ausnutzung darstellen.
Der Bericht ergab, dass 96 % der vom NVD zunächst als „kritisch“ eingestuften Schwachstellen nach einer Kontextanalyse herabgestuft wurden, während nur 12 % in Unternehmensumgebungen als hochgradig ausnutzbar galten.
Diese Ergebnisse legen nahe, dass vielen Unternehmen weiterhin wirksame Prozesse zur Risikopriorisierung fehlen, die zwischen theoretischer Gefährdung und praktischem Betriebsrisiko unterscheiden können.
Lücken bei der Governance von KI-Tools bleiben bestehen
Die Ergebnisse von JFrog offenbarten zudem wachsende Governance-Lücken bei KI-Tools und Entwicklungsumgebungen.
Obwohl 97 % der befragten Unternehmen angaben, über zertifizierte Governance-Programme für KI-Modelle zu verfügen, räumten 18 % ein, dass ihnen entweder aktive Governance-Richtlinien für KI-Tools von Entwicklern fehlten oder dass sie diese nicht konsequent durchsetzten.
Die Ergebnisse legen nahe, dass einige Unternehmen die betrieblichen und sicherheitsrelevanten Risiken KI-gestützter Software-Lieferketten weiterhin unterschätzen.
Das Risiko für KI-gestützte Software-Lieferketten reduzieren
JFrog empfiehlt Unternehmen, in den Pipelines der Softwareentwicklung umfassendere Governance- und Automatisierungskontrollen einzuführen, insbesondere angesichts der zunehmenden Verbreitung von KI.
- Automatisiertes Scannen auf bösartige Pakete, Secrets und KI-Modelle implementieren in Repositorys, CI/CD-Pipelines und Entwicklungsumgebungen.
- Governance-Kontrollen auf KI-Modelle ausweiten, IDE-Erweiterungen, Entwicklerassistenten und Drittanbieter-Abhängigkeiten der Software-Lieferkette.
- Die Herkunft von Software nachverfolgen, Artefakte signieren, SBOMs erstellen und reproduzierbare Builds durchführen, um Integrität und Transparenz der Software zu verbessern.
- Zugriffskontrollen nach dem Least-Privilege-Prinzip anwenden, MFA und Umgebungssegmentierung über Entwicklersysteme, Repositorys und CI/CD-Infrastruktur hinweg einsetzen.
- Kontinuierlich auf Typosquatting überwachen, Dependency Confusion, nicht autorisierte ausgehende Verbindungen und verdächtige Aktivitäten in Build-Systemen oder KI-Tools.
- Sichere Code-Reviews durchführen und Validierungsprozesse für von KI erzeugten Code, Drittanbieterpakete und extern bezogene KI-Modelle vor der Bereitstellung durchführen.
- Regelmäßig Incident Response- und Sicherheitspläne für Software-Lieferketten durch Planspiele, Red-Team-Bewertungen und Simulationen von CI/CD-Kompromittierungen testen.
Der Bericht stellte außerdem fest, dass 48 % der Unternehmen weiterhin eine Woche oder länger benötigen, um Nachweise für Compliance-Audits zu erstellen. Dies deutet darauf hin, dass viele Unternehmen nach wie vor auf manuelle Governance-Prozesse setzen, die sich in KI-gestützten Entwicklungsumgebungen möglicherweise nicht skalieren lassen.
KI verändert die Sicherheit von Lieferketten
Die Ergebnisse von JFrog spiegeln einen umfassenderen Wandel in der Cybersicherheit von Unternehmen wider.
KI beschleunigt die Softwareentwicklung, erhöht jedoch auch die Geschwindigkeit und das Ausmaß der Risiken für Lieferketten.
Sicherheitsteams verteidigen inzwischen ein Ökosystem, das KI-Modelle, automatisierte Programmiertools, Multi-Agenten-Frameworks und cloudnative Entwicklungspipelines umfasst.
Der Bericht legt nahe, dass Unternehmen trotz zunehmender Belege für Lücken bei der Absicherung weiterhin zu großes Vertrauen in den Reifegrad ihrer Governance haben.
müssen neu überlegen, wie die Software-Lieferkette-Sicherheit im KI-Zeitalter verwaltet wird.