Früher hieß es: „Sehen heißt glauben.“ Doch 2025 gilt das nicht mehr.
In den vergangenen Monaten hat die Zahl, Raffinesse und Wirkung von Deepfakes – mithilfe künstlicher Intelligenz erzeugten, gefälschten, aber äußerst realistischen Videos, Bildern oder Sprachaufnahmen – rasant zugenommen.
Was einst eine Neuheit war, ist heute eine ernsthafte Bedrohung für die Privatsphäre, die geschäftliche Integrität und die nationale Sicherheit. Zwar bleiben Personen des öffentlichen Lebens häufige Ziele, doch es zeichnet sich eine beunruhigende Entwicklung ab: Immer häufiger werden auch ganz normale Menschen, darunter Kinder und Frauen, Opfer – oft durch Belästigung, Erpressung oder Demütigung in der Schule.
- In drei Monaten gingen 200 Millionen US-Dollar verloren … und die Zahl könnte noch steigen
- Gewöhnliche Menschen sind jetzt das Hauptziel
- 25 Millionen US-Dollar durch einen einzigen Deepfake-Betrug verloren
- Deepfakes überwinden unsere Abwehrmaßnahmen
- Gesetzgeberische Reaktion: USA verabschieden den „Take It Down Act“
- Ein Weckruf für die ganze Welt
- Organisatorische Abwehr: 5 Tipps gegen Deepfake-Bedrohungen
In drei Monaten gingen 200 Millionen US-Dollar verloren … und die Zahl könnte noch steigen
Ein Bericht von Resemble AI mit dem Titel „Q1 2025 Deepfake Incident Report“ zeichnet ein beunruhigendes Bild davon, wie sich Deepfake-Kriminalität entwickelt. Bei der Analyse von 163 dokumentierten Vorfällen zwischen Januar und April 2025 stellten die Forschenden fest, dass Betrüger nicht nur auf das große Geld aus sind, sondern inzwischen auch den persönlichen Ruf und das psychische Wohlbefinden ins Visier nehmen.
Der finanzielle Schaden ist hoch. „Die dokumentierten finanziellen Verluste durch Deepfake-gestützten Betrug überstiegen allein im ersten Quartal 2025 200 Millionen US-Dollar“, hieß es in dem Bericht. Und die Zahl könnte noch steigen.
SIEHE: Einstellungsleitfaden: Security Architect (TechRepublic Premium)
Gewöhnliche Menschen sind jetzt das Hauptziel
Während Prominente und Politiker nach wie vor 41 % aller Deepfake-Opfer ausmachen, hebt der Bericht von Resemble AI eine Verschiebung des Fokus hervor: Privatpersonen stellen inzwischen 34 % der Opfer, wobei Bildungseinrichtungen und Frauen besonders gefährdet sind.
Die Studie ergab außerdem, dass nicht einvernehmlich erstellte explizite Inhalte 32 % aller Fälle ausmachten – mehr als jede andere Verwendung. Es folgten Finanzbetrug (23 %), politische Manipulation (14 %), Fehlinformationen und Desinformationen (13 %), Identitätsdiebstahl (10 %) sowie sonstige Zwecke (8 %).
Diese synthetischen Videos werden häufig für Rache, Erpressung oder Belästigung im Internet eingesetzt. Opfer berichten von schweren psychischen Schäden, während ihnen nur begrenzte rechtliche Möglichkeiten oder Rechenschaftspflichten der Plattformen zur Verfügung stehen.
SIEHE: Leitfaden für IT-Verantwortliche zu generativer KI (TechRepublic Premium)
25 Millionen US-Dollar durch einen einzigen Deepfake-Betrug verloren
Stellen Sie sich einen Videoanruf vor, in dem Ihr Chef Sie auffordert, Geld zu überweisen – tatsächlich handelt es sich aber um einen Deepfake. Das ist kein unrealistisches Szenario.
Im Februar 2024 verlor ein Unternehmen in Singapur 25 Millionen US-Dollar , weil ein Mitarbeiter auf die Deepfake-Imitation seines Finanzvorstands und anderer Spitzenführungskräfte hereinfiel. Der Mitarbeiter hielt die Aufforderung für echt und überwies das Geld auf ein betrügerisches Konto.
In einem weiteren alarmierenden Fall gelang es einem Deepfake-Darsteller aus Nordkorea, KnowBe4 zu täuschen, ein Unternehmen für Cybersicherheit, und sich in der zweiten Hälfte des Jahres 2024 einstellen zu lassen. Wenn sich ein Cybersicherheitsunternehmen täuschen lässt, zeigt das, wie überzeugend diese Fälschungen sein können.
Deepfakes überwinden unsere Abwehrmaßnahmen
Die neuesten Deepfakes sind unglaublich realistisch. Manche benötigen nur 3–5 Sekunden Sprachaufzeichnung, um die Stimme einer Person mit 85 % Genauigkeit zu klonen. Gesichtsmanipulationen sind inzwischen so ausgefeilt, dass sich 68 % der Video-Deepfakes nicht von echtem Filmmaterial unterscheiden lassen. Und mit neuen Tools, die Audio und Video kombinieren, können sogar Live-Gespräche gefälscht werden.
Erschwerend kommt hinzu, dass viele dieser Fälschungen darauf ausgelegt sind, einer Erkennung zu entgehen, sodass bestehende Sicherheitssysteme sie nur schwer aufspüren können.
Gesetzgeberische Reaktion: USA verabschieden den „Take It Down Act“
Das US-Repräsentantenhaus stimmte mit überwältigender Mehrheit von 409 zu 2 Stimmen für den „Take It Down Act“, der sowohl echten als auch KI-generierten Rachepornos entgegenwirken soll. Der parteiübergreifende Gesetzentwurf hatte den Senat im Februar bereits einstimmig passiert.
Das Gesetz verpflichtet soziale Plattformen und Websites, explizite Inhalte, darunter Deepfakes, innerhalb von 48 Stunden nach einer Aufforderung des Opfers zu entfernen.
Auch First Lady Melania Trump setzte sich für den Gesetzentwurf ein. Im US-Kapitol bezeichnete sie das Online-Umfeld für Jugendliche als „toxisch“ und sagte: „Es ist herzzerreißend, junge Teenager, insbesondere Mädchen, dabei zu beobachten, wie sie mit den überwältigenden Herausforderungen durch schädliche Online-Inhalte wie Deepfakes ringen“, berichtete CBS News.
Nach der Abstimmung im Repräsentantenhaus sagte sie, der Gesetzentwurf sei ein „starkes Zeichen dafür, dass wir geschlossen für die Würde, Privatsphäre und Sicherheit unserer Kinder eintreten“.
Während große Plattformen wie Meta, TikTok und Snapchat das Gesetz unterstützen, warnen Bürgerrechtsgruppen, dass es ohne geeignete Schutzvorkehrungen zu einer übermäßigen Entfernung von Inhalten und zum Missbrauch von Löschinstrumenten führen könnte.
Ein Weckruf für die ganze Welt
Da die Deepfake-Technologie der Gesetzgebung und den Strafverfolgungsbehörden davoneilt, sind Opfer oft gezwungen, selbst zu ermitteln, und investieren Zeit und Geld, die viele nicht haben, nur um gehört zu werden.
Während die USA mit dem Take It Down Act einen wichtigen Schritt unternommen haben, fehlen in vielen Ländern weiterhin angemessene Gesetze oder deren Durchsetzung. Experten sind der Ansicht, dass der Kampf gegen Deepfakes global, mehrschichtig und zutiefst menschlich geführt werden muss – mit einer Kombination aus technischen Werkzeugen, politischen Reformen und der Unterstützung von Betroffenen.
Für Unternehmen kann das Vertrauen in das, was wir sehen und hören, nicht länger als selbstverständlich gelten. Stattdessen müssen sie eine „Zero-Trust“-Haltung einnehmen, Identitäten über mehrere unabhängige Kanäle verifizieren und Mitarbeitende darin schulen, selbst den überzeugendsten Medieninhalten skeptisch gegenüberzustehen.
Die Schulung der Mitarbeitenden ist jetzt entscheidend. Organisationen müssen ihre Teams dazu bringen, Video- und Audioinhalte mit demselben Misstrauen zu behandeln, das früher zwielichtigen E-Mails oder verdächtigen Textnachrichten vorbehalten war.
Organisatorische Abwehr: 5 Tipps gegen Deepfake-Bedrohungen
Da Deepfakes immer überzeugender und leichter zugänglich werden, müssen Organisationen jetzt handeln, um ihre Abwehr zu stärken. Hier sind fünf praktische Schritte für den Anfang:
- Zero-Trust-Kommunikationsprotokolle verwenden: Für finanzielle, personalbezogene oder vertrauliche Anfragen eine Verifizierung über mehrere Kanäle verlangen, insbesondere wenn sie per Video oder Audio gestellt werden.
- Einen Reaktionsplan für Deepfake-Vorfälle erstellen: Ein Vorgehensmodell entwickeln, um mutmaßliche Deepfake-Angriffe umgehend zu erkennen, zu eskalieren und darauf zu reagieren.
- Mitarbeitende darin schulen, synthetische Medien zu erkennen: Das Bewusstsein für Deepfakes durch reale Beispiele und Rollenspiele in regelmäßige Cybersicherheitsschulungen integrieren.
- Medien-Assets von Führungskräften schützen: Den Zugriff auf hochwertige Video- und Audioaufnahmen von Führungskräften beschränken und öffentliche Inhalte mit Wasserzeichen versehen, um den Missbrauch zu erschweren.
- Lieferanten- und Einstellungsprüfungen verschärfen: Schritte wie persönliche Live-Interviews oder biometrische Verifizierung ergänzen, damit Deepfake-Imitatoren nicht unbemerkt durch den Prüfprozess schlüpfen.
Deepfake-Bedrohungen werden nicht verschwinden – doch mit den richtigen Richtlinien, Schulungen und Tools können Organisationen den Angreifern immer einen Schritt voraus sein.