Die rasanten Fortschritte bei der generativen künstlichen Intelligenz (KI) haben die Herausforderungen im Zusammenhang mit Deepfakes, Identitätsbetrug und manipulierten Inhalten auf sozialen Plattformen verschärft.
Da synthetische Medien immer leichter zu erstellen und schwerer zu erkennen sind, sehen sich Unternehmen gezwungen, ausgefeiltere Strategien für Vertrauen und Sicherheit einzuführen.
In einem E-Mail-Interview mit eSecurityPlanet erläuterte Alexandra Ryabova, COO von Wizz App, wie Identitätsverifizierung, KI-gestützte Moderation und Vorschriften wie der TAKE IT DOWN Act die Sicherheit von Nutzern in sozialen Medien stärken.
Wichtigste Erkenntnisse
- Deepfakes und KI-generierter Betrug sind immer schwerer zu erkennen. Dadurch können böswillige Akteure in großem Umfang gefälschte Identitäten, Stimmklone und manipulierte Inhalte erstellen.
- Die Identitätsverifizierung entwickelt sich zu einer wichtigen Verteidigungsstrategie. Einige soziale Plattformen setzen Altersverifizierung und Technologien zum Gesichtsabgleich ein, um gefälschte Konten zu reduzieren.
- KI-gestützte Moderation hilft Plattformen dabei, schädliche Inhalte in großem Umfang zu erkennen. Um kontextbedingte Fehler und Fehlalarme zu vermeiden, bleibt die Kontrolle durch Menschen jedoch entscheidend.
- Der TAKE IT DOWN Act verpflichtet Plattformen, gemeldete, nicht einvernehmlich erstellte intime Bilder, einschließlich KI-generierter Deepfakes, innerhalb von 48 Stunden zu entfernen, und erhöht damit die Verantwortlichkeit sozialer Unternehmen.
Die wachsende Bedrohung durch Deepfakes und synthetische Inhalte
Deepfakes und KI-generierte Inhalte haben sich zu einigen der am schnellsten wachsenden Herausforderungen für Vertrauen und Sicherheit auf sozialen Plattformen entwickelt.
Laut Ryabova liegt die Herausforderung in der Geschwindigkeit, mit der synthetische Inhalte erstellt und verbreitet werden können, verglichen mit der Zeit, die erforderlich ist, um sie zu überprüfen und zu entfernen.
Ein überzeugender Deepfake kann in wenigen Sekunden erstellt werden, während seine Widerlegung Tage oder Wochen dauern kann.
Das Aufkommen von Open-Source-KI-Tools hat die Einstiegshürden für böswillige Akteure gesenkt und ermöglicht die Erstellung gefälschter Identitäten, manipulierter Bilder, von Stimmklonen und betrügerischer Inhalte in großem Umfang.
Diese Bedrohungen gehen über Fehlinformationen hinaus und umfassen nun auch Finanzbetrug, Sextortion, nicht einvernehmlich erstellte intime Bilder und politische Manipulation.
Identitätsverifizierung als Verteidigungsstrategie
Statt sich ausschließlich auf die Erkennung von Deepfakes zu verlassen, führen einige soziale Plattformen Maßnahmen zur Identitätsverifizierung ein, die bestätigen sollen, dass es sich bei den Nutzern um reale Personen handelt.
Ryabova sagte, dass Wizz Altersverifizierung und Technologien zum Gesichtsabgleich als Teil eines umfassenderen Ansatzes einsetzt, um gefälschte Konten und synthetische Identitäten zu reduzieren.
Sie wies außerdem darauf hin, dass jedes Jahr mehr als 40.000 Konten dauerhaft gesperrt werden, weil sie die Verifizierungsanforderungen nicht erfüllen.
Darüber hinaus werden etwa 7 % der Versuche zur Altersverifizierung aufgrund von Bedenken hinsichtlich ihrer Echtheit abgelehnt.
Indem die Plattform den Zugang auf verifizierte Personen beschränkt, verringert sie die Möglichkeiten automatisierter Konten und synthetischer Identitäten, schädliche Inhalte zu verbreiten.
KI gegen KI bei der Inhaltsmoderation
Da generative KI immer ausgefeilter wird, verlassen sich soziale Plattformen zunehmend auf KI-gestützte Moderationssysteme, um schädliche Inhalte zu erkennen.
Wizz setzt derzeit mehrere Schutzebenen ein, darunter die automatisierte Moderation von Bildern und Videos, die Überwachung des Nutzerverhaltens und die Prüfung durch Menschen.
Das Unternehmen entwickelt außerdem ein internes Deepfake-Erkennungssystem, das speziell dafür ausgelegt ist, manipulierte Profilbilder zu erkennen.
Ryabova beschrieb diese Bemühungen als einen fortwährenden „KI-gegen-KI“-Kampf, in dem sich defensive Technologien gemeinsam mit neuen Bedrohungen weiterentwickeln müssen.
KI-gestützte Moderation verbessert zwar die Skalierbarkeit, kann den Kontext jedoch weiterhin falsch interpretieren und Inhalte zu Unrecht markieren.
Ryabova nannte ein Beispiel, bei dem ein Nutzer, der über Haarfärbemittel sprach, fälschlicherweise wegen möglicher Selbstverletzung markiert wurde.
Solche Vorfälle unterstreichen die Bedeutung menschlicher Kontrolle bei Moderationsentscheidungen.
Die Auswirkungen des TAKE IT DOWN Act
Das Gesetz zur Bekämpfung bekannter Ausbeutung durch die Stilllegung technologischer Deepfakes auf Websites und in Netzwerken (TAKE IT DOWN) führt neue Pflichten für soziale Unternehmen ein.
Eine der bemerkenswertesten Anforderungen besteht darin, gemeldete nicht einvernehmlich erstellte intime Bilder, einschließlich KI-generierter Deepfakes, innerhalb von 48 Stunden nach Eingang einer gültigen Beschwerde zu entfernen.
Laut Ryabova verpflichtet das Gesetz Plattformen außerdem dazu, Systeme einzuführen, die verhindern, dass zuvor entfernte Inhalte erneut hochgeladen werden.
Dieser proaktive Ansatz verlagert die Verantwortung von den Opfern auf die Plattformen und setzt einen höheren Standard für die Inhaltsmoderation.
Die Frist von 48 Stunden kann für kleinere Organisationen mit begrenzten Ressourcen zwar eine Herausforderung darstellen, doch Ryabova ist überzeugt, dass Unternehmen, die Sicherheit von Anfang an priorisieren, besser auf die Einhaltung vorbereitet sind.
Investitionen in KI-gestützte Moderation, vertrauenswürdige Sicherheitspartner und die Zusammenarbeit innerhalb der Branche können Organisationen dabei helfen, regulatorische Erwartungen zu erfüllen.
Ein Blick in die Zukunft
Da das öffentliche Bewusstsein für KI-generierte Bedrohungen wächst, fordern Nutzer stärkeren Schutz der Privatsphäre, Identitätsverifizierung und mehr Verantwortlichkeit von Plattformen.
Ryabova hält diesen Trend für positiv und sieht darin den Ausdruck wachsender Erwartungen an die Sicherheit im Internet.
Der TAKE IT DOWN Act könnte als Vorbild für künftige KI-Regulierungen dienen, indem er schnelle Reaktionen, proaktive Erkennung und eine größere Verantwortlichkeit der Plattformen in den Mittelpunkt stellt.