Eine Facebook-Anzeige mag auf den ersten Blick harmlos wirken, doch das dahinterliegende Ziel kann eine ganz andere Geschichte erzählen.
Meta hat ein KI-gestütztes System eingeführt, das sogenannte „Signposting“ erkennen soll – eine Taktik, bei der scheinbar legitime Anzeigen Nutzer zu verbotenen Inhalten oder Aktivitäten außerhalb der eigenen Plattformen führen. Nach Angaben des Unternehmens nutzt die Technologie ein Large Language Model, um Versuche zu erkennen, Metas bestehende Schutzmaßnahmen gegen Kindesausbeutung zu umgehen.
Das System ist Teil einer umfassenderen Initiative, die automatisierte Erkennung, Zielanalyse und KI-gestützte Tests von Metas eigenen Abwehrmaßnahmen umfasst. Die Herausforderung besteht darin, missbräuchliche Aktivitäten zu erkennen, die sich hinter legitim wirkenden Inhalten verbergen, ohne dabei versehentlich unschuldige Werbetreibende zu bestrafen.
So erkennt Metas KI verdächtige Anzeigen
Im Mittelpunkt von Metas Neuerung steht ein LLM, das darauf trainiert wurde, verdeckte Versuche zu erkennen, die von Meta eingerichteten Schutzmaßnahmen zur Kennzeichnung von Anzeigen zu umgehen, die sexuelle Ausbeutung von Kindern bewerben.
Eine Taktik besteht darin, Anzeigen zu erstellen, die legitim wirken, Nutzer aber zu Zielseiten mit verbotenen Inhalten führen. Da die Anzeigen selbst möglicherweise keine offensichtlichen Verstöße enthalten, können herkömmliche Moderationssysteme Schwierigkeiten haben, ihren Zweck zu erkennen.
Metas neues LLM-basiertes System soll diese Umgehungsversuche erkennen. Das Unternehmen untersucht außerdem, wohin Anzeigen führen, und erklärt, dass es Zielseiten blockieren kann, die gegen seine Richtlinien verstoßen. Dadurch wird verhindert, dass künftige Anzeigen Nutzer an dieselben Orte weiterleiten.
Allerdings hat Meta nicht öffentlich erläutert, wie das Modell verdächtige Verbindungen erkennt oder wie genau es missbräuchliche von legitimen Anzeigen unterscheidet. Das wirft Fragen zu Fehlalarmen auf und dazu, ob Werbetreibende mit Durchsetzungsmaßnahmen rechnen müssen, wenn ihre Inhalte fälschlicherweise gekennzeichnet werden.
Meta will seine eigenen Maßnahmen einem Härtetest unterziehen
Meta beschränkt sich nicht darauf, gegen die neuen Wege vorzugehen, auf denen Täter seine Systeme umgehen. Das Unternehmen will außerdem sicherstellen, dass diese „entschlossenen Täter“ keine Schwachstellen in seinen Abwehrmaßnahmen finden, die sie später ausnutzen können.
Eine Möglichkeit, wie Meta dies umsetzt, ist die Entwicklung eines KI-Modells für Red-Teaming, das seine bestehenden Sicherheitssysteme einem Härtetest auf Schwachstellen unterzieht. Das Modell übernimmt im Wesentlichen die Rolle eines Gegners und prüft Metas Abwehrmaßnahmen, um Wege zu finden, wie seine Erkennungssysteme umgangen werden könnten, bevor Täter diese Schwachstellen selbst entdecken und ausnutzen.
Der Ansatz macht Meta bei seinen Bemühungen effektiv proaktiv. Statt darauf zu warten, dass eine neue Umgehungstechnik in freier Wildbahn auftaucht, und dann seine Systeme zu aktualisieren, kann Meta nach eigenen Angaben KI einsetzen, um potenzielle Lücken aufzuspüren und seine Schutzmaßnahmen zu verstärken.
Was das für Meta bedeuten könnte
Metas jüngster Schritt erfolgt, während das Unternehmen weiter unter Druck steht von Aufsichtsbehörden und Gesetzgebern, die infrage stellen, wie wirksam seine Plattformen Kinder schützen.
Das macht die Wirksamkeit dieser neuen Systeme besonders wichtig. Meta muss mehr missbräuchliche Aktivitäten erkennen , ohne seine automatisierte Durchsetzung in ein grobes Instrument zu verwandeln, das legitime Werbetreibende, Inhalte oder Konten fälschlicherweise blockiert.
Die Technologie könnte Meta dabei helfen, Versuche zu erkennen, Material über Kindesausbeutung über scheinbar legitime Anzeigen zu verbreiten, statt sich nur auf Inhalte zu konzentrieren, die direkt gegen seine Richtlinien verstoßen.
Meta hat keine detaillierten Genauigkeitswerte für das neue Erkennungssystem veröffentlicht – eine gängige Praxis bei Technologieunternehmen, die verhindern wollen, dass böswillige Akteure ihre Abwehrmaßnahmen durch Reverse Engineering nachvollziehen. Dadurch bleibt unklar, wie oft das System missbräuchliche Aktivitäten übersehen oder legitime Werbetreibende fälschlicherweise kennzeichnen könnte.
Sollte sich die Technologie als wirksam erweisen, könnte sie anderen Plattformen eine Möglichkeit bieten, ähnliche Umgehungstaktiken zu bekämpfen. Vorerst wird entscheidend sein, ob Meta spürbare Verbesserungen beim Schutz von Kindern nachweisen kann, ohne durch automatisierte Durchsetzungsmaßnahmen neue Probleme zu schaffen.