Meta zieht vor Gericht gegen KI-Apps für Nacktbilder
Meta hat rechtliche Schritte gegen ein Unternehmen eingeleitet, das auf seinen Plattformen sogenannte “Nudify”-Apps bewirbt. Diese Anwendungen verwenden künstliche Intelligenz, um ohne Zustimmung gefälschte Nacktbilder von Personen zu erstellen.
Meta klagte gegen die Firma hinter den CrushAI-Apps, um ihr jegliche Werbeanzeigen auf Facebook und Instagram zu untersagen. Dies geschieht nach einem monatelangen Katz-und-Maus-Spiel um die Entfernung solcher Anzeigen.
„Diese Klage zeigt, wie ernst wir diesen Missbrauch nehmen und wie entschlossen wir handeln, um unsere Community zu schützen“, erklärte Meta in einem Blogeintrag.
Experten fordern konsequenteres Handeln
Laut Alexios Mantzarlis, dem Autor des Blogs Faked Up, kursierten „mindestens 10.000 Anzeigen“ für solche Anwendungen auf Metas Plattformen. Mantzarlis zeigte sich erfreut über Metas juristischen Schritt, betonte jedoch, dass dieser nicht ausreiche.
„Während Meta diese Ankündigung veröffentlichte, fand ich selbst noch Dutzende aktiver CrushAI-Anzeigen und hunderte weitere von anderen Anbietern“, sagte er. Medien und Forschende müssten diese Missbrauchsform kontinuierlich beobachten, um Plattformen zur Verantwortung zu ziehen und die Verbreitung dieser schädlichen Tools einzudämmen.
Meta erklärte weiter im Blog: „Wir werden weiterhin die nötigen Maßnahmen ergreifen – einschließlich rechtlicher Schritte – gegen jeden, der unsere Plattform auf diese Weise missbraucht.“
KI als Risiko für Kinder und Gesellschaft
Mit dem Wachstum generativer KI hat die Verbreitung sogenannter “Nudify”-Apps deutlich zugenommen. Im April forderte die Kinderbeauftragte für England die Regierung auf, ein umfassendes Verbot solcher Anwendungen zu erlassen.
Die Erstellung oder der Besitz KI-generierter sexueller Inhalte mit Kindern ist strafbar. Laut Matthew Sowemimo von der Kinderschutzorganisation NSPCC nutzen Täter solche Apps gezielt, um illegale Darstellungen von Kindern zu erzeugen.
„Die emotionale Belastung für betroffene Kinder kann verheerend sein“, sagte er. „Viele fühlen sich machtlos, verletzt und ihrer Identität beraubt.“
Sowemimo forderte die britische Regierung auf, “Nudify”-Apps vollständig zu verbieten und ihre Werbung flächendeckend zu unterbinden.
Meta kündigte parallel eine Maßnahme zur Bekämpfung des Problems an: Das Unternehmen teilt seit Ende März entsprechende Informationen mit anderen Technologieunternehmen.
„Seitdem haben wir über 3.800 eindeutige URLs an teilnehmende Firmen weitergeleitet“, heißt es im Blogbeitrag. Meta räumte ein, dass Werbetreibende seine Richtlinien bewusst umgehen, indem sie etwa ständig neue Domainnamen für verbotene Inhalte nutzen.
Ein neues Erkennungssystem soll solche Anzeigen nun identifizieren, selbst wenn darin keine Nacktheit enthalten ist.
Deepfakes und Promi-Missbrauch als weiteres KI-Problem
„Nudify“-Apps sind nur ein Beispiel dafür, wie künstliche Intelligenz problematische Inhalte in sozialen Medien erzeugt. Eine weitere Sorge ist der Einsatz von KI für Deepfakes – täuschend echte Videos oder Bilder, oft mit Prominenten, die für Betrugszwecke eingesetzt werden.
Im Juni kritisierte Metas Aufsichtsgremium eine Entscheidung, ein manipuliertes Video eines Mannes, der wie der brasilianische Fußballstar Ronaldo Nazário aussah, nicht zu löschen.
Zur Bekämpfung solcher Betrugsversuche setzt Meta bereits Gesichtserkennung ein und verpflichtet politische Werbende zur Offenlegung von KI-Nutzung – vor allem wegen der potenziellen Folgen für demokratische Wahlen.
