Instagram zeigt Werbung für KI-Apps, die unerwünschte Nacktfotos erstellen

Instagram zeigt Werbung für KI-Apps, die unerwünschte Nacktfotos erstellen. Die beliebte Social-Media-Plattform Instagram gerät erneut in die Schlagzeilen, diesmal wegen der Bewerbung von KI-Apps, die dazu dienen, unerwünschte Nacktfotos zu erstellen. Diese fragwürdige Praxis hat zu Empörung in der Online-Community geführt und wirft Fragen zur Verantwortung von Instagram auf. Die Tatsache, dass solche Apps beworben werden, wirft auch Bedenken hinsichtlich des Datenschutzes und der Privatsphäre der Nutzer auf. Es bleibt abzuwarten, wie Instagram auf diese Kontroverse reagieren wird und welche Maßnahmen das Unternehmen ergreifen wird, um solche Werbung zu unterbinden. Diese Entwicklung verdeutlicht erneut die Herausforderungen im Umgang mit KI-Technologien und deren potenziellen Missbrauch.

Instagram bewirbt KI-Apps zur Erstellung unerwünschter Nacktfotos – Verstoß gegen Richtlinien?

Instagram ist in den letzten Tagen damit begonnen, verschiedene Anzeigen zu schalten, die die Nutzer dazu einladen, Bilder von Personen mithilfe von KI-Tools zu erstellen. Das Problem könnte hierbei liegen, dass die Generierung von Nacktbildern durch KI zur Erstellung unerwünschter Nacktfotos animiert. Die sozialen Netzwerke verbieten nicht nur solche Tools, sondern bewerben sie aktiv unter den Nutzern. Diese Handlungen verstoßen gegen die Richtlinien von Plattformen wie Meta, zu der Instagram gehört.

Meta löscht Instagram-Werbung für KI-Apps zur Generierung von Nacktbildern

Meta hat die Anzeigen auf ihrer Plattform archiviert, um zu zeigen, wer sie bezahlt hat, für welche soziale Netzwerke sie bestimmt waren und wann sie veröffentlicht wurden. Instagram hat bereits mehrere Anzeigen gelöscht, die die Nutzer explizit dazu aufforderten, unerwünschte Nacktbilder zu erstellen. Einige wenige Anzeigen sind noch in der Meta-Basis aktiv, wobei einige die derzeit beliebtesten Tools zur Entkleidung von Personen mit KI bewerben.

Google, Meta und OpenAI haben Schwierigkeiten, Daten für das Training ihrer KI-Modelle zu bekommen. Welche Alternativen gibt es? Das Werbematerial ist einfach, aber direkt. Eines der am schnellsten verbreiteten Anzeigen zeigt ein Bild von Kim Kardashian mit dem Text Entkleide jede Frau kostenlos. Versuch es. Die Anzeigen leiten diejenigen, die darauf klicken, zu einer der Apps mit den meisten Nutzern im gesamten Internet weiter.

Obwohl diese Apps kostenpflichtig sind, ist der Prozess denkbar einfach. Die Nutzer müssen nur ein Foto mit einer minimalen Bildqualität hochladen und dafür bezahlen, dass das Tool die betreffende Person in Sekundenschnelle entkleidet.

Die Werbebibliothek von Meta hat mehrere Versionen dieser Anzeige auf Instagram und Facebook veröffentlicht, wobei das beworbene Bild einer Frau modifiziert wurde. Der Inhalt war zwischen dem 13. und 19. März auf den Plattformen aktiv und wurde anschließend entfernt, so berichtet 404 Media.

Diejenigen, die auf die Anzeigen klicken, werden zum Apple App Store weitergeleitet, wo die Anwendung als Kunstgenerator beworben wird. Es wird zu keinem Zeitpunkt darauf hingewiesen, dass sie zum Erstellen von Nacktbildern verwendet werden können, was eine rechtliche Lücke in den mobilen App-Stores aufzeigt.

Der Google Play Store startet eine Kampagne zur Entfernung von Apps, die unerwünschte Deepfake-Pornografie mithilfe von KI erstellen können, wie in einem Bericht festgehalten ist. Diese Bilder werden hauptsächlich zur Erpressung von Jugendlichen verwendet oder landen auf Pornoseiten.

Die Anzeigen ändern leicht ihre Ästhetik, um von Meta nicht erkannt zu werden. Meta hat eine klare Richtlinie zur Moderation von Inhalten, die auch auf Werbung angewendet wird. Die Plattform hat festgestellt, dass einige Werbetreibende leicht die Ästhetik oder den Text ihres Inhalts ändern, aber auf dieselbe Anwendung verweisen.

Ein Beispiel hierfür ist das Tool, das Kim Kardashian zeigte. Die App begann ein Bild einer von KI generierten jungen Frau zu zeigen, die vollständig bekleidet auf der linken Seite und nackt auf der rechten Seite war. Der Text ist ähnlich und zeigt, wie einfach diese Retuschen durchgeführt werden können: Probieren Sie es jetzt aus. Jedes Kleidungsstück: 1. Überall löschen. 2. Ausgabe-Bild!

Der Werbetreibende hat weitere von KI generierte Bilder verschiedener junger Frauen gezeigt, und behauptet sogar, Retuschen mit Bikini anstelle von Nacktheit erstellen zu können. Die Anzeigen wurden zwischen dem 10. und 20. April auf Facebook, Instagram, Facebook Messenger und dem eigenen Werbenetzwerk von Meta veröffentlicht.