Apple entfernt 19 Apps aus Netzwerk mit versteckten Deepfake-Funktionen

Apple hat nach einer Recherche 19 Apps aus dem App Store entfernt, die mit einem Netzwerk für sexualisierte KI-Fälschungen verbunden sein sollen. Das Netzwerk umfasst mehr als 400 Apps und Domains. Einige Anwendungen gaben sich als Angebote für Tierporträts, Fitness oder das Sprachenlernen aus. Unter bestimmten Bedingungen konnten sie stattdessen eine Oberfläche laden, die aus hochgeladenen Fotos sexualisierte Bilder und Videos erzeugte.

Forschende waren auf das Netzwerk gestoßen, als sie Links aus Tausenden Werbeanzeigen für Deepfakes auf Facebook und Instagram untersuchten. Deepfakes sind mithilfe von KI manipulierte oder erzeugte Medien. Die Anzeigen führten zu Apps in den Stores von Apple und Google. Eine vollständige Liste der Bedingungen, unter denen die versteckte Oberfläche erschien, ist nicht bekannt.

Ein möglicher Auslöser war laut dem Forscher Paul Bouchaud die Installation einer App nach einem Klick auf eine zugehörige Anzeige. Apple erklärte, Entwickler hätten nach der Freigabe die Website verändert, von der die Apps Inhalte bezogen. Das Unternehmen hatte seine Regeln bereits am 16. Oktober 2026 verschärft: Sie erfassen sowohl die Verschleierung des App-Zwecks als auch nicht einvernehmlich erzeugte intime Bilder.

Eine der untersuchten Apps, DiffAI, wurde im Google Play Store mehr als 100.000-mal heruntergeladen. Google entfernte sie kurz vor der Kontaktaufnahme durch das recherchierende Magazin. Die Mehrheit der betreffenden Apps war zu diesem Zeitpunkt bereits entfernt. Laut Meta wurden zudem Maßnahmen gegen 11.600 Werbekonten sowie weitere verbundene Konten und Seiten ergriffen. Bei Abschluss der Recherche erschienen weiterhin ähnliche Anzeigen und Apps.

Warum das wichtig ist

Der Fall betrifft weltweit genutzte App-Stores und Werbeplattformen. Er zeigt, wie sich Funktionen für sexualisierte KI-Fälschungen hinter scheinbar harmlosen Angeboten und wechselnden Webinhalten verbergen können. Die fortgesetzte Veröffentlichung ähnlicher Angebote macht deutlich, dass einzelne Entfernungen das Problem nicht vollständig beheben.