Meta betrieb über zehn Monate hinweg Hunderte bezahlter Anzeigen, die Material zur sexuellen Ausbeutung von Kindern enthielten. Ein neuer Bericht von US-amerikanischen Kampagnenorganisationen zeigte, dass diese Anzeigen, darunter auch Inhalte, die durch künstliche Intelligenz erzeugt wurden, in Indien liefen. Dieser Bericht erschien zwei Monate nach der Anordnung der indischen Regierung, Meta alle Anzeigen und Inhalte, die Material zur sexuellen Ausbeutung von Kindern enthielten, auf Instagram zu entfernen. Die Untersuchung erfolgte im Anschluss an eine Berichterstattung der BBC Eye, welche feststellte, dass Instagram bezahlte Werbung für solches Material in Indien verbreitete.
Das Tech Transparency Project (TTP), eine externe Organisation mit Sitz in Washington, fand 332 Anzeigen mit Material zur sexuellen Ausbeutung von Kindern auf Facebook und Instagram. Die Mehrheit dieser Anzeigen (274) lief im August dieses Jahres. Das TTP-Bericht identifizierte mehrere Fotos realer Kinder, darunter ein Mitglied einer europäischen königlichen Familie, welche in den Anzeigen verwendet und anschließend mittels künstlicher Intelligenz manipuliert wurden. Mehr als ein Dutzend Anzeigen erschien auf den Meta-Plattformen, obwohl das Unternehmen über die Funde informiert wurde.
Etwa ein Viertel (84) der Anzeigen lief in Indien, und 78 davon wurden veröffentlicht, nachdem die indische Regierung die Entfernung von Material zur sexuellen Ausbeutung von Kindern angeordnet hatte und Gespräche mit leitenden Mitarbeitern von Meta geführt hatte. Die Verbreitung von Material zur sexuellen Ausbeutung von Kindern stellte in Indien eine Straftat dar, während die Richtlinien von Meta besagten, dass Anzeigen keinen Inhalt enthalten durften, der Kinder sexuell ausbeutete oder gefährdete.
Organisationen wie Just Rights for Children reichten eine Petition vor den Obersten Gerichtshof Indiens ein. Sie beriefen sich auf die Erkenntnisse der BBC und forderten von sozialen Medienplattformen eine verbindliche Meldung und Identifizierung jener Inhalte, die Material zur sexuellen Ausbeutung von Kindern verbreiteten. Diese Organisationen kritisierten, dass soziale Medienunternehmen gegen indisches Recht verstießen, indem sie Material zur sexuellen Ausbeutung von Kindern nicht an indische Strafverfolgungsbehörden meldeten.
Das TTP stellte fest, dass fast alle gefundenen Anzeigen mit einem Foto eines Kindes begannen und dieses Foto durch künstliche Intelligenz manipuliert wurde, um sie bei einer expliziten sexuellen Handlung darzustellen. Die Anzeigen verwiesen fast alle auf Anwendungen zur Erzeugung von KI-Bildern oder Videos, die hauptsächlich von chinesischen Entwicklern stammten. Es wurde vermutet, dass durch die Werbung für diese Anwendungen mit Bildern von Material zur sexuellen Ausbeutung von Kindern impliziert wurde, dass diese für die Erstellung oder den Konsum solch von Material genutzt werden konnten.
Meta erklärte, dass sie die externe Bewerbung von Anwendungen untersagten, welche künstliche Intelligenz zur Erstellung gefälschter nackter oder expliziter sexueller Bilder nutzten. Die Behörden betonten, dass die Systeme zur Überprüfung von Anzeigen primär auf Automatisierung beruhten und darauf ausgelegt waren, Bilder, Videos, Texte und Audio zu prüfen. Dennoch stellte das TTP fest, dass einige Anzeigen von Meta-Werbepartnern in China platziert wurden, welche Milliarden von Dollar chinesischer Werbung auf Facebook und Instagram kanalisieren. Neue Anzeigen erschienen auch nach der Kenntnisnahme des Berichts des TTP.