Anti-Einwanderungs-Videos, die auf Künstlicher Intelligenz (KI) basierten, wurden auf ausländische Ersteller zurückgeführt. Die Facebook-Seite „Great British People“, die sich als aus Yorkshire bezeichnete, erzielte für ihr jüngstes Video eines älteren weißen Briten, der über seine Rente weinte, 1,3 Millionen Aufrufe. Andere Beiträge thematisierten die „überwältigende Dimension der Masseneinwanderung“ und fragten die Zuschauer, ob sie „die Briten vermissten, die sie kannten“. Es stellte sich jedoch heraus, dass der Ersteller der Videos möglicherweise nicht einmal die britische Gesellschaft kannte. Das Konto wurde von einer Person aus Sri Lanka geführt.
Diese Accounts gehörten zu Dutzenden miteinander vernetzten Facebook- und Instagram-Konten, die anti-Einwanderungs-Inhalte über die britische Gesellschaft an große Zielgruppen verbreiteten. Die Ersteller befanden sich oft Hunderte oder Tausende von Kilometern entfernt. Informationen aus Transparenzwerkzeugen von Facebook sowie Interviews mit den Content-Erstellern zeigten, dass die Konten aus Sri Lanka, den Vereinigten Staaten und anderen europäischen Ländern stammten. Andere Accounts waren mit Vietnam, den Malediven oder Ländern wie Iran und den Vereinigten Arabischen Emiraten in Verbindung gebracht. Dies deutete auf eine globale Verteilung der Desinformationsakteure hin.
Ein Experte erklärte gegenüber der BBC, dass Studien zeigten, dass Menschen die Erkennung von KI-Fälschungen schlechter beherrschten, als sie dachten. Je mehr KI-Inhalte die Menschen sahen, desto wahrscheinlicher war es, dass sie authentische Materialien misstrauten. Londoner Bürgermeister Sir Sadiq Khan betonte, dass hinter einigen dieser Konten lediglich finanzielle Motive standen, während andere durch feindliche Staaten wie Russland und Iran unterstützt wurden. Obwohl direkte staatliche Beteiligung schwer zu verifizieren war, teilten einige Konten Beiträge, die sich gegenüber russischen und iranischen Regierungen sympathisch zeigten. Die Inhaber der Konten reagierten auf Versuche der BBC, sie zu kontaktieren, nicht.
Mehrere Accounts nutzten ihre Seiten, um die Beteiligung zu steigern, indem sie von Themen wie „Make America Great Again“ auf KI-generierte anti-Einwanderungsnarrative umstellten. Einige experimentierten gelegentlich auch mit Inhalten, die Migranten sympathischer waren. Sozialpsychologen beschrieben diese Aktivitäten als „neue Entwicklung von Einflussoperationen“. Es war relativ einfach für KI-Fälscher, die im Ausland lebten, britische Staatsbürger darzustellen, da es kostengünstig war, Social-Media-Konten ursprünglich in Großbritannien einzurichten.
Die Accounts sammelten Hunderttausende von Aufrufen durch KI-generierte Videos von gefälschten Szenen. Diese Szenen zeigten beispielsweise das House of Commons, gefüllt mit Männern in traditioneller arabischer Kleidung, die Scharia-Recht anwendeten. Andere Videos zeigten gefälschte Interviews mit Frauen in Hijabs, die diskutierten, wie Großbritannien islamischer werden müsse. Das Bild des Vereinigten Königreichs, das diese Videos erzeugten, wirkte widersprüchlich: Während in einigen verbreiteten Inhalten dieser Niedergang mit muslimischer Einwanderung in Verbindung gebracht wurde, stellten Videos von denselben Erstellern islamische Länder als idyllisch dar.
Die Ersteller rechtfertigten ihren Inhalt mit dem Ziel, Wähler und die Öffentlichkeit über die möglichen Entwicklungen in den kommenden Jahrzehnten zu informieren. Sie behaupteten, sich weit entfernt von den dargestellten Städten zu befinden und operierten aus einem europäischen Land, in dem „ein Gefühl der Unsicherheit deutlicher geworden war“. Die Stadtverwaltung von London fand einen deutlichen Anstieg solcher Beiträge und identifizierte zwei Hauptmotive: „Sie haben staatliche Akteure“ sowie „Individuen und Unternehmen, die versuchen, durch Spaltung Geld zu verdienen“. Die Stadtverwaltung betonte, dass diese „KI-generierten Lügen“ reale Auswirkungen hatten und Besucher und Investoren abschrecken konnten.
Meta, die Facebook und Instagram besitzt, erklärte, dass sie „koordinierte unauthentische Verhaltensweisen ernst nahm“ und globale Teams einsetzte, um diese Aktivitäten zu identifizieren und zu unterbinden. Sie versprach, Maßnahmen gegen Inhalte und Konten zu ergreifen, die gegen die Gemeinschaftsstandards verstießen, unabhängig davon, ob der Inhalt von einer KI oder einer Person geschaffen wurde. Die Forschung zeigte, dass die Öffentlichkeit nicht besonders gut darin war, Fälschungen zu erkennen, und dass die ständige Konfrontation mit KI-Inhalten die Tendenz verstärkte, reale Inhalte zu misstrauen. Dennoch warnte die Forschung, dass viele Menschen die Authentizität des Inhalts ignorierten, solange dieser mit ihrer Identität und Weltanschauung resonierte und somit Zustimmung signalisierte.