Ein neues KI-generiertes Kampagnenvideo der Partei One Nation stellte eine neue Grenze dar. Das Material, welches am Wochenende bei der Veröffentlichung in Victoria gezeigt wurde, bestand aus einer Sammlung rassistischer Tropen. Es zeigten Darstellungen von Männern, die als Afrikaner mit Machete, als Nahost-Mann mit Sprengvest und als südasiatischer Mann, der über “Masseneinwanderung” sprach, sowie einen indigenen Ältesten, der über “Geld auf Basis von Bedürfnis statt Identität” berichtete. Dieser Clip verdeutlichte die Wildnis des Online-Politikens, die durch den ungezügelten Zugang zu KI-Videos geschaffen wurde.
Die Berichterstattung konzentrierte sich kaum auf den Inhalt des Videos. Stattdessen fokussierte sie auf die enthusiastische Aufnahme durch Pauline Hanson, die Musik und das Versprechen des Kandidaten Mark Nicholson, Daniel Andrews und Jacinta Allan inhaftieren zu lassen. Die Medien versäumten es, die tieferen Implikationen des KI-Materials zu beleuchten. Es wurde lediglich die erste Szene des Videos thematisiert, die eine Darstellung eines jungen Mannes zeigte, der sich als Konservativer seiner linksgerichteten Familie entpuppte. Diese Szene wurde als Kopie eines ähnlichen Videos aus einer israelischen Kampagne erwähnt.
Die Kommentare zu den verwendeten Witzen zeigten die Erschöpfung des Materials. Es wurde hinterfragt, ob die Scherze durch generative Sprachmodelle erzeugt worden waren. Es bestand die Argumentation, das Material gänzlich zu ignorieren, um der Partei die Aufmerksamkeit und die kostenlose Werbung zu entziehen, die sie suchte. Es handelte sich um eine Form der Wut-Baiting, die darauf abzielte, eine Reaktion hervorzurufen und diese dann als Beweis dafür zu nutzen, dass One Nation angegriffen wurde oder die Linken provoziert seien. Die Reaktion der Unterstützer, die Spenden an die Grünen versprachen, war vollständig inszeniert.
Dennoch blieb die Möglichkeit, gegen den schlechten Geschmack vorzugehen, begrenzt. Die australische Kommunikations- und Medienbehörde konnte keine Maßnahmen ergreifen, da ihre Befugnisse diesen Art von Inhalt nicht umfassten. Auch die Wahlkommissionen besaßen keine Kompetenzen zur Regulierung von Lügen oder unangebrachten Inhalten. Die Bundesregierung hatte bisher auf Forderungen nach einem Verbot von KI-generierten Inhalten in Wahlperioden geschwiegen.
Prof. Terry Flew vom Zentrum für KI-Vertrauen und -Governance warnte vor den Risiken. Er betonte, dass KI-generierte Desinformation das Vertrauen in Institutionen untergrub und das Informationssystem schädigte. Er erklärte, dass KI-generierte Deepfakes die Grenzen des legitimen Wahlkampfs überschritten und für die Zielgruppen genuin bedrohlich seien. Die Verbreitung von “KI-Schrott” führte zur sogenannten “Ensloppification”, der Durchdringung von KI-generiertem Material in jeden Bereich der Gesellschaft, und die Politik war davon nicht ausgenommen.
Die Debatte um die Regulierung von KI-generierten Inhalten während Wahlen gewann an Fahrt. Senator David Pocock drängte seit zwei Jahren auf eine gesetzliche Regelung gegen Deepfakes in Wahlen. Die Behörden stellten fest, dass KI es schwieriger machte, zwischen authentischem und manipuliertem Inhalt zu unterscheiden, und die Verwirrung über autoritative Informationsquellen erhöhte sich. Es bestand die Notwendigkeit, die Risiken dieser Technologie anzugehen, bevor sie die Integrität demokratischer Prozesse kompromittierte.