China sah sich nach den jüngsten Wirbelstürmen und Überschwemmungen mit einer neuen Bedrohung konfrontiert: gefährlich irreführende Videos, die durch künstliche Intelligenz (KI) erstellt wurden. Beamte waren sich bewusst, dass sie eine zusätzliche Herausforderung bewältigen mussten, da gefälschte Inhalte in den sozialen Medien zirkulierten. Diese Videos zeigten beispielsweise tote Körper in Überschwemmungswasser oder stellten eine massive Flut in Regionen dar, die tatsächlich nicht betroffen waren. Darüber hinaus wurden Details zu Notfallmaßnahmen absichtlich falsch dargestellt, was bei einigen Bewohnern zu Panik führte und den Kauf von Notvorräten auslöste.
Andere Inhalte nutzten reale Ereignisse aus, um die Situation zu verschärfen. Bei Überschwemmungen in Hengzhou verursachten die Ereignisse, dass Hunderte von Schlangen aus einem Zuchtbetrieb entflohen. Anschließend wurden gefälschte Bilder veröffentlicht, die Crocodiles in einen Fluss freilassten. In einer bereits angespannten Lage, die Massenevakuierungen und komplexe Rettungsaktionen erforderte, versuchten die Behörden, Panik zu vermeiden. Nun befürchteten sie, dass die Technologie, in die China Milliarden investierte, einfache und zugängliche Werkzeuge bereitstellte, die zur Täuschung der Öffentlichkeit genutzt wurden.
Content-Ersteller nutzten Katastrophennachrichten, um Anhänger zu gewinnen. Sie wussten, dass sensationeller oder überzogener Inhalt mehr Likes und Aufrufe generierte. Sie fabrizierten Informationen bewusst, um die Aufmerksamkeit der Menschen zu erregen. Experten betonten, dass die künstliche Intelligenz die technischen Hürden für die Erstellung falscher Informationen drastisch senkte. Einzelne Personen benötigten keine komplexen technischen Fähigkeiten mehr; sie konnten durch einfache Befehle KI-Werkzeuge nutzen, um überzeugende Texte, Bilder, Audio und Videos zu generieren, die hochrealistisch, aber vollständig erfunden waren.
Die Motivation für diese Inhalte reichte von Personen, die etwas „amüsantes ohne Rücksicht auf die Konsequenzen“ erschaffen wollten, bis hin zu jenen, die „Traffic für persönlichen Gewinn“ generieren wollten oder die „Panik oder soziale Unruhe“ absichtlich auslösen wollten. Einige Nutzer glaubten, dass die Online-Welt anonym und unreguliert sei, oder dass sie nicht verfolgt werden konnten. Es gab Forderungen, dass alle durch KI erstellten Inhalte klar gekennzeichnet werden mussten. Andere Nutzer konnten diese Kennzeichnungen jedoch einfach entfernen und das Material neu bearbeiten.
Professorinnen und Professoren mahnten zur Notwendigkeit weiterer Anstrengungen zur Verifizierung. Es wurde betont, dass Erkennungstechnologien hinter den Generierungstechnologien zurückblieben. Es existierte ein ständiges Katz-und-Maus-Spiel. Man durfte nicht davon ausgehen, dass Technologie allein durch einen Klick auf einen Knopf KI-generierte Inhalte identifizieren konnte.
Die chinesische Regierung nutzte die KI, um eine führende Technologiemacht zu werden. Das Land proklamierte 2017, dass die KI die Haupttreibkraft des Fortschritts sei. Riesige Summen flossen in KI-Unternehmen, was den heimischen Wettbewerb befeuerte. In diesem Klima sah Professor Xu die Notwendigkeit, eine „vertrauenswürdige Informationsinfrastruktur“ aufzubauen. Diese sollte offizielle Frühwarnsysteme und Katastrophenschnittstellen umfassen, auf die Nachrichtenorganisationen zugreifen konnten.
Es gab jedoch Fälle, in denen offizielle Quellen, einschliesslich staatlich kontrollierter Medien, Katastrophen absichtlich herunterspielten. Dies führte zu einem öffentlichen Misstrauen. Lokale Journalisten wurden beispielsweise aufgefordert, ihre Sprache bei der Beschreibung eines Durchbruchs in der Liulan-Dammmauer zu „mildern“. Die Folgen waren tödlich, da Wasser durch den gebrochenen Damm strömte und mindestens 26 Todesopfer nachfolgten. Solche Vorfälle schufen ein Vertrauensvakuum, das es böswilligen Akteuren erleichterte, gefälschte Inhalte zu verbreiten.
Die Polizei bat die Bevölkerung, bei Katastropheninformationen aus unbekannten Quellen skeptisch zu bleiben und sich auf offizielle Mitteilungen zu verlassen. Sie versicherten, dass die Verbrecher falscher Informationen erfasst würden. Eine spezialisierte Task Force überwachte die sozialen Medien, insbesondere Kurzvideo-Plattformen, und verfolgte diese Fälle streng. Die Strafen konnten von einer Geldstrafe bis zu sieben Jahren Haft reichen, falls die Folgen der Fehlinformationen gravierend waren.
Die Cyberspace Administration verkündete am 23. Juli eine landesweite Räumung von gefälschtem Internetinhalt im Zusammenhang mit Überschwemmungen und anderen Katastrophen. Sie ordnete den lokalen Ämtern an, gefälschte Daten, böswillige Bearbeitungen, inszenierte Szenen und die Verwechslung historischer Ereignisse zu erkennen. Professor Gao betonte, dass die Schäden durch KI-generierte Falschmeldungen letztlich davon abhingen, wie die Menschen die Technologie nutzten, nicht von der Technologie selbst. Dennoch warnte Professor Chen, dass die KI-Technologie viel schneller fortschritt als die rechtlichen Rahmenbedingungen. Die Plattformen, die diese Inhalte verbreiteten, mussten rechtlich zur Verantwortung gezogen werden, da sie die Ermöglicher waren. Die Gefahr bestand darin, dass KI-generierte Fehlinformationen nicht nur in ihrer Menge, sondern auch in ihrer Verbreitungsgeschwindigkeit zunahmen. Regierungen und Plattformen mussten daher proaktiv handeln, anstatt auf virale Verbreitung zu warten.