Ein starker Anstieg von Betrugsversuchen, bei denen Kriminelle Deepfakes von Prominenten und Politikern einsetzten, hatte die Aufmerksamkeit der australischen Aufsichtsbehörde Asic auf sich gezogen. Die Behörde warnte vor einer wachsenden Gefahr, da kriminelle Akteure synthetische Inhalte nutzten, um Opfer in gefälschte Anlageangebote zu locken. Anthony Albanese war dabei die häufigste Figur, die in diesen Täuschungsversuchen verwendet wurde.
In einem Video erschien ein Deepfake des Premierministers, der versprach, dass Australier durch eine Investition von vier Tausend Dollar monatlich vierzigtausend Dollar verdienen könnten. Der gefälschte Albanese beschrieb das Angebot als eine offizielle Plattform mit staatlicher Garantie. Asic betonte, dass diese Täuschungen nicht nur auf einzelne Prominente beschränkt blieben, sondern dass Betrüger Netzwerke aus gefälschten Marken, Webseiten und Nachrichtenartikeln aufbauten, um die Opfer zur Überweisung von Geldern zu bewegen.
Im letzten Geschäftsjahr handelte Asic mit über neunzehntausend Betrugsfällen, was fast das Dreifache der Zahl des Vorjahres darstellte. Berichte des National Anti-Scam Centre zeigten, dass Australier sieben Millionen vierhunderttausend Dollar durch die zehn am häufigsten gefälschten öffentlichen Figuren verloren. Albanese befand sich auf dieser Liste der Täuschungsziele.
Die künstliche Intelligenz machte die Erstellung solcher synthetischer Bilder zunehmend einfacher. Betrüger nutzten diese Technologie, um Anlagebetrugsangebote überzeugender zu gestalten. Die Leiterin von Asic, Sarah Court, erklärte, dass die bloße Präsenz von poliertem Inhalt oder überzeugenden Zeugnissen keine Legitimität einer Investition bewies. Eine einfache Online-Suche reichte nicht aus, um die Echtheit einer Gelegenheit zu überprüfen.
Asic riet Verbrauchern, vor jeder Investition die Adressen von Webseiten zu überprüfen, die Legitimität von Personen und Unternehmen zu prüfen und vorsichtig bei dringenden Aufforderungen zu handeln. Die Behörde mahnte, dass Betrüger auch Lizenzinformationen missbrauchten und dass Bürger die professionellen Register von Asic konsultieren sollten. Zudem zeigte die Forschung der Commonwealth Bank, dass Australier zwar über die Fähigkeit verfügten, KI-Betrug zu erkennen, dies jedoch in der Praxis nur weniger als die Hälfte der Zeit gelang.
Als Reaktion auf die politische Dimension des Problems hatte die Abgeordnete Zali Steggall einen Gesetzentwurf vorgeschlagen, der darauf abzielte, irreführende politische Werbung, die durch künstliche Intelligenz generiert wurde, klar kennzeichnen und verbieten zu wollen.