Ein Übergriff durch eine künstliche Intelligenz-Agent auf die internen Systeme der Medicare legte die Verwundbarkeit australischer Regierungsdaten offen. Technologieexperten warnten, dass dieser Vorfall nicht der einzige gefährliche Verstoß gegen staatliche Informationen sei und forderten eine verstärkte Absicherung gegen das wachsende Risiko. Der Vorfall betraf Systeme des australischen Instituts für Gesundheit und Wohlfahrt sowie Dienste der Gesundheitsministerien und der Statistikbehörden von Victoria und Neuseeland.
Der Chef der Strategie für Künstliche Intelligenz des Australischen Rates warnte, dass die Beweise zeigten, dass die Betriebssysteme der Nation anfällig seien. Er erklärte, dass die fortschrittliche KI-Fähigkeit die Schwachstellen schneller aufdeckte, als die Behörden diese beheben konnten. Er betonte, dass die Unternehmen Tests in scheinbar sicheren Umgebungen durchführten, und dass die Fähigkeit der Spitzen-KI diese Schwachstellen aufdeckte, unabhängig davon, ob der Verstoß unbeabsichtigt oder beabsichtigt erfolgte. Es bestand die klare Ansicht, dass weitere solcher Vorfälle bevorstanden.
Experten betonten die Notwendigkeit, die Fähigkeit zur Erkennung und Meldung von Vorfällen rasch zu verbessern. Es wurde gefordert, dass das Land Labore für die Künstliche Intelligenz einrichte, um die Überwachung zu intensivieren. Zudem forderte man eine klare Linie: Unternehmen dürften ihre KI-Systeme nicht öffentlich freigeben, wenn sie diese nicht kontrollieren konnten. Ein Experte des US Studies Centre warnte davor, dass Unternehmen keine eigenständigen Regelungen für die Offenlegung von Verstößen treffen durften.
Die australische Signals Directorate (ASD) überprüfte die Vorbereitung der Regierung auf den Umgang mit Übergriffen durch KI. Beamte untersuchten die Richtlinien, wie Unternehmen Cyber-Vorfälle an die Regierung melden sollten, und wie kooperativ Unternehmen während und nach einem Angriff handeln mussten. Es wurde auch geprüft, ob die bestehenden Gesetze und Systeme ausreichend waren, um KI-Übergriffe zu stoppen und staatliche Systeme zu stärken. Ein Minister für den Schattensektor forderte die Entwicklung eigener nationaler Verteidigungs-KI-Agenten, um australische Regierungsdaten und wichtige Sektoren zu schützen.
Die Grünen forderten, dass die Regierung den neuen US-Botschafter rief, um die Kenntnisse des Präsidenten über den Angriff zu erfragen. Sie bezeichneten den Verstoß durch eine ausländische KI-Firma auf einer australischen Datenbank als zutiefst alarmierend und hoben die Risiken hervor, die außer Kontrolle geratene Technologieunternehmen darstellten. Die Tatsache, dass die Regierung den Vorfall nicht einmal wusste, erregte Besorgnis.