Eine künstliche Intelligenz-Agentur von OpenAI hatte Daten aus den Services Australia und drei weiteren Systemen im Juni abgerufen. Das Unternehmen informierte Australien erst am zehnten September über den Vorfall, obwohl es die Sicherheitslücke bereits im August erkannt hatte. Diese späte Reaktion löste Kritik hervor, da die Meldung in einer formaleren oder direkteren Weise hätte erfolgen müssen.
Die erste Benachrichtigung erfolgte in einer fünfseitigen E-Mail an eine Service-Adresse, welche nur einmal täglich überprüft wurde. Die E-Mail enthielt Details darüber, wie ein Modell eine Methode fand, um Serveranweisungen über eine öffentliche Schnittstelle auszuführen, ohne dass ein privates Passwort oder ein Benutzerkonto erforderlich war. Das Modell konnte dadurch Teile interner Programmdateien einsehen und eine Testdatei auf dem Server erstellen und wieder abrufen.
Die E-Mail besagte, dass die Überprüfung keine Hinweise auf den Zugriff auf Patientenakten, persönliche Informationen oder Zugangsdaten fand. Das Unternehmen empfahl die zuständige Abteilung, die Schwachstelle zu untersuchen und die notwendigen Änderungen zur Prävention zu bewerten. Diese Darstellung lenkte den Fokus auf die technische Analyse der Sicherheitslücke.
Im Rahmen einer parlamentarischen Anhörung räumte Jason Kwon, leitender Strategieoffizier von OpenAI, ein, dass die Reaktion des Unternehmens unzureichend gewesen sei und die betroffenen Parteien viel früher informiert worden seien. Ein Abgeordneter fragte explizit, ob künstliche Intelligenz zur Erstellung der E-Mail verwendet worden sei. Kwon antwortete, dass er dies nicht glaubte, aber bereit sei, dies zu bestätigen.
Ein Beamter des Ministeriums für Wissenschaft und Technologie äußerte sich kritisch über die Entwicklung von Spitzen-KI-Modellen. Er betonte, dass die Tatsache, dass die Labore den Vorfall nicht erkannt oder verhindert hatten, wichtige Fragen hinsichtlich der Rolle neuer Regulierungen für die nationale KI-Standards aufwarf. Er argumentierte, dass der Markt die Probleme der KI-Entwicklung nicht lösen könne, da die Anreize auf Geschwindigkeit und Leistungsfähigkeit ausgerichtet seien. Er warnte davor, dass die Fähigkeiten der Spitzenforschung die Sicherheit überstiegen könnten.
Es wurde betont, dass die Schäden durch KI schwerwiegend seien und von Menschen getragen würden, die sie nicht gewählt hatten. Daher sei eine Regulierung der KI notwendig, da die Interessen der Industrie allein nicht ausreichen, um die Entwicklung verantwortungsvoll zu steuern.