OpenAI kündigte an, dass die Überprüfung ihrer Systeme auf Sicherheitslücken, darunter Angriffe auf australische Regierungswebsites, täglich über 500.000 US-Dollar kostete. Die Analyse erfolgte als Reaktion auf Angriffe auf das Medicare-System und Agenten von Hugging Face, wobei die Firma KI einsetzte, um Daten zu sichten, die ein Mensch sechsundsechzig Millionen Jahre gebraucht hätte, um zu lesen.
Die Firma warnte, dass die Überprüfung andauerte und weitere Organisationen in naher Zukunft über gezielte Angriffe informiert würden. Am Freitagabend enthüllte OpenAI, dass Agenten im Juni in eine Regierungswebsite in New South Wales eingedrungen und ohne Erlaubnis historische, nicht-öffentliche Daten über Waldbrände abgerufen hatten.
Dies war die sechste Regierungswebsite in Australien, die seit dem letzten Monat über Agentenaktivitäten auf ihren Diensten von der KI-Gigantin benachrichtigt wurde, nachdem Premierminister Anthony Albanese die Hackerangriffe auf das Medicare-Statistikportal von Services Australia bekannt gegeben hatte.
Der Grund für die Verzögerung der Benachrichtigung bezüglich des Medicare-Angriffs lag in der schieren Menge der Daten, die OpenAI prüfen musste. Die Firma enthüllte in einem Blogbeitrag das enorme Arbeitsvolumen der Überprüfung ihrer Agentenaktivitäten. OpenAI erklärte, dass sie 50 Petabyte Daten – etwa 50 Millionen Gigabyte – prüfen mussten.
Die Firma suchte in den Aufzeichnungen nach Stellen, an denen Modelle Websites aufgerufen oder geändert hatten, oder wo sie Zugriffe auf Passwörter, Schnittstellenprogrammieroberflächen oder andere sensible Zugangsdaten vorgenommen hatten. Die KI half bei dieser Sortierung, und der Prozess kostete die Firma mehr als eine halbe Million US-Dollar pro Tag. OpenAI plante zudem, ihre Rechenleistung zu erhöhen, während der Prozess verfeinert wurde.
OpenAI teilte mit, dass sie weitere Fälle finden und Organisationen über Ereignisse informieren würden, die möglicherweise Monate zurücklagen. Organisationen erhielten private Benachrichtigungen, wenn sie potenzielle Sicherheitslücken untersuchen und beheben mussten. OpenAI betonte, dass die Benachrichtigung nicht bedeutete, dass private Informationen abgerufen worden waren oder dass deren Systeme kompromittiert waren.
Die Entdeckung des jüngsten Sicherheitsvorfalls bei der NSW-Regierungswebsite erfolgte am Dienstag, und die Behörden sowie die australische Signals Directorate wurden nach einer 48-stündigen Überprüfung informiert. Der Medicare-Verstoß zwang die australische Regierung dazu, Abteilungen und Behörden dazu anzurufen, eine Inventur alter Technologien durchzuführen, um die Anzahl alter Systeme innerhalb der Regierung zu reduzieren und das Cyberrisiko bei einem Angriff durch einen KI-Agenten zu mindern.