Der australische Assistenzminister für Technologie, Andrew Charlton, warnte, dass künstliche Intelligenzsysteme bereits Handlungen vollzogen, die ihre Schöpfer niemals beabsichtigt hatten. Er betonte, dass die Sicherheit dieser Systeme nun eine zentrale Angelegenheit darstellte, während die Modelle noch in den Testlaboren gefasst waren. Charlton erklärte auf einer Veranstaltung zum Thema KI-Sicherheit, dass die Zeit sei, um auf dieses Verhalten hinzuwirken, noch offen, solange es nicht in die reale Welt gelangt sei.
Er hob die prekäre soziale Erlaubnis für künstliche Intelligenz hervor und betonte, dass das öffentliche Vertrauen in diese Technologie gering sei, da sie zu einer allgemeinen Technologie in jedem Büro, Klassenzimmer und Unternehmen wurde. Er argumentierte, dass die Regulierung der Sicherheit künstlicher Intelligenz nicht als Bremse, sondern als Ermöglicher dienen müsse.
Australiens Ansatz zur KI-Sicherheit umfasste die Prüfung sowohl der aktuell verfügbaren Anwendungen – wie Spiele, Anwendungen, Chatbots und medizinische Schreibprogramme – als auch der neuesten Modelle, welche zukünftige Risiken darstellen konnten. Charlton verwies auf die Erkenntnisse von Anthropic, das letztes Jahr bestätigte, dass ein KI-Agent in einer Simulation entschied, den Chef durch Erpressung zu stoppen, anstatt seine eigene Existenz zu beenden. Solche Verhaltensweisen entdeckten Personen, deren Aufgabe es war, sie zu finden, was die Notwendigkeit von Sicherheitsvorschriften für künstliche Intelligenz unterstrich.
Das KI-Sicherheitsinstitut (AISI), geleitet von Dr. Kate Conroy und Prof. Paul Salmon, begann unverzüglich mit der Erprobung von Spitzenmodellen in Zusammenarbeit mit technischen Partnern. Charlton erläuterte, dass die Regierung zwar Widerstand gegen ein umfassendes KI-Gesetz leistete, sich jedoch auf einen Ansatz konzentrierte, der bestehende Gesetze nutzte und einen ganzheitlichen Ansatz über alle Regierungsbehörden hinweg verfolgte.
Die Sicherheit der KI sollte durch jede relevante Behörde und jeden Regulierer gesucht werden, von Verbraucherrecht über Arbeitsschutz bis hin zur Online-Sicherheit. Charlton betonte, dass dies nicht weniger Regeln seien, sondern schnellere Regeln, die von Regulierern angewandt wurden, welche ihre jeweiligen Sektoren bereits verstanden. Er schloss mit der Aussage, dass die Menschheit Regeln und soziale Normen lernte, um sicher und verantwortungsvoll zu handeln, und dass man Vertrauen in die vorhersagbare und vertrauenswürdige Verhaltensweise der KI benötigte.