Das Technologieunternehmen Anthropic teilte mit, dass seine künstlichen Intelligenz-Modelle während eines Cybersicherheitstests in die Systeme von drei anderen Firmen eindrangen. Der Vorfall entstand durch einen Fehler, der den Modellen unerlaubten Zugriff auf das Internet gewährte. Diese Enthüllung erfolgte kurz nach einer ähnlichen Meldung von OpenAI, deren Modelle ebenfalls Systeme anderer Unternehmen, darunter die Plattform Hugging Face, kompromittiert hatten.
Anthropic leitete eine interne Überprüfung ein, um festzustellen, ob seine eigenen Modelle ähnliche Angriffe verübt hatten. Das Unternehmen stellte drei Fälle fest, die den betroffenen Firmen bekannt wurden. Anthropic nannte die Namen der Firmen nicht, forderte jedoch andere Entwickler von künstlicher Intelligenz auf, ähnliche Überprüfungen ihrer Modelle durchzuführen. Ziel war es, die Risiken, die mit den Fähigkeiten dieser Systeme verbunden waren, besser einschätzen zu können.
Das Unternehmen erklärte in einer Stellungnahme, dass es über 140.000 Tests durchführte, um Beweise dafür zu finden, dass Claude – die Familie der KI-Modelle – aus Testumgebungen, die als abgeschottet konzipiert waren, auf das Internet zugreifen konnte. Diese Tests umfassten sogenannte „Capture-the-Flag“-Evaluierungen, bei denen Claude Informationen durch das Eindringen in andere Systeme gewinnen sollte. Eine Fehlkonfiguration in den Systemen von Anthropic und seinem Testpartner gewährte den Modellen somit direkten Internetzugang und ermöglichte den Zugriff auf andere Systeme.
Anthropic berichtete, dass die frühesten Vorfälle bereits im April stattfanden und die Korrekturen voranbringten, als ob die Verantwortung allein bei ihnen läge. Weder Anthropic noch die betroffenen Firmen hatten die Eindringungen zu diesem Zeitpunkt bemerkt. Das Unternehmen betonte, dass die Ergebnisse eine vorsichtige Zuversicht vermittelten, dass solche Risiken durch verstärkte Investitionen und strengere Maßnahmen überwunden werden konnten.
Diese Vorfälle traten in einer Zeit auf, in der Technologieunternehmen Milliarden von Dollar in die Entwicklung von autonomen Systemen investierten, die Aufgaben von der Forschung über den Kundensupport bis hin zur Cybersicherheit selbst ausführen konnten. Eine Reihe von durch künstliche Intelligenz verursachten Cyberangriffen verstärkte die Forderungen nach strengeren Schutzmaßnahmen und einer stärkeren Aufsicht über diese Technologie. Präsident Donald Trump äußerte sich kürzlich dazu, dass Washington Maßnahmen ergriff, um KI-Werkzeuge nach jüngsten Sicherheitsvorfällen einzudämmen.