Anthropic blockierte den möglichen Versuch, künstliche Intelligenz zur Herstellung biologischer Waffen einzusetzen. Das Unternehmen teilte mit, dass es Versuche identifiziert und gestoppt hatte, deren Nutzung für „schädliche Aktivitäten“ dienen konnten. Diese Erkenntnisse, die in einem aktuellen Bedrohungsbericht des Unternehmens dargelegt wurden, bildeten die jüngste Ergänzung zu einer wachsenden Reihe von Warnungen von KI-Forschern und Brancheninsidern bezüglich der Risiken dieser Technologie für die Menschheit.
Der Bericht enthüllte, dass das KI-Modell Claude von Akteuren genutzt worden war, die mit einer russischen Cyber-Spionagekampagne in Verbindung standen, sowie von einer iranischen Propagandainstitution. Die untersuchten Fälle erstreckten sich über acht Monate und umfassten von betrügerischen Dating-Apps und Hotel-WLAN-Scams bis hin zu Überwachungssystemen, die zur Identifizierung von Dissidenten dienten. Anthropic machte zudem Vorwürfe gegen chinesische KI-Firmen, die versuchten, die Fähigkeiten von Claude zu replizieren.
Der Bericht listete fünf Fallstudien auf, in denen Akteure die Modelle zur Entwicklung von Mitteln nutzten, die die Entwicklung biologischer Waffen unterstützen konnten. Das Unternehmen betonte, dass der missbräuchliche Einsatz seiner Modelle Haiku, Sonnet und Opus zwischen Dezember 2025 und August 2026 unterbunden wurde. Es wurde festgestellt, dass keine der Fälle den leistungsstarken Mythos-Klassen-Modelle betrafen, mit Ausnahme einer Distillationsmethode, bei der kleinere Modelle aus größeren, teureren Modellen trainiert wurden.
Anthropic erklärte, dass der missbräuchliche Einsatz von KI-Modellen „eine der ernsthaftesten Risiken der Spitzen-KI-Modelle“ darstellte. Ohne adäquate Schutzmaßnahmen hätten solche Fähigkeiten „katastrophale Konsequenzen“ nach sich ziehen können. Das Unternehmen betonte zudem die Nuance der Situation: Informationen, die zur Entwicklung einer biologischen Waffe genutzt werden könnten, dienten ebenso zur Erstellung von Impfstoffen oder Heilmitteln für Krankheiten.
Der Bericht hob sechs weitere Fälle hervor, in denen Claude zur Entwicklung von Software für konventionelle Waffen eingesetzt wurde. Dazu gehörten Feuerwaffen, Raketen, bewaffnete Drohnen und andere Munition sowie die Ziel- und Steuerungssysteme, die diese Waffen bedienten. Cyberkriminelle und staatlich unterstützte Hacker, darunter die Gruppe ShinyHunters und chinesische Labore, nutzten die Technologie zunehmend zur Unterstützung ihrer Operationen. Das Unternehmen integrierte diese Erkenntnisse in seine Prozesse, um zukünftige Aktivitäten besser verhindern, erkennen und unterbinden zu können.
Parallel dazu warnte ein führender Sicherheitsforscher bei Anthropic davor, dass die rasante Weiterentwicklung der künstlichen Intelligenz eine Chance von über zehn Prozent barg, alle Menschen innerhalb des nächsten Jahrzehnts zu vernichten. Diese Warnung führte zu Forderungen nach einer Verlangsamung der Entwicklung und einem Verbot der Superintelligenz. Politiker forderten eine Pause bei der Entwicklung fortschrittlicher KI, während andere die Notwendigkeit eines neuen multinationalen Vertrags für die sichere Entwicklung der KI betonten.