Anthropic stoppte ihre leistungsstarken neuen künstlichen Intelligenz-Modelle, nachdem US-Behörden kurz nach der öffentlichen Veröffentlichung Sicherheitsbedenken äußerten. Das Unternehmen gab in einer Erklärung bekannt, dass es angewiesen wurde, die Nutzung von Claude Fable 5 und Mythos 5 sofort einzustellen, da diese Programme als „zu mächtig“ eingestuft wurden. Diese Maßnahme zielte darauf ab, die Einhaltung der Sicherheitsbestimmungen zu gewährleisten und die potenziellen Risiken zu minimieren.
Das Unternehmen erklärte, dass die Nettoauswirkung dieser Anordnung die sofortige Deaktivierung beider Modelle für alle Kunden erforderte. Anthropic teilte mit, dass die US-nationalen Sicherheitsbehörden zwar keine spezifischen Bedenken identifiziert hatten, aber davon ausgingen, dass die Regierung Kenntnis von einer Methode erlangt hatte, um Fable 5 zu umgehen oder zu manipulieren. Diese Technik, bekannt als „Aushebelung“, ermöglichte es Angreifern, Schutzmechanismen zu umgehen und auf sensible Informationen zuzugreifen.
Anthropic betonte, dass sie eine Demonstration dieser spezifischen Technik überprüft hatten und feststellten, dass die identifizierten Schwachstellen relativ einfach waren und auch andere öffentlich verfügbare Modelle diese ohne Umgehung entdecken konnten. Vor der Veröffentlichung von Claude Fable 5 hatte das Unternehmen verschiedene Schutzmaßnahmen implementiert, doch die Intelligenz des Modells führte zu der Einschätzung, dass es gefährlich war, bevor es veröffentlicht wurde. Kritiker stellten die Behauptung des Unternehmens in Frage, dass die Fähigkeiten von Fable die von allen zuvor veröffentlichten Modellen übertrafen.
Experten äußerten Bedenken hinsichtlich der Auswirkungen dieser Beschränkungen. Professorin Gina Neff, Expertin für verantwortungsvolle künstliche Intelligenz an der Queen Mary University London, warnte, dass die Einschränkung des Zugangs die Entwicklung und das sichere Testen dieser KI-Systeme limitieren könnte. Sie betonte, dass die Entwicklungen in diesem Bereich in unbekanntes Terrain vordringen und dass die Industrie darauf angewiesen sei, Fähigkeiten aufzubauen, um Unternehmen vor Cyberangriffen zu schützen.
Die Sicherheitsbedenken führten auch zu politischen Spannungen. Donald Trump kritisierte das Unternehmen öffentlich, und der Verteidigungsminister der Vereinigten Staaten bezeichnete Anthropic als „Risiko in der Lieferkette“. Diese Bezeichnung bedeutete, dass ein Dienst oder ein Werkzeug für den staatlichen Gebrauch nicht ausreichend sicher war und historisch für Unternehmen aus feindlichen Ländern reserviert blieb. Anthropic klagte gegen das Pentagon, doch ein Richter entschied, dass die Anweisung des Verteidigungsministeriums nicht durchgesetzt werden konnte, wodurch staatliche Stellen und Organisationen, die mit dem US-Militär zusammenarbeiteten, weiterhin auf Anthropic zugreifen konnten.