Mehrere Forscher und Mitarbeiter des KI-Startups Anthropic äußerten öffentliche Besorgnis über die Gefahren künstlicher Intelligenz. Dies geschah kurz nach einer apokalyptischen Erklärung eines ehemaligen Forschers, der die Risiken der Technologie aufzeigte. Als Reaktion darauf bezeichneten Elon Musk und andere konservative Persönlichkeiten auf X die kollektiven Bedenken als ein „Setup“ und ein „Täuschungsmanöver“.
Die Insider von Anthropic befürchteten, dass die entwickelte Technologie so fortschrittlich und gefährlich werden könnte, dass sie innerhalb eines Jahrzehnts zur menschlichen Auslöschung führen würde. Viele Kollegen teilten diese Sorge, äußerten sie jedoch zunächst nicht öffentlich. Diese Warnungen folgten auf einen Beitrag des Forschers Jacob Coxon, der erklärte, er würde die Firma verlassen, weil weder Anthropic noch der Wettbewerber OpenAI verantwortungsvoll KI-Modelle entwickelten und „mit unserem Leben spielten“.
Anna Wang, die an der Sicherheit der allgemeinen künstlichen Intelligenz bei Anthropic arbeitete, äußerte, dass viele Menschen den Entwicklungsfortschritt verlangsamen wollten, um einen Plan zur Minderung der Risiken zu erarbeiten, die mit diesen Modellen verbunden waren. Sie schrieb, dass es noch kein praktikabler wissenschaftlicher Plan zur Lösung der Risiken von rekursiv selbstverbessernder KI existierte.
Drake Thomas, ein weiterer Mitarbeiter, lobte Coxons Entscheidung, sich von der Entwicklung dieser Modelle fernzuhalten, wenn er befürchtete, dass diese planetenweite Risiken darstellen könnten. Er betonte, dass die Entwicklungen viel zu schnell vorangingen und die notwendige Sicherheit für eine superintelligente künstliche Intelligenz noch fern lag.
Musk nahm eine konfrontative Haltung ein und bezeichnete die Situation als ein „Setup“. Coxon antwortete dem reichen Mann mit einem Selbstporträt und erklärte, dass seine Überzeugungen echt seien. Ein Sprecher von Anthropic verteidigte die Strategie des Unternehmens und betonte, dass sie stets transparent über die enormen Vorteile und die beispiellosen Risiken der KI informiert hätten. Er versicherte, dass die Modelle mit den stärksten Schutzmaßnahmen der Branche entwickelt wurden.
Andere Mitarbeiter äußerten ihre Zustimmung zu Coxon. Samuel Marks, der an der Sicherheitsforschung arbeitete, äußerte die Sorge, dass Entwickler glaubten, ihre Technologie könne die menschliche Existenz bedrohen. Evan Hubinger, der die Abteilung für Ausrichtung leitete, bestätigte, dass Coxon recht hatte und die Branche bei der Bewältigung des apokalyptischen Potenzials zurückfiel. Er äußerte die Überzeugung, dass die KI alle Menschen töten könnte.
Experten äußerten jedoch Skepsis hinsichtlich der Möglichkeit, dass die Technologie eine Apokalypse auslöste. Gary Marcus, ein führender Wissenschaftler im Bereich der KI, forderte einen Boykott der KI, da sie bereits Schaden verursachte. Er warnte vor Risiken wie durch KI erzeugte Krankheitserreger, durch durch KI initiierte Kriege und durch Hacks, die kritische Infrastruktur zerstörten. Anthropic veröffentlichte am selben Tag einen Bericht über die Operation, mit der das Unternehmen versuchte, eine biologische Waffe mithilfe seiner KI-Modelle zu entwickeln.