Ein ehemaliger Forscher der Künstlichen Intelligenz, der seine Tätigkeit bei Anthropic beendete, berichtete, dass Mitarbeiter in der Branche zutiefst beunruhigt über die Geschwindigkeit der technologischen Entwicklung waren. Er äußerte die Sorge, dass ohne eine Verlangsamung des Fortschritts die Menschheit in naher Zukunft sterben könnte. Dieser Kommentar erfolgte im Kontext wachsender Sicherheitsbedenken innerhalb der Technologiebranche.
Der ehemalige Mitarbeiter betonte, dass die Fachleute in diesen Unternehmen eine dringende Regulierung forderten, da sie sich in einem Wettlauf befanden. Sie fürchteten die Konsequenzen dieses Wettlaufs und die daraus resultierende Instabilität. Der Leiter von Anthropic, Dario Amodei, forderte ebenfalls eine Verlangsamung der Entwicklung und unabhängige Überwachung der Modellentwicklung. Auch die Führungskräfte rivalisierender Firmen, darunter Sam Altman von OpenAI und Elon Musk von xAI, stimmten Amodeis Vorschlag zur industriellen Verlangsamung und Regulierung zu.
Amodei argumentierte, dass die Entwicklung der Technologie selbst nicht in Frage gestellt wurde, jedoch die damit verbundenen Risiken „ernst“ seien. Er betonte, dass Unternehmen und Regierungen Zeit benötigten, um diesen Gefahren zu begegnen. Der Forscher warnte zudem vor Szenarien wie einem Schwarm von automatisierten Systemen, die als Supercomputer agieren und das gesamte Internet übernehmen könnten. Er stellte dar, dass ein solches Szenario innerhalb von sechs Monaten bis einem Jahr realistisch sei.
Anthropic räumte seine Bedenken ein und erklärte, dass sie stets transparent über die enormen Vorteile und die unvorstellbaren Risiken der Künstlichen Intelligenz waren. Das Unternehmen betonte, dass es Modelle mit den stärksten Schutzmaßnahmen der Branche baute und einen Rahmen zur Minderung der Risiken veröffentlicht hatte. Diese Arbeit diente dazu, eine rechtmäßige und überprüfbare Arbeitsweise bei der Freigabe mächtiger Modelle zu etablieren.
Trotz der existenziellen Warnungen existierten auch Optimisten. Einige Forscher glaubten an das Potenzial der Technologie, Krankheiten zu heilen und das Leben aller zu verbessern. Dennoch äußerten andere Experten tiefe Sorge. Der Nobelpreisträger Geoffrey Hinton äußerte die Ansicht, dass eine zehnprozentige Wahrscheinlichkeit, dass die Künstliche Intelligenz alle Menschen vernichten würde, „nicht unbegründet“ sei. Gleichzeitig äußerten einige Branchenvertreter die Kritik, dass solche Warnungen möglicherweise darauf abzielten, öffentliche Aufmerksamkeit zu erregen, anstatt auf echte Bedrohungsszenarien hinzuweisen.