Jeden September versammelten sich Führungskräfte aus dem Technologiezentrum von Kalifornien, um bei Konferenzen von Investmentbanken wie Goldman Sachs Investoren zu beeindrucken. In der vergangenen Woche standen Wachstumsaussichten und potenzielle Erträge im Vordergrund, als die Absetzung des Forschers von Anthropic, Jacob Coxon, thematisiert wurde. Coxon, ein junger Wissenschaftler, äußerte die Befürchtung, dass die Entwickler künstlicher Intelligenz die Menschheit gefährdeten. Er erklärte, Menschen spielten mit ihrem Leben, da zukünftige Systeme übermenschlich würden und jede Technologie hacken könnten. Mehrere Mitarbeiter von Anthropic bekräftigten diese Sorge, wobei ein Teamleiter die Möglichkeit äußerte, dass die künstliche Intelligenz innerhalb des nächsten Jahrzehnts über zehn Prozent der menschlichen Bevölkerung eliminieren könnte.
Obwohl Coxon seine Warnungen explizit als nicht-marketingtechnisch bezeichnete, reagierten einige Führungskräfte und Investoren in Kalifornien skeptisch auf die Reihe von Insidern, die die Gefahr von der künstlichen Intelligenz thematisierten. Es gab Spekulationen, dass die jüngsten, drastischen Äußerungen über die Gefahren der KI darauf abzielten, Aufsehen zu erregen und die Macht dieser Produkte zu signalisieren. Dario Amodei, der Leiter von Anthropic, geriet in der Kritik, als er äußerte, dass die KI die Hälfte der Einstiegspositionen im weißen Kragenbereich vernichten und „prüfen würde, wer wir als Spezies seien“. Ein Konferenzredner bezeichnete diese Äußerungen als einen „anti-zivilisatorischen Weltanschauung“ bei Anthropic und empfand sie als gefährlich. Er argumentierte, dass es verantwortungslos sei, auf ein Unternehmen zu setzen, dessen öffentliche Äußerungen dazu dienten, Investoren zu unterstützen, indem sie die Bewertungen rechtfertigten.
Die Debatte um die existenzielle Bedrohung durch die KI spiegelte sich auch in der Reaktion von Experten wider. Jensen Huang, der Leiter von Nvidia, wies Coxons Äußerungen als unbegründet ab und erklärte, die Vorstellung, dass die KI das Ende der Menschheit bringen würde, sei „völliger Unsinn“. Kritiker warfen Anthropic vor Panikmache an, in der Hoffnung, eine regulatorische Maßnahme auszulösen, welche die Konkurrenz ausschließen und Anthropic sowie OpenAI zu einem Monopol in diesem Sektor zwingen sollte. Clement Delangue, der Chef der Plattform Hugging Face, äußerte sich zurückhaltend und verglich die Nachfrage nach Risiken mit der Frage nach dem Klimawandel. Er forderte eine Perspektive, um die Diskussionen in den Kontext zu stellen.
Parallel dazu intensivierte sich die politische Diskussion über eine staatliche Regulierung. Anthropic kündigte an, Bedrohungsakteure, die ihre Technologie für die Entwicklung von Biowaffen und Cyber-Spionage nutzten, entdeckt und gestoppt zu haben. Dies verstärkte die Argumente für eine staatliche Intervention. Ein Gesetzentwurf, der von Senator Bernie Sanders unterstützt wurde, zielte darauf ab, die Entwicklung fortschrittlicher KI vorübergehend auszusetzen. Es bestand die Chance, dass menschliche Wesen die Kontrolle über die KI verloren, und die Konsequenzen blieben unbekannt. Während die Trump-Administration eine ungehinderte KI-Entwicklung befürwortete, zeigte sich eine erhebliche Spannung in der Beziehung zwischen der Regierung und Anthropic, insbesondere nach dem Verbot der Nutzung ihrer KI-Modelle durch die US-Militär. Die Suche nach Reichtum auf der Konferenz übertraf die existenziellen Bedenken und die Angst vor staatlichen Beschränkungen.