Eine Reihe von Warnungen von führenden Köpfen der Künstlichen Intelligenz betonte existenzielle Bedrohungen. Auf dem ersten Weltgipfel zur KI-Sicherheit in Bletchley Park im November 2023 konzentrierte man sich auf die ernsthaftesten Gefahren, die durch die leistungsstärksten KI-Modelle entstehen konnten. Damals erschien viele dieser Risiken als reine Science-Fiction; die tatsächlichen Bedrohungen waren vergleichsweise alltäglich: Arbeitsplatzverluste und Betrug in Prüfungen. Drei Jahre später zeigten viele dieser Stimmen keine so große Gewissheit mehr.
Der Leiter der KI-Firma Anthropic, Dario Amodei, forderte eine Verlangsamung der Entwicklungsgeschwindigkeit. Auch die Führungskräfte zweier konkurrierender KI-Firmen, Sam Altman von OpenAI und Elon Musk, stimmten ihm zu. Gleichzeitig äußerte der KI-Forscher Jacob Coxon, der Anthropic verließ, vor der BBC, dass die Entwickler der Systeme „wirkliche Angst“ vor der Zukunft der Menschheit empfanden.
Diese Stimmen bildeten einen Chor ernster Befürchtungen, die eine Verlangsamung forderten. Eine solche Maßnahme erschien zwar als schnelle Lösung, doch sie stellte sich als weit entfernt von einer einfachen Antwort heraus. Die Vereinigten Staaten fürchteten weit verbreitet, den Wettlauf um die Entwicklung der leistungsfähigsten KI vor China zu verlieren. Präsident Trump erklärte seine Position klar und behauptete, die USA seien im KI-Wettlauf vor China. Es bestand jedoch die Erkenntnis, dass niemand den ersten Platz in diesem Rennen wünschte.
Eine zentrale Frage blieb die Durchsetzung einer Verlangsamung. Wer sollte diese Maßnahmen überwachen? Sollte man auf die Transparenz der KI-Unternehmen vertrauen, um zu erfahren, was sie taten und was sie unterließen? Dies erforderte ein hohes Maß an Vertrauen, das der Technologiesektor nach Ansicht vieler nicht verdient hatte. Ed Zitron, CEO von EZ Primary Research, betonte die Unklarheit der Maßnahmen: „Niemand gab eine substanzielle Erklärung, was eine ‚Verlangsamung‘ bedeutet.“
Zitron äußerte Bedenken hinsichtlich der praktischen Umsetzung. Er fragte, wie eine globale Koordination funktionieren sollte. Er befürchtete, dass das Stoppen des Trainings von KI-Modellen die Unternehmen anfällig für chinesische Konkurrenten machte. Diese Konkurrenten könnten zwar bessere Margen erzielen, doch ihre Produkte würden von chinesischen Laboren gefangen gehalten und veredelt. Dies könne die aktuelle Blase zum Platzen bringen, da die Definition einer Verlangsamung noch unklar blieb.
Die Industrie verbrauchte enorme Mengen an Kapital und Ressourcen, ohne entsprechend hohe Einnahmen zu generieren. Es spekulierte, dass auch die aktuellen Giganten nicht alle überleben würden und eine Art „Abflachung“ bevorstehe. Die Entscheidung von OpenAI, ihren Weg zum Aktienmarkt zu stoppen, konnte als Epiphanie zur Verantwortung für die öffentliche Sicherheit interpretiert werden. Dennoch bestand die Sorge, dass die unvorhersehbare Entwicklung dieser Technologie eine Regulierung, die jetzt eingeführt wurde, möglicherweise kontraproduktiv wirken könnte.
Die eigentliche Sorge lag jedoch nicht in den existenziellen Risiken der KI, sondern in der Unternehmensgier jener Firmen, die sie schufen. Professorin Wendy Hall, die das UN über KI beraten hatte, verglich die aktuelle Krise mit einem Bauern, der einen entkommenen Bullen in seinem Feld verursachte. Sie betonte, dass das Problem nicht beim Tier lag, sondern beim Bauern: „Es war nicht der Fehler des Bullen – es war der Bauer.“ Die aktuellen Schutzmechanismen seien nicht robust genug gewesen. Sollten diese Grenzen jedoch zu restriktiv werden, drohte dies, die gesamte Entwicklung der KI zu beenden.