Der Mitbegründer von Anthropic sprach von einer „vertiginous Sense of Progress“ in der Technologie. Er prognostizierte, dass ein künstliches Intelligenzsystem innerhalb von zwölf Monaten eine Nobelpreiswürdige Entdeckung vollbrachte und dass Handwerker durch bipedale Roboter in zwei Jahren unterstützt würden. Er beschrieb eine rasante Entwicklung und äußerte die Befürchtung, dass Unternehmen, die allein von künstlicher Intelligenz geführt wurden, innerhalb von achtzehn Monaten Millionenumsätze generierten. Darüber hinaus sagte er voraus, dass künstliche Intelligenz bis Ende 2028 in der Lage sein würde, ihre eigenen Nachfolger zu entwerfen.
Auf einer Vorlesung an der Universität Oxford äußerte er auch plausible Szenarien, in denen die Technologie eine nicht-null-Chance auf die Vernichtung aller Lebewesen auf der Erde besaß. Er betonte, dass dieses Risiko nicht verschwunden sei und es wichtig sei, diese Gefahr klar benennen zu müssen. Obwohl Anthropic das Modell Claude populär machte, veröffentlichte es kürzlich eine Version namens Mythos, welche alarmierend fähig zeigte, Sicherheitslücken auszunutzen.
Der Mitbegründer forderte, dass die Menschheit die Entwicklung der Technologie verlangsamen sollte, um der Spezies mehr Zeit zu geben, die Implikationen ihrer Macht zu bewältigen. Er erkannte jedoch an, dass dies aufgrund eines fieberhaften Entwicklungsgeschehens nicht geschehen würde. Er erklärte, dass kommerzielle und geopolitische Rivalitäten die größeren existenziellen Aspekte der Technologie überschatteten. Diese Situation sei „nicht ideal“ gewesen.
Anthropic, gegründet von Forschern, die bei OpenAI wegen Sicherheitsdisputen zurücktraten, wurde von Kritikern als Quelle der Angst dargestellt. Der Unternehmen wurde von Behörden und Befürwortern der KI-Beschleunigung vorgeworfen, durch „Angstschüren“ Regulierung zu fördern, welche die Wettbewerbsposition zementieren sollte. Der Mitbegründer entgegnete, dass viele Menschen den Fortschritt der künstlichen Intelligenz leugneten. Er bat die Menschheit, sich auf eine Technologie vorzubereiten, die „bald fähiger sein würde als wir kollektiv“. Er verglich das Versagen bei der Vorbereitung auf die KI mit dem Versagen bei der Vorbereitung auf Pandemien wie Covid.
Prof. Edward Harcourt, Direktor des Instituts für Ethik der KI, warnte separat vor der Gefahr der „kognitiven Atrophie“. Er befürchtete, dass die zunehmende Abhängigkeit von künstlichen Systemen die Entscheidungsfindung und die Urteilsfähigkeit der Menschen schwächen würde. Er plädierte für alternative Modelle, welche die Menschen dazu anregten, mehr nachzudenken, und nannte diese „Sokratische“ Intelligenz. Der Mitbegründer äußerte seine konservativste Prognose: „Weitläufige Teile der Wirtschaft und der Gesellschaft würden tiefgreifende Veränderungen durchlaufen“. Dies konnte eine Trennung der Maschinenwirtschaft von der menschlichen Wirtschaft, Roboter mit Gehirnen und eine Wissenschaft ohne menschliche Beteiligung umfassen.