Die Allianz zwischen dem Unternehmen Anthropic und dem Vatikan zur Bewältigung der Risiken der künstlichen Intelligenz zog erhebliche Aufmerksamkeit auf sich. Papst Leo XIV thematisierte in seiner ersten großen schriftlichen Lehre die gravierendsten Bedrohungen, die die Technologie für die Menschheit darstellte: den Ersatz von Arbeitskräften, die Beschleunigung von Kriegen und die Ausbeutung der Umwelt. Bei einer Zeremonie zur Ehrung dieser Lehre im Vatikan war Anthropic-Mitbegründer Chris Olah als ungewöhnlicher Gastredner anwesend. Diese Präsenz stellte eine zentrale Frage: Wie konnten die katholische Kirche und das weltweit wertvollste KI-Startup zusammenarbeiten, wenn die Technologie von Anthropic die Zukunft darstellte, die Papst Leo warnte?
Die Enzyklika des Papstes behandelte ausführlich den Schutz der Würde menschlicher Arbeit angesichts der Bedrohung durch die KI. Kritiker bemängelten jedoch, dass große KI-Unternehmen wie Anthropic diese Bedenken nicht ausreichend priorisierten. Pete Furlong, leitender Manager für Politik und Forschung beim Center for Humane Technology, argumentierte, dass diese Firmen Technologien entwickelten, die darauf abzielten, Menschen zu ersetzen. Er betonte, dass dies im Widerspruch zu den Worten des Papstes stand: „Man kann keine Würde in einer Welt haben, in der man Technologie entwickelt, um Menschen zu ersetzen.“
Anthropic selbst stellte seine eigenen Labormarktanalysen vor, welche die Anfälligkeit bestimmter Berufe wie Programmierer und Dateneingabearbeiter gegenüber der Automatisierung durch die KI aufzeigten. Eine Umfrage des Forschungszentrums Epoch AI zeigte, dass zwanzig Prozent der Vollzeitbeschäftigten in den Vereinigten Staaten angaben, dass die KI Teile ihrer Arbeit übernommen hatte. Dario Amodei, CEO von Anthropic, warnte zudem vor einem apokalyptischen Verlust von Arbeitsplätzen im Bereich der weißen Kragenberufe in den kommenden Jahren.
Einige KI-Sicherheitsbefürworter sahen die Allianz als oberflächlich an. Timnit Gebru, Gründer des Distributed Artificial Intelligence Research Institute, bezeichnete die Zusammenarbeit als eine Form des „Vatican-Washing“ und forderte, dass die Kirche stattdessen mit den betroffenen Datenarbeitern und den Opfern der Umweltkatastrophen zusammenarbeiten sollte. Paolo Carozza, Professor für Rechtswissenschaften, äußerte die Befürchtung, dass die Beteiligung von Anthropic an den Vatikan eine oberflächliche „Gefühl-Diskurs“ ohne kritische Selbstprüfung hervorrief. Er sah in der Allianz eine Möglichkeit, durch die Verbindung mit einer pro-Sicherheits-Marke die eigene Position zu stärken.
Trotz dieser Skepsis betonte Carozza die Notwendigkeit des Dialogs zwischen allen Akteuren. Furlong stimmte zu, dass die Aussage des Papstes im Konflikt mit den Aussagen von Anthropic stand, was er als ein positives Zeichen interpretierte. Er empfahl jedoch, Anthropics Bemühungen zunächst ernst zu nehmen, während man vorsichtig hinsichtlich zukünftiger politischer Haltungen sein musste, die durch zunehmenden finanziellen Druck entstehen könnten. Olah räumte ein, dass jede KI-Forschung „innerhalb eines Satzes von Anreizen und Einschränkungen operierte, die manchmal mit dem richtigen Handeln kollidieren können“.
Parallel zu diesen ethischen Debatten existierten andere Konfliktlinien. Das Vatikan und Anthropic einigten sich auf rote Linien bezüglich des Einsatzes von KI in Kriegsführung. Papst Leo forderte strenge ethische Grenzen, um die „Heiligkeit des Lebens“ zu schützen und einen Wettrüsten bei der Entwicklung solcher Waffen zu verhindern. Dies stand im Kontrast zu früheren Auseinandersetzungen, beispielsweise als Amodei den Einsatz von KI-Modellen in autonomen Waffensystemen ablehnte, was zu einem Konflikt mit der US-Regierung führte. Anthropic positionierte seine Marke als Befürworter der KI-Sicherheit im Gegensatz zu seinem Konkurrenten OpenAI und investierte zudem signifikant in die Regulierung von KI in Washington.
Ein weiterer Punkt betraf die ökologische Bilanz der KI-Industrie. In der Enzyklika kritisierte Leo die enormen Energie- und Wasseranforderungen der aktuellen KI-Systeme und forderte nachhaltigere Lösungen. Die Rechenzentren, die die Grundlage für Anthropic bilden, verursachten erhebliche Umweltbelastungen. Obwohl das Unternehmen Milliarden in die KI-Infrastruktur investierte, versprach es auch, die Verbraucher vor den steigenden Strompreisen zu schützen und Systeme zu entwickeln, die den Energieverbrauch während Spitzenzeiten reduzierten. Die Ambitionen des Startups standen somit im Spannungsfeld zwischen dem Streben nach technologischer Macht und den Forderungen nach ökologischer Verantwortung.