FaktenBlitz
RSS
Zurück zur Übersicht
Technologie

OpenAI-Chef forderte Vertrauen in die KI-Entwicklung, warnte vor Gefahr

Experten diskutierten die Notwendigkeit der Selbstregulierung angesichts rascher technischer Fortschritte

Der Chef von OpenAI, Sam Altman, erklärte, die Welt solle dem Unternehmen und ähnlichen Firmen mehr Vertrauen schenken, um die richtige Vorgehensweise bei der Entwicklung der künstlichen Intelligenz zu treffen. Er betonte, dass die Entwicklung der Technologie eine gewisse Tragweite besaß, weshalb die Menschen Angst vor den Risiken haben sollten. Altman räumte ein, dass die Fähigkeiten der Werkzeuge rasant vorangeschritten waren und die Ängste der Öffentlichkeit gerechtfertigt seien.

Allerdings merkte Altman an, dass die Vorstellung, wie die Technologie schiefgehen könnte, nicht mehr so viel Vorstellungskraft erforderte wie früher. Er äußerte die Ansicht, dass die Welt Recht habe, Angst vor dieser Entwicklung zu haben. Diese Äußerungen erfolgten im Rahmen einer Konferenz in San Francisco und standen im Kontrast zu früheren Warnungen innerhalb der Branche.

In der Folge äußerten andere Führungskräfte ihre Bedenken hinsichtlich der Sicherheit. Mark Zuckerberg schrieb daraufhin, dass jede Firma, die sich auf die Sicherheit konzentrierte, die Möglichkeit und den Anreiz besaß, eigene Maßnahmen zu ergreifen. Er argumentierte, dass Forschungseinrichtungen, die sich nicht auf die Übereinstimmung der Systeme konzentrierten, ins Hintertreffen gerieten. Zudem betonte Jensen Huang, der Chef von Nvidia, dass neue Versionen der Technologie von den Firmen selbst entschieden werden sollten, ohne dass externe Kräfte dies lenkten. Er sah Sicherheit als ein Ingenieurproblem und forderte eine Pause, falls das Vertrauen in ein Produkt verloren ging.

Die jüngsten Behauptungen aus der Branche verstärkten die Überprüfung der KI-Entwicklung. Dario Amodei, der Chef von Anthropic, forderte die Verlangsamung der Entwicklung und rief Regierungen auf, die Industrie zu regulieren. Diese Forderung fand Zustimmung bei Altman, dem Mitbegründer von Google DeepMind, und Elon Musk. Dennoch äußerten einige politische Akteure Skepsis. Bernie Sanders kritisierte, dass Entscheidungen über die KI in den Händen weniger reicher Menschen lagen, während Steve Bannon darauf hinwies, dass die Öffentlichkeit den Technologie-Oligarchen nicht vertrauen könne.

Einige Branchenvertreter äußerten zudem die Meinung, dass die Ängste vor der KI übertrieben seien und lediglich dazu dienten, für die Branche Hype zu erzeugen. Jack Clark, ein Führungskraft von Anthropic, warnte davor, die KI in eine völlig unregulierte Industrie zu überlassen, da dies mit immensen Risiken verbunden sei. Amodei erklärte, dass die größte Überraschung bei dem KI-Boom nicht die technologische Weiterentwicklung selbst, sondern die weitreichenden Auswirkungen der Technologie gewesen sei. Er betonte, dass die Firmen eine gemeinsame Vereinbarung zur Sicherheit und zu Kontrollen der Werkzeuge treffen sollten.

KIOpenAIRegulierungSicherheit

Teilen

𝕏 Twitter WhatsApp