"Gefährlich": ChatGPT-Entwickler schmeißt plötzlich hin

Nach Ansicht des scheidenden OpenAI-Entwicklers Jan Leike stellt die KI-Firma «glänzende Produkte» über die Sicherheit.

Ein wichtiger Entwickler der ChatGPT-Firma OpenAI, hat gekündigt. Er kritisiert, das Unternehmen befinde sich nicht auf dem richtigen Weg.

ChatGPT und deren Entwicklerfirma sind derzeit in aller Munde. Erst kürzlich hat OpenAI seine neue künstliche Intelligenz (KI) GPT-4o vorgestellt. Während überall die Vorzüge und verblüffenden Features der KI besprochen werden, brodelt es wieder hinter den Kulissen. Der Grund dafür sind Sicherheitsbedenken.

So hat Jan Leike, ein wichtiger Sicherheitsentwickler bei der Firma, nur wenige Tage nach der Einführung des neuesten KI-Modells gekündigt. Leike kritisiert, dass OpenAI "glänzende neue Produkte" über die Sicherheit stelle. Diesbezügliche Meinungsverschiedenheiten haben nun offenbar zum Bruch Leikes mit OpenAI geführt, wie er auf X mitteilte.

Leike sorgte als Co-Leiter des Bereichs "Superalignment" dafür, dass leistungsstarke künstliche Intelligenzsysteme menschliche Werte und Ziele einhalten. Sein Abgang erfolgt vor einem globalen Gipfel für künstliche Intelligenz, der nächste Woche in Seoul stattfindet und auf dem Politiker, Experten und Tech-Führungskräfte über die Aufsicht über diese Technologie diskutieren werden.

Mit den Rücktritten von Jan Leike und Ilya Sutskever, dem Mitbegründer von OpenAI und Co-Leiter des Bereichs Superalignment, haben in dieser Woche zwei hochrangige Sicherheitsexperten das Unternehmen verlassen. Leike erläuterte die Gründe für sein Ausscheiden in einem am Freitag veröffentlichten Thread auf X, in dem er sagte, dass die Sicherheitskultur eine geringere Priorität erhalten habe.

"In den letzten Jahren sind Sicherheitskultur und -prozesse gegenüber glänzenden Produkten in den Hintergrund getreten", schrieb er. Leike gibt an, er sei schon seit einiger Zeit mit der Führung von OpenAI über die Prioritäten des Unternehmens uneins gewesen. Er sei der Überzeugung, dass OpenAI mehr Ressourcen in Themen wie Sicherheit, soziale Auswirkungen und Vertraulichkeit investieren sollte.

"Diese Probleme sind ziemlich schwer zu lösen, und ich bin besorgt, dass wir nicht auf dem richtigen Weg sind", schrieb Leike. Es werde für sein Team "immer schwieriger", seine Forschung durchzuführen.

"Die Entwicklung von Maschinen, die intelligenter sind als Menschen, ist ein gefährliches Projekt. OpenAI trägt eine enorme Verantwortung für die gesamte Menschheit", so Leike weiter. OpenAI müsse demnach ein Unternehmen werden, bei dem Sicherheit an erster Stelle steht.

Sam Altman, der Geschäftsführer von OpenAI, reagierte auf Leikes Beitrag mit einem Post auf X, in dem er seinem ehemaligen Kollegen für seinen Beitrag zur Sicherheitskultur des Unternehmens dankte. "Er hat recht, dass wir noch viel zu tun haben; wir sind entschlossen, es zu tun", schrieb er. Welche konkreten Schritte Altman und seine Firma unternehmen, bleibt derweil abzuwarten.

OTHER NEWS

58 minutes ago

Großbritannien: Militär will Zehntausende Reservisten mobilisieren

58 minutes ago

Fußball Transfer-Gerüchte heute: BVB vor Transfer-Doppelschlag von zwei DFB-Stars

58 minutes ago

FC Bayern holt wohl Premier-League-Star – und Boris Becker wird dafür gefeiert

1 hour ago

Wer überträgt Schweiz gegen Deutschland live im TV & Stream in Österreich?

1 hour ago

Unwetter in der Schweiz fordern Todesopfer

1 hour ago

Lebensmittelwarnung: Diese Produkte sind bei Hitze ein Gesundheitsrisiko

1 hour ago

Reiche tauchen immer wieder zum Wrack der Titanic – dabei ist es "überbewertet", sagen Tiefseeforscher

1 hour ago

Die Ernährung, mit der man viszerales Fett effektiv reduzieren kann

1 hour ago

Toni Kroos mit deutlicher Ansage an Musiala und Wirtz: „Kann das Ende bedeuten“

1 hour ago

Machtkampf im Sicherheitsapparat: Bericht: Putin schasst Geheimdienstgeneral

1 hour ago

König Charles III.: Diese Zahlen sind unglaublich

1 hour ago

Rad-DM: Youngster Brenner fährt ins Meistertrikot

1 hour ago

Legendäre Hollywood-Hits machten Verluste? Das steckt dahinter

2 hrs ago

„Man findet eine Menge Zeug“ - Leonardo (30) sammelt Müll und verdient damit 61.000 Euro

2 hrs ago

Wer überträgt Schweiz gegen Deutschland live im TV & Stream?

2 hrs ago

ÖVP-Stocker stichelt jetzt gegen SPÖ

2 hrs ago

Albaniens EM-Stürmer Daku für zwei Bewerbspiele gesperrt

2 hrs ago

Nach Megafon-Vorfall: Nur noch ein Wunder kann seine EM retten: Uefa zieht Nationalstürmer aus dem Verkehr

2 hrs ago

Abi-Feier abgesagt: Unterstützung von Kollegen und Senatorin

2 hrs ago

De Bruyne bleibt das Um und Auf in Belgiens Team

2 hrs ago

Zeckennest im Garten gefunden? Das musst du jetzt tun

2 hrs ago

„Islamische Partei Österreichs“ in Wiener Neustadt gegründet

2 hrs ago

Marc Surer: "Briatore verdankt Michael Schumacher sehr viel"

2 hrs ago

Labrador verhält sich komisch im Garten: Frauchen geht der Sache auf den Grund

2 hrs ago

Gericht entscheidet Sponsorenstreit zwischen Haas und Uralkali

2 hrs ago

Helene Fischer: Fan sicher: „Man merkt’s einfach“

2 hrs ago

Unwetterschäden an Schweizer Autobahn: „Gotthard-Kollaps“ und Mega-Stau auf Alpenroute vorprogrammiert

2 hrs ago

BVB gerät unter Druck: Ryerson mit mehreren Anfragen

2 hrs ago

Spielabbruch in der Aufstiegsrunde

2 hrs ago

Auf dem Weg von Heathrow nach San Francisco - Boeing Dreamliner muss wegen Fensterriss in 12.000 Metern Höhe notlanden

2 hrs ago

Andreas-Gabalier-Konzert im Olympiastadion München: „Hulapalu“, Party-Stimmung im Regen und Baywatch-Auftritt

2 hrs ago

Sander mit klarer Ansage: Neu-Gladbacher meldet Ansprüche an: „Geht mir gegen den Strich“

2 hrs ago

Heizgesetz, Kommunikation, Diskussionen - „Eines macht mir besonders Sorgen“: Grüne sagt, was ihr Angst einjagt

2 hrs ago

Erneute Verletzungssorgen um Kingsley Coman

2 hrs ago

Fußball-EM, Gruppe B - Kroatien gegen Italien im Liveticker

2 hrs ago

EM 2024: Portugal ist zu gut für die Türken und zieht ins Achtelfinale ein

2 hrs ago

Julian Nagelsmann: „Das wäre das Respektloseste“

2 hrs ago

Milliardär Klaus-Michael Kühne kauft Grundstücke neben seiner Luxusimmobilie auf Mallorca, damit er seine Ruhe hat

2 hrs ago

Dosko-Ansage an Babler: "Dann würde ich zurücktreten"

2 hrs ago

McDonald’s macht Schluss – Kunden aus dem Häuschen