ChatGPT: Microsoft und OpenAI erwischen staatliche Hacker bei der Nutzung von KI

Sie fragen ChatGPT nach ausländischen Geheimdiensten aus, verfassen Phishingmails oder erforschen Satellitentechnik: OpenAI hat daher Accounts von Hackergruppen aus China, Russland, Nordkorea und Iran entfernt.

ChatGPT: Microsoft und OpenAI erwischen staatliche Hacker bei der Nutzung von KI

Staatlich unterstützte Hacker aus China, Russland, Nordkorea und Iran setzen bei ihren Angriffen offenbar verstärkt auf künstliche Intelligenz (KI). Interne Ermittlungen hätten ergeben, dass diese Gruppen ChatGPT von OpenAI nutzen, um ihre Methoden zu verfeinern, teilte Microsoft am Mittwoch mit. Der Softwarekonzern ist der wichtigste Partner und Investor von OpenAI.

Die Hacker nutzten die Technologie demnach hauptsächlich, um ihre Software-Entwicklung zu automatisieren. Einige der Gruppe griffen darauf auch zurück, um technische Dokumentation zu übersetzen und nach öffentlich frei verfügbaren Informationen zu suchen. Russische Cyberkriminelle mit mutmaßlichen Verbindungen zum dortigen Geheimdienst etwa erforschten »verschiedene Satelliten- und Radartechnologien, die sich auf militärische Operationen in der Ukraine beziehen könnten«. China frage KI nach ausländischen Geheimdiensten oder einzelnen Persönlichkeiten aus.

DER SPIEGEL fasst die wichtigsten News des Tages für Sie zusammen: Was heute wirklich wichtig war – und was es bedeutet. Ihr tägliches Newsletter-Update um 18 Uhr. Jetzt kostenfrei abonnieren.

Die iranischen und nordkoreanischen Hacker hätten aber auch Texte für Phishing-Attacken von der KI schreiben lassen. Bei solchen Angriffen werden die Opfer mit Hilfe täuschend echt aussehender E-Mails verleitet, ihre Login-Informationen auf fingierten Websites einzugeben.

Aktuelle KI nur eingeschränkt nützlicher als herkömmliche Werkzeuge

OpenAI schränkte ein, die Entdeckung bestätige die Einschätzung, dass aktuelle KI-Technologie für die Entwicklung von Cyberattacken nur eingeschränkt nützlicher sei als herkömmliche Werkzeuge. Die Accounts von fünf Hacker-Gruppen dennoch seien aufgekündigt worden. Auch Microsoft betonte, man habe noch keine neuartigen Angriffe durch den Einsatz von KI gesehen.

»Unabhängig davon, ob ein Verstoß gegen das Gesetz oder gegen die Nutzungsbedingungen vorliegt, wollen wir einfach nicht, dass die von uns identifizierten Akteure Zugang zu dieser Technologie haben«, sagte Tom Burt, Vizepräsident für Kundensicherheit bei Microsoft, in einem Interview mit Reuters. Zum Umfang dieser Aktivitäten oder zur Zahl gesperrter Nutzerkonten wollte er sich aber nicht äußern.

China kritisierte die Vorwürfe als »grundlose Verleumdung«, Reaktionen aus Russland, Nordkorea und Iran gab es nicht. Westliche Experten warnen seit Längerem vor dem Missbrauch von KI durch Kriminelle. Beweise hierfür gibt es bislang aber nur wenige.