Chatbot: ChatGPT-Macher sperren Accounts regierungsnaher Hackergruppen | ZEIT ONLINE

Hacker mit Verbindungen zu den Regierungen in Russland, China, Nordkorea und dem Iran setzen einer neuen Untersuchung zufolge für ihre Cyberangriffe immer häufiger den Chatbot ChatGPT ein. Interne Ermittlungen hätten ergeben, dass diese Gruppen das Programm ChatGPT von OpenAI nutzten, um ihre Methoden zu verfeinern, teilte Microsoft am Mittwoch mit. Der Softwarekonzern ist Großaktionär von OpenAI und nutzt dessen KI-Technologie auch für die eigenen Anwendungen und Software. 

Laut Microsoft nutzte etwa die mit dem russischen Geheimdienst in Verbindung stehende Hackergruppe Forest Blizzard ChatGPT, um "verschiedene Satelliten- und Radartechnologien auszukundschaften, die für konventionelle Militäroperationen in der Ukraine von Bedeutung sein könnten". Iranische und nordkoreanische Gruppen setzten KI vorzugsweise dazu ein, glaubwürdigere sogenannte Phishing-Mails zu formulieren, die Opfer dazu bringen sollen, Zugangsdaten und Passwörter preiszugeben. Die den chinesischen Behörden nahestehende Gruppe Charcoal Typhoon spürte demnach mit ChatGPT Schwachstellen für mögliche Cyberangriffe aus. In allen Fällen seien Large Language Models (LLM) eingesetzt worden.

Die beobachteten Hacker setzten die KI-Programme nur schrittweise ein und hätten bislang keinen Durchbruch erzielt, sagte Microsoft-Manager Tom Burt. "Sie nutzen diese Technologie wie jeder andere." Russische Cyberkriminelle mit mutmaßlichen Verbindungen zum dortigen Geheimdienst wiederum erforschten "verschiedene Satelliten- und Radartechnologien, die sich auf militärische Operationen in der Ukraine beziehen könnten". China frage KI nach ausländischen Geheimdiensten oder einzelnen Persönlichkeiten aus.

Mehr zum Thema: Künstliche Intelligenz

Microsoft Copilot: Kann diese KI bessere Präsentationen bauen als der Mensch?

Entlassung von Sam Altman: Das OpenAI-Debakel hat schon einen Gewinner

OpenAI: ChatGPT verstößt laut Italien gegen europäische Datenschutzregeln

Gefahr laut OpenAI inzwischen "begrenzt"

Wie ChatGPT-Entwickler OpenAI am Mittwoch (Ortszeit) auf seiner Website bekannt gab, wurde in Zusammenarbeit mit Microsoft die Nutzung des Chatbots durch die regierungsnahen Akteure "gestört" und mehrere Konten gesperrt. Die Gefahr sei "begrenzt", sagte das Unternehmen. "Unabhängig davon, ob ein Verstoß gegen das Gesetz oder gegen die Nutzungsbedingungen vorliegt, wollen wir einfach nicht, dass die von uns identifizierten Akteure Zugang zu dieser Technologie haben", sagte Burt der Nachrichtenagentur Reuters. Zum Umfang dieser Aktivitäten oder zur Zahl gesperrter Nutzerkonten wollte er sich aber nicht äußern.

Russland, Nordkorea und Iran waren für einen Kommentar zunächst nicht zu erreichen. China kritisierte die Vorwürfe als "grundlose Verleumdung". Westliche Experten warnen seit Längerem vor dem Missbrauch von KI durch Kriminelle. Beweise hierfür gibt es bislang aber nur wenige. 

Newsletter

ChatGPT ist ein auf fortschrittlicher KI-Technologie basierender Chatbot, der in Sekundenschnelle hochkomplexe Texte generieren kann. Seine Einführung im November 2022 machte die Möglichkeiten sogenannter generativer KI schlagartig einem großen Publikum bewusst. Zugleich wachsen aber die Befürchtungen über mögliche Gefahren der Technologie. Cybersicherheitsunternehmen setzen maschinelles Lernen schon lange zur Verteidigung ein, vor allem, um anomales Verhalten in Netzwerken zu erkennen. Aber auch Kriminelle und offensive Hacker nutzen es. Der Siegeszug von KI-Programmen mit LLM im Gefolge der Einführung von ChatGPT hat dieses Katz-und-Maus-Spiel noch einmal gesteigert.