Hacker arbeiten mit generativer KI: Microsoft untersucht Vorfälle

Der Einsatz von Sprachmodellen

Wie das berichtet, gibt es damit nun auch erstmals offizielle Informationen darüber, wie staatlich gesponserte Hacker große Sprachmodelle (LLM: Large Language Model) für sich verwenden.

In einem Blogbeitrag kündigte Microsoft in Zusammenarbeit mit OpenAI eine neue Studie über die Nutzung der sogenannten LLMs durch Hacker an. Das Unternehmen fügte hinzu, dass der "Copilot for Security"-Dienst eingesetzt wird, um gegen diese LLM-basierten Cyber-Bedrohungen vorzugehen - also ein KI-Tool, das schädliche KI-Tools aufspüren soll. Das funktioniert auch gut.

"Im Rahmen dieses Engagements haben wir Maßnahmen ergriffen, um Vermögenswerte und Konten, die mit Bedrohungsakteuren in Verbindung stehen, zu unterbrechen, den Schutz der OpenAI LLM-Technologie und der Nutzer vor Angriffen oder Missbrauch zu verbessern und die 'Leitplanken' und Sicherheitsmechanismen um unsere Modelle herum zu gestalten", so Microsoft.