ChatGPT wird zum Schreiben von Malware eingesetzt

Der KI-Chatbot ChatGPT sorgt für viel Aufregung. Nun scheint es so, dass er für Versuche genutzt wird, bösartige Code zu erstellen. ChatGPT wurde vom Forschungslabor für künstliche Intelligenz OpenAI veröffentlicht, stößt auf breites Interesse und hat eine Diskussion darüber ausgelöst, wie sich KI entwickelt und wie KI in Zukunft eingesetzt werden könnte.

Wie jedes Tool könnte es in den falschen Händen für kriminelle Zwecke eingesetzt werden. Laut den Cybersecurity-Forschern von Check Point experimentieren die Nutzer von Untergrund-Hacking-Communities bereits damit, wie sich ChatGPT für Cyberangriffe  einsetzen lässt. „Bedrohungsakteure mit sehr geringem technischem Wissen – bis hin zu null technischem Wissen – könnten in der Lage sein, bösartige Tools zu erstellen. Es könnte auch die täglichen Operationen von raffinierten Cyberkriminellen viel effizienter und einfacher machen – wie das Erstellen verschiedener Teile der Infektionskette“, sagte Sergey Shykevich, Threat Intelligence Group Manager bei Check Point.

OpenAI verbietet Malware-Genereierung

Die Nutzungsbedingungen von OpenAI verbieten ausdrücklich die Generierung von Malware, die definiert wird als „Inhalte, die versuchen, Ransomware, Keylogger, Viren oder andere Software zu generieren, die in irgendeiner Form Schaden anrichten soll“. Verboten sind auch Versuche, Spam zu erzeugen, sowie Anwendungsfälle, die auf Cyberkriminalität abzielen. Eine Analyse der Aktivitäten in mehreren großen Untergrund-Hacking-Foren deutet jedoch darauf hin, dass Cyberkriminelle ChatGPT bereits nutzen, um bösartige Tools zu entwickeln – und in einigen Fällen ermöglicht es Cyberkriminellen ohne Entwicklungs- oder Programmierkenntnisse bereits die Erstellung von Malware.

In einem Forum beschrieb Ende Dezember ein Poster, wie er ChatGPT verwendet, um Malware-Stämme und -Techniken nachzubilden, die in Forschungsveröffentlichungen und Aufzeichnungen über gängige Malware beschrieben werden. Auf diese Weise konnten sie eine Python-basierte Malware erstellen, die nach gängigen Dateien wie Microsoft Office-Dokumenten, PDFs und Bildern sucht, diese kopiert und dann auf einen File Transfer Protocol-Server hochlädt. Forscher stellen fest, dass der Forumsnutzer die Beiträge geteilt hat, um weniger technisch versierten Cyberkriminellen zu zeigen, wie sie KI-Tools für bösartige Zwecke einsetzen können.

Skripterstellung für Anfänger

Ein Benutzer hat ein Python-Skript gepostet, das nach eigenen Angaben das erste Skript war, das er je erstellt hat. Die Analyse des Skripts deutet darauf hin, dass es zum Ver- und Entschlüsseln von Dateien gedacht ist, was mit etwas Arbeit in Ransomware umgewandelt werden könnte, was möglicherweise dazu führen könnte, dass Cyberkriminelle auf niedriger Ebene ihre eigenen Erpressungskampagnen entwickeln und verbreiten. „Der Code kann natürlich auf harmlose Weise verwendet werden. Dieses Skript kann jedoch leicht so modifiziert werden, dass es den Computer einer Person ohne jegliche Benutzerinteraktion vollständig verschlüsselt“, so Check Point.

Cyberkriminelle experimentieren nicht nur mit ChatGPT, um Malware zu entwickeln. In der Silvesternacht postete ein Mitglied eines Untergrund-Forums einen Beitrag, in dem gezeigt wurde, wie mit dem Tool Skripte erstellt werden können, die einen automatisierten Dark-Web-Marktplatz für den Kauf und Verkauf von gestohlenen Kontodaten, Kreditkarteninformationen oder Malware betreiben könnten. Der Cyberkriminelle zeigte sogar ein Stück Code, das mit einer Drittanbieter-API erstellt wurde, um aktuelle Preise für die Kryptowährungen Monero, Bitcoin und Ethereum als Teil eines Zahlungssystems für einen Dark-Web-Marktplatz zu erhalten.