BSI-Studie: Wie KI die Bedrohungslandschaft verändert

In einem gerade erschienenen Forschungsbeitrag hat das Bundesamt für Sicherheit in der Informationstechnik (BSI) untersucht, wie sich Künstliche Intelligenz auf die aktuelle Cyberbedrohungslage auswirkt. Die Untersuchung beleuchtet, wie sich Cyberangriffe durch die neu verfügbare Technologie verändern.

Laut Studie senken die großen Sprachmodelle der GenAI die Einstiegshürden für Cyberangriffe und erhöhen Umfang, Geschwindigkeit und Schlagkraft schadhafter Handlungen im digitalen Raum. Neben allgemeinen Produktivitätsgewinnen für böswillige Akteure stellt das BSI derzeit eine „maligne“ Nutzung vor allem im Bereich des Social Engineering und bei der Generierung von Schadcode fest.

Eigenständige KI-Agenten?

KI ermögliche es Angreifenden mit geringsten Fremdsprachenkenntnissen, qualitativ hochwertige Phishing-Nachrichten zu erstellen: Herkömmliche Methoden zur Erkennung betrügerischer Nachrichten wie die Prüfung auf Rechtschreibfehler und unkonventionellen Sprachgebrauch würden zur Erkennung von Phishing-Angriffen damit nicht mehr ausreichen.

Hinzu komme nun auch immer stärker die Erstellung von Malware durch KI: Große Sprachmodelle seien bereits heute in der Lage, einfachen Schadcode zu schreiben. Darüber hinaus existieren der Studie zufolge erste Proofs of Concept, nach denen KI für die automatische Generierung und Mutation von Malware eingesetzt werden kann.

Allerdings seien bösartige KI-Agenten, die vollkommen eigenständig IT-Infrastrukturen kompromittieren können – also Künstliche Intelligenz, die zur vollständigen Angriffsautomatisierung führt – aktuell nicht verfügbar und würden mit hoher Wahrscheinlichkeit auch in naher Zukunft nicht verfügbar sein, so das BSI weiter. Ungeachtet dessen seien KI-Anwendungen aber bereits heute in der Lage, Teile eines Cyberangriffs zu automatisieren.

Gegenmaßnahmen

Vor diesem Hintergrund meint BSI-Präsidentin Claudia Plattner: „Bei unserer derzeitigen Bewertung der Auswirkungen von KI auf die Cyberbedrohungslandschaft gehen wir davon aus, dass es in naher Zukunft keine bedeutenden Durchbrüche bei der Entwicklung von KI, insbesondere von großen Sprachmodellen, geben wird. Es wird für uns alle darauf ankommen, mit den Angreifenden Schritt zu halten, also die Geschwindigkeit und den Umfang der Abwehrmaßnahmen zu erhöhen: indem wir schneller patchen, unsere IT-Systeme härten und nahende Angriffe noch früher als bisher erkennen.“

Dabei helfe uns KI bereits heute schon, so Plattner weiter. Insbesondere für Open-Source-Projekte werde es von entscheidender Bedeutung sein, KI-Tools proaktiv zu nutzen, bevor böswillige Akteure dies tun. Des weiteren sei es mit Blick auf den Fachkräftemangel maßgeblich, dass Wirtschaft, Wissenschaft und Politik ihre Kompetenzen bündeln – über Landes- und Ländergrenzen hinweg.

Zumal auch Cyberverteidiger von den Produktivitätssteigerungen durch den Einsatz von KI profitieren würden. So etwa bei der Codegenerierung, der Analyse von Quellcode auf Schwachstellen, der Detektion von Malware oder der Erstellung von Lagebildern.