Categories: Cybersicherheit

Kaspersky: KI-Systeme führen zu komplexeren Schwachstellen

Die Sicherheitsexperten von Kaspersky haben die möglichen Auswirkungen von Künstlicher Intelligenz (KI) auf die Cybersicherheitslandschaft analysiert. Sie erwarten, dass die zunehmende Verbreitung von KI-gestützten Systemen unter anderem zu komplexeren Schwachstellen führen wird.

Ausgangspunkt für die Prognose der Experten ist die Integration von Textbefehlen folgende LLMs in immer mehr Verbraucherprodukte. Hierdurch sollen neue komplexe Schwachstellen an der Schnittstelle von (probabilistischer) generativer KI und traditionellen (deterministischen) Technologie entstehen. „Infolgedessen wird die Angriffsfläche größer. Entwickler müssen daher neue Sicherheitsmaßnahmen schaffen, indem sie beispielsweise Nutzer-Zustimmungen zu von LLM-Agenten eingeleiteten Aktionen fordern“, teilte Kaspersky mit.

Außerdem geht Kaspersky davon aus, dass Cyberkriminelle neurale Netzwerke vermehrt zur Bildgenerierung für Betrugsmaschen einsetzen werden. In diesem Zusammenhang fordert der Sicherheitsanbieter unter anderem neue Regularien, beispielsweise für die Kennzeichnung künstlich erzeugter Inhalte. Dazu seien aber auch neue Investitionen in Erkennungstechnologien notwendig.

Veränderungen sollen sich aber durch KI auch im Bereich Cybersicherheit ergeben. „Red-Team-Mitglieder und Sicherheitsexperten setzen das Potenzial generativer KI zunehmend für innovative Cybersicherheitstools ein. Dies könnte zur Entwicklung von Assistenten führen, die LLM oder Machine Learning (ML) einsetzen, um Red-Team-Aufgaben zu automatisieren“, ergänzte Kaspersky.

Trotz des KI-Trends erwarten die Kaspersky-Experten jedoch keine grundlegende Veränderung der Bedrohungslandschaft in naher Zukunft. Genauso wie Cyberkriminelle würden auch IT-Sicherheitsverantwortliche dieselben oder fortschrittlichere generative KI-Tools einsetzen, um die Sicherheit von Software und Netzwerken zu verbessern.

„Künstliche Intelligenz in der Cybersicherheit ist ein zweischneidiges Schwert. Ihre Anpassungsfähigkeit stärkt zwar die Cyberabwehr und bietet einen proaktiven Schutz gegen sich weiterentwickelnde Bedrohungen. Allerdings birgt dieselbe Dynamik auch Risiken, denn Cyberkriminelle nutzen sie für raffiniertere Angriffe. Die richtige Balance zu finden, die einen verantwortungsvollen Einsatz gewährleistet, ohne übermäßig sensible Daten weiterzugeben, ist entscheidend, um unseren digitalen Raum zu schützen“, kommentiert Vladislav Tushkanov, Sicherheitsexperte bei Kaspersky.

Stefan Beiersmann

Stefan unterstützt seit 2006 als Freier Mitarbeiter die ZDNet-Redaktion. Wenn andere noch schlafen, sichtet er bereits die Nachrichtenlage, sodass die ersten News des Tages meistens von ihm stammen.

Recent Posts

Erreichbarkeit im Weihnachtsurlaub weiterhin hoch

Nur rund die Hälfte schaltet während der Feiertage komplett vom Job ab. Die anderen sind…

2 Stunden ago

Hacker missbrauchen Google Calendar zum Angriff auf Postfächer

Security-Experten von Check Point sind einer neuen Angriffsart auf die Spur gekommen, die E-Mail-Schutzmaßnahmen umgehen…

1 Tag ago

Bedrohungen in Europa: Schwachstellen in der Lieferkette dominieren

Hinter 84 Prozent der Zwischenfälle bei Herstellern stecken Schwachstellen in der Lieferkette. Auf dem Vormarsch…

1 Tag ago

Bericht: Apple arbeitet an faltbarem iPad

Es kommt angeblich 2028 auf den Markt. Das aufgeklappte Gerät soll die Displayfläche von zwei…

2 Tagen ago

HPE baut Supercomputer am Leibniz-Rechenzentrum

Das System basiert auf Hardware von HPE-Cray und Nvidia. Die Inbetriebnahme erfolgt 2027.

2 Tagen ago

Bund meldet Fortschritte in der Netzversorgung

Die Bundesnetzagentur hat ihr Gigabit-Grundbuch aktualisiert. Drei von vier Haushalten sollen jetzt Zugang zu Breitbandanschlüssen…

3 Tagen ago