Kaspersky: KI-Systeme führen zu komplexeren Schwachstellen

Die Sicherheitsexperten von Kaspersky haben die möglichen Auswirkungen von Künstlicher Intelligenz (KI) auf die Cybersicherheitslandschaft analysiert. Sie erwarten, dass die zunehmende Verbreitung von KI-gestützten Systemen unter anderem zu komplexeren Schwachstellen führen wird.

Ausgangspunkt für die Prognose der Experten ist die Integration von Textbefehlen folgende LLMs in immer mehr Verbraucherprodukte. Hierdurch sollen neue komplexe Schwachstellen an der Schnittstelle von (probabilistischer) generativer KI und traditionellen (deterministischen) Technologie entstehen. „Infolgedessen wird die Angriffsfläche größer. Entwickler müssen daher neue Sicherheitsmaßnahmen schaffen, indem sie beispielsweise Nutzer-Zustimmungen zu von LLM-Agenten eingeleiteten Aktionen fordern“, teilte Kaspersky mit.

Außerdem geht Kaspersky davon aus, dass Cyberkriminelle neurale Netzwerke vermehrt zur Bildgenerierung für Betrugsmaschen einsetzen werden. In diesem Zusammenhang fordert der Sicherheitsanbieter unter anderem neue Regularien, beispielsweise für die Kennzeichnung künstlich erzeugter Inhalte. Dazu seien aber auch neue Investitionen in Erkennungstechnologien notwendig.

Veränderungen sollen sich aber durch KI auch im Bereich Cybersicherheit ergeben. „Red-Team-Mitglieder und Sicherheitsexperten setzen das Potenzial generativer KI zunehmend für innovative Cybersicherheitstools ein. Dies könnte zur Entwicklung von Assistenten führen, die LLM oder Machine Learning (ML) einsetzen, um Red-Team-Aufgaben zu automatisieren“, ergänzte Kaspersky.

Trotz des KI-Trends erwarten die Kaspersky-Experten jedoch keine grundlegende Veränderung der Bedrohungslandschaft in naher Zukunft. Genauso wie Cyberkriminelle würden auch IT-Sicherheitsverantwortliche dieselben oder fortschrittlichere generative KI-Tools einsetzen, um die Sicherheit von Software und Netzwerken zu verbessern.

„Künstliche Intelligenz in der Cybersicherheit ist ein zweischneidiges Schwert. Ihre Anpassungsfähigkeit stärkt zwar die Cyberabwehr und bietet einen proaktiven Schutz gegen sich weiterentwickelnde Bedrohungen. Allerdings birgt dieselbe Dynamik auch Risiken, denn Cyberkriminelle nutzen sie für raffiniertere Angriffe. Die richtige Balance zu finden, die einen verantwortungsvollen Einsatz gewährleistet, ohne übermäßig sensible Daten weiterzugeben, ist entscheidend, um unseren digitalen Raum zu schützen“, kommentiert Vladislav Tushkanov, Sicherheitsexperte bei Kaspersky.