Categories: Cybersicherheit

Kaspersky: KI-Systeme führen zu komplexeren Schwachstellen

Die Sicherheitsexperten von Kaspersky haben die möglichen Auswirkungen von Künstlicher Intelligenz (KI) auf die Cybersicherheitslandschaft analysiert. Sie erwarten, dass die zunehmende Verbreitung von KI-gestützten Systemen unter anderem zu komplexeren Schwachstellen führen wird.

Ausgangspunkt für die Prognose der Experten ist die Integration von Textbefehlen folgende LLMs in immer mehr Verbraucherprodukte. Hierdurch sollen neue komplexe Schwachstellen an der Schnittstelle von (probabilistischer) generativer KI und traditionellen (deterministischen) Technologie entstehen. „Infolgedessen wird die Angriffsfläche größer. Entwickler müssen daher neue Sicherheitsmaßnahmen schaffen, indem sie beispielsweise Nutzer-Zustimmungen zu von LLM-Agenten eingeleiteten Aktionen fordern“, teilte Kaspersky mit.

Außerdem geht Kaspersky davon aus, dass Cyberkriminelle neurale Netzwerke vermehrt zur Bildgenerierung für Betrugsmaschen einsetzen werden. In diesem Zusammenhang fordert der Sicherheitsanbieter unter anderem neue Regularien, beispielsweise für die Kennzeichnung künstlich erzeugter Inhalte. Dazu seien aber auch neue Investitionen in Erkennungstechnologien notwendig.

Veränderungen sollen sich aber durch KI auch im Bereich Cybersicherheit ergeben. „Red-Team-Mitglieder und Sicherheitsexperten setzen das Potenzial generativer KI zunehmend für innovative Cybersicherheitstools ein. Dies könnte zur Entwicklung von Assistenten führen, die LLM oder Machine Learning (ML) einsetzen, um Red-Team-Aufgaben zu automatisieren“, ergänzte Kaspersky.

Trotz des KI-Trends erwarten die Kaspersky-Experten jedoch keine grundlegende Veränderung der Bedrohungslandschaft in naher Zukunft. Genauso wie Cyberkriminelle würden auch IT-Sicherheitsverantwortliche dieselben oder fortschrittlichere generative KI-Tools einsetzen, um die Sicherheit von Software und Netzwerken zu verbessern.

„Künstliche Intelligenz in der Cybersicherheit ist ein zweischneidiges Schwert. Ihre Anpassungsfähigkeit stärkt zwar die Cyberabwehr und bietet einen proaktiven Schutz gegen sich weiterentwickelnde Bedrohungen. Allerdings birgt dieselbe Dynamik auch Risiken, denn Cyberkriminelle nutzen sie für raffiniertere Angriffe. Die richtige Balance zu finden, die einen verantwortungsvollen Einsatz gewährleistet, ohne übermäßig sensible Daten weiterzugeben, ist entscheidend, um unseren digitalen Raum zu schützen“, kommentiert Vladislav Tushkanov, Sicherheitsexperte bei Kaspersky.

Stefan Beiersmann

Stefan unterstützt seit 2006 als Freier Mitarbeiter die ZDNet-Redaktion. Wenn andere noch schlafen, sichtet er bereits die Nachrichtenlage, sodass die ersten News des Tages meistens von ihm stammen.

Recent Posts

Supercomputer-Ranking: El Capitan überholt Frontier und Aurora

Mit 1,7 Exaflops ist El Capitan nun der dritte Exascale-Supercomputer weltweit. Deutschland stellt erneut den…

2 Stunden ago

Ionos führt neue AMD-Prozessoren ein

Der deutsche Hyperscaler erweitert sein Server-Portfolio um vier Angebote mit den neuen AMD EPYC 4004…

2 Stunden ago

Lags beim Online-Gaming? DSL-Vergleich und andere Tipps schaffen Abhilfe

Beim Online-Gaming kommt es nicht nur auf das eigene Können an. Auch die technischen Voraussetzungen…

3 Stunden ago

GenKI-Fortbildung immer noch Mangelware

Fast jedes zweite Unternehmen bietet keinerlei Schulungen an. In den übrigen Betrieben profitieren oft nur…

3 Stunden ago

Netzwerk-Portfolio für das KI-Zeitalter

Huawei stellt auf der Connect Europe 2024 in Paris mit Xinghe Intelligent Network eine erweiterte…

5 Stunden ago

Internet-Tempo in Deutschland: Viel Luft nach oben

Höchste Zeit für eine schnelle Kupfer-Glas-Migration. Bis 2030 soll in Deutschland Glasfaser flächendeckend ausgerollt sein.

6 Stunden ago