Pwn2Own Berlin: Trend Micro kündigt Hackerwettbewerb für KI an

Der Sicherheitsanbieter Trend Micro hat einen Hackerwettbewerb für KI-Anwendungen angekündigt. Er findet im Rahmen des Pwn2Own-Programms statt und beginnt am 15. Mai in Berlin. Teilnehmer sollen Zero-Day-Lücken in KI-Technologien identifizieren, mit dem Ziel, die KI-Sicherheit zu stärken.

Sicherheitsrisiken gehen auch von KI-gesteuerten Anwendungen aus. Trend Micro zitiert aus einer Untersuchung von Garnter, wonach der „der integrierte Ansatz zur Entwicklung von GenAI-Anwendungen und die Zusammenarbeit mit externen KI-Agenten zu neuen organisationsübergreifenden Sicherheitsrisiken führt, die zum Verlust sensibler Daten und zu Betriebsstörungen führen können“.

Large Language Models (LLMs), generative KI (GenAI) und andere Spitzentechnologien könnten unbeabsichtigt die Angriffsfläche für KI vergrößern, so Trend Micro weiter. Davon könnten Container, Server, Datenbanken, LLM-Hosting-Tools sowie eine Reihe anderer Unternehmensressourcen betroffen sein.

„Untersuchungen von Trend Micro von Dezember 2024 zeigen zahlreiche Schwachstellen in vielen dieser Komponenten auf, die Unternehmen potenziell Datendiebstahl, Data- und Model-Poisoning, digitaler Erpressung und anderen Bedrohungen aussetzen“, teilte der Sicherheitsanbieter mit.

Teilnehmer des dreitägigen Wettbewerbs sollen unter anderem neuartigen Schwachstellen in Chroma, einer Open-Source-Datenbank für KI-Anwendungen, in Postgres pgvector, einer Open-Source-Vektorähnlichkeitssuche für Postgres und Redit, einem Open-Source-Projekt für In-Memory-Datenstrukturen finden. Außerdem stehen Anfälligkeiten in Ollama (Tool zur lokalen Ausführung von LLMs, Nvidia Triton Interference Server (Open-Source-Software zu Standardisierung von Einsatz und Ausführung von KI-Modellen) und Nvidia Container Toolkit (Tool zur Erstellung und Ausführung von GPU-beschleunigten Containern) auf dem Programm.

Wie bei den Pwn2Own-Wettbewerben üblich, werden alle Zero-Day-Schwachstellen verantwortungsvoll an die jeweiligen Anbieter zur Behebung weitergegeben. „Wenn es um KI geht, droht das Rennen um Wettbewerbsvorteile die Fähigkeit der Anbieter zu übersteigen, ihre Produkte zu sichern und ihre Kunden zu schützen.“, erklärte Dustin Childs, Head of Threat Awareness bei der Zero Day Initiative von Trend Micro. „Die Aufnahme einer KI-Kategorie in den Pwn2Own trägt dazu bei, das Gleichgewicht wiederherzustellen und die Kompetenz, Entschlossenheit und Kreativität der ethischen Hackergemeinde zu nutzen. Indem wir Schwachstellen im KI-Ökosystem finden und beheben, bevor böswillige Akteure sie ausnutzen können, sorgen wir für mehr Sicherheit für alle.“