Google geht davon aus, dass generative KI und große Sprachmodelle (LLMs) zu neuen Risiken für die Cybersicherheit führen. Das geht aus Googles neuem Sicherheitsbericht Google Cloud Cybersecurity Forecast 2024 hervor. Die neuen Techniken sollen sich unter anderem bei Phishing und anderen Social-Engineering-Operationen einsetzen lassen, um Inhalte wie Sprache und Video legitimer erscheinen zu lassen.
Phishing-Angriffe sollen künftig schwieriger anhand von Rechtschreibfehlern oder einem fehlenden kulturellen Kontext zu erkennen sein, da KI laut Google inzwischen natürliche Sprache sehr gut imitieren kann. In anderen Fällen könnten Angreifer ein LLM mit legitimen Inhalten füttern und eine modifizierte Version generieren, die den Zielen des Angreifers entspricht, aber den gleichen Stil wie die ursprüngliche Eingabe aufweist.
Der Bericht prognostiziert auch, dass LLMs und andere generative KI-Tools, die als kostenpflichtiger Service angeboten werden, von Angreifern eingesetzt werden, um ihre Angriffe effizienter zu machen. Eine weitere potenzielle Bedrohung durch generative KI seien Informationskampagnen. Mit Hilfe von KI-Eingabeaufforderungen könnten Angreifer generative KI-Modelle nutzen, um gefälschte Nachrichten, gefälschte Telefonanrufe und gefälschte Fotos und Videos zu erstellen. Google befürchtet sogar, dass die Skalierbarkeit solcher Kampagnen das Vertrauen der Öffentlichkeit in Nachrichten und Online-Informationen schwächen könnte.
„Dies könnte es für Unternehmen und Regierungen in naher Zukunft zunehmend schwieriger machen, mit ihren Zielgruppen in Kontakt zu treten“, heißt es in dem Bericht.
KI bietet aber auch Vorteile für die Cybersicherheit. „KI bietet unseren Cyberverteidigern bereits jetzt einen enormen Vorteil, da sie ihre Fähigkeiten verbessern, den Arbeitsaufwand verringern und sich besser gegen Bedrohungen schützen können“, sagte Phil Venables, CISO für Google Cloud. „Wir gehen davon aus, dass diese Fähigkeiten und Vorteile im Jahr 2024 noch zunehmen werden, da die Verteidiger die Technologie besitzen und somit ihre Entwicklung mit Blick auf spezifische Anwendungsfälle steuern können.“
Über drei Millionen Angriffsversuche unter Deckmantel von Minecraft / YouTube-Star Mr. Beast als prominenter Köder
Die Prognose für die Anfahrt bezieht das Verkehrsaufkommen, die Stellplatzverfügbarkeit sowie die Lenk- und Ruhezeiten…
Unternehmen können mit Casebase Portfolio an Daten- und KI-Anwendungsfällen organisieren.
Smart-TV oder Saugroboter: Nutzer schützen ihre smarten Heimgeräte zu wenig, zeigt eine repräsentative BSI-Umfrage.
Im Benchmark erreicht der neue Core Ultra 200V eine Laufzeit von 14 Stunden. Intel tritt…
Jeder dritte hält sich damit für unsichtbar. Wie widersprüchlich unser Datenschutzverhalten oft ist, zeigt eine…