Die Sicherheitsforscher von Checkpoint haben Bald mit zwei Hauptzielen analysiert: Zu überprüfen, ob es möglich ist, Bard für bösartige Zwecke zu nutzen und im zweiten Schritt Google Bard mit ChatGPT im Hinblick auf die Erstellung von bösartigen Inhalten zu vergleichen. Im ersten Schritt konnten sie mit Bard Phishing-E-Mails, Malware-Keylogger sowie einfachen Ransomware-Code erzeugen.

ChatGPT vs. Google Bard

Zunächst versuchten die Security-Experten eine einfache Anfrage zur Erstellung einer Phishing-E-Mail. Sie wurde sowohl von ChatGPT als auch von Bard abgelehnt. Die zweite Anfrage nach einem Beispiel für eine Phishing-E-Mail lehnte ChatGPT ab, während Bard eine gut geschriebene Phishing-E-Mail lieferte, die sich als ein Finanzdienstleister ausgab. Nach weiteren Versuchen und mit einer Begründung der Anfrage lieferten beide KI-Bots schließlich einen Keylogger, der die Tastenanschläge des Forschers aufzeichnete. Der Unterschied zwischen ChatGPT und Bard: ChatGPT fügte eine Art Haftungsausschluss über bösartige Verwendung hinzu.

In einem zweiten Versuch zeigte sich, dass Bard über Umwege auch einfachen Ransomware-Code erstellt. Nachdem eine erste simple Anfrage fehlschlug, fragten die Forscher Bard nach den häufigsten Aktionen, die von einer Ransomware ausgeführt werden. heraus kam eine stichpunkteartige Liste, wie Ransomware vorgeht und wandelte diese durch simples Kopieren und Einfügen in Anforderungen an ein Script um. Das funktionierte: Mit Angabe der Anforderungen an das Script erhielten die Forscher den Code. Nachdem die Forscher das Skript mit Hilfe von Bard ein wenig modifizierten und einige zusätzliche Funktionen und Ausnahmen hinzugefügten, erhielten sie ein funktionierendes Ransomware-Skript.

Fazit der Tests von Check Point Research

  1. Die Missbrauchsschutzmechanismen von Bard im Bereich der Cybersicherheit sind im Vergleich zu denen von ChatGPT deutlich geringer. Folglich ist es viel einfacher, mit den Möglichkeiten von Bard bösartige Inhalte zu erzeugen.
  2. Bard enthält fast keine Beschränkungen für die Erstellung von Phishing-E-Mails, was Raum für potenziellen Missbrauch und Ausnutzung dieser Technologie lässt.
  3. Mit minimalen Manipulationen kann Bard zur Entwicklung von Malware-Keyloggern verwendet werden, was ein Sicherheitsrisiko darstellt.
  4. Die Experimente von CPR haben gezeigt, dass es möglich ist, mit den Funktionen von Bard einfache Ransomware zu erstellen.

Die Check Point-Forscher: Insgesamt hat es den Anschein, dass Googles Bard noch nicht vollständig aus den Lektionen gelernt hat, die ChatGPT bei der Implementierung von Missbrauchsschutz-Beschränkungen in Cyber-Bereichen gezeigt hat. Die bestehenden Beschränkungen in Bard sind relativ simpel und ähneln denen, die CPR bei ChatGPT in der Anfangsphase vor einigen Monaten beobachtete. Es ist zu hoffen, dass dies nur die ersten Schritte auf einem langen Weg sind und dass die Plattform alsbald die erforderlichen Beschränkungen und Sicherheitsgrenzen einführen wird.

Roger Homrich

Recent Posts

Microsoft nennt weitere Details zu kostenpflichtigen Patches für Windows 10

Erstmals liegen Preise für Verbraucher vor. Sie zahlen weniger als Geschäftskunden. Dafür beschränkt Microsoft den…

12 Stunden ago

Microsoft verschiebt erneut Copilot Recall

Die Entwickler arbeiten noch an weiteren „Verfeinerungen“. Windows Insider erhalten nun wohl eine erste Vorschau…

1 Tag ago

GenKI im Job: Mitarbeitende schaffen Tatsachen

Laut Bitkom-Umfrage werden in jedem dritten Unternehmen in Deutschland private KI-Zugänge genutzt. Tendenz steigend.

1 Tag ago

97 Prozent der Großunternehmen melden Cyber-Vorfälle

2023 erlitten neun von zehn Unternehmen in der DACH-Region Umsatzverluste und Kurseinbrüche in Folge von…

1 Tag ago

„Pacific Rim“-Report: riesiges, gegnerisches Angriffs-Ökosystem

Der Report „Pacific Rim“ von Sophos beschreibt Katz-und-Maus-Spiel aus Angriffs- und Verteidigungsoperationen mit staatlich unterstützten…

2 Tagen ago

DeepL setzt erstmals auf NVIDIA DGX SuperPOD mit DGX GB200-Systemen

NVIDIA DGX SuperPOD soll voraussichtlich Mitte 2025 in Betrieb genommen und für Forschungsberechnungen genutzt werden.

2 Tagen ago