Microsoft kündigt Video Authenticator an

Um die Verbreitung von Deepfakes zu bekämpfen, hat Microsoft das neue Video-Authentifizierungs-Tool Video Authenticator auf den Markt gebracht, mit dem ein Foto oder Video analysiert werden kann, um die Wahrscheinlichkeit zu ermitteln, dass ein Medium künstlich manipuliert wurde.

Im Falle eines Videos sagte Microsoft, dass es diesen Prozentsatz in Echtzeit für jedes Einzelbild während der Wiedergabe des Videos liefern könne. Dies funktioniert durch die Erkennung der Überblendungsgrenze des Deepfake und subtiler Überblendungs- oder Graustufenelemente, die für das menschliche Auge möglicherweise nicht wahrnehmbar sind.

Bei Deepfakes oder synthetischen Medien kann es sich um Fotos, Videos oder Audiodateien handeln, die durch künstliche Intelligenz (KI) manipuliert wurden. Microsoft sagte, die Erkennung von Deepfakes sei im Vorfeld der US-Wahl von entscheidender Bedeutung.

Die Technologie wurde unter Verwendung eines öffentlichen Datensatzes von Face Forensic++ erstellt, und Microsoft gab an, dass sie mit dem DeepFake Detection Challenge Dataset getestet wurde, das seiner Ansicht nach ein führendes Modell für die Schulung und das Testen von DeepFake-Detektionstechnologien darstellt.

„Wir erwarten, dass die Methoden zur Erzeugung synthetischer Medien weiter an Raffinesse gewinnen werden. Da alle KI-Erkennungsmethoden Misserfolgsraten aufweisen, müssen wir DeepFakes, die durch die Erkennungsmethoden schlüpfen, verstehen und bereit sein, darauf zu reagieren“, sagte das Unternehmen in einem Blog-Beitrag.

„Daher müssen wir auf längere Sicht nach stärkeren Methoden suchen, um die Authentizität von Nachrichtenartikeln und anderen Medien zu erhalten und zu zertifizieren“, so das Unternehmen weiter-

Gleichzeitig hat Microsoft auch eine neue Technologie vorgestellt, die sowohl manipulierte Inhalte erkennen als auch den Menschen versichern kann, dass die Medien, die sie sich ansehen, authentisch sind.

Die Technologie besteht aus zwei Komponenten, wobei die erste ein in Microsoft Azure integriertes Tool ist, mit dem ein Inhaltsproduzent digitale Hashes und Zertifikate zu einem Inhalt hinzufügen kann.

„Die Hashes und Zertifikate begleiten den Inhalt als Metadaten, wo er immer ist“, erklärte Microsoft.

Das zweite ist ein Lesegerät, das in eine Browsererweiterung integriert werden kann, das die Zertifikate überprüft und die Hashes abgleicht, um die Authentizität festzustellen.

In seinem Kampf gegen die Fälschung ist Microsoft auch eine Partnerschaft mit der AI Foundation eingegangen. Im Rahmen der Partnerschaft werden die beiden Parteien den Video-Authentifikator Organisationen zur Verfügung stellen, die am demokratischen Prozess beteiligt sind, darunter Nachrichtenagenturen und politische Kampagnen im Rahmen der Initiative Reality Defender 2020 der Stiftung. Der Video Authentificator wird zunächst nur über diese Initiative verfügbar sein.

Im Rahmen eines Konsortiums von Medienunternehmen, das unter dem Namen Project Origin bekannt ist, wird die Authentifizierungstechnologie von Microsoft getestet. Eine Initiative einer Reihe von Verlegern und Social-Media-Unternehmen, die Trusted News Initiative, hat sich ebenfalls bereit erklärt, die Technologie von Microsoft zu testen.

Die University of Washington, die Firma Sensity, die sich mit der Erkennung von Fälschungen befasst, und USA Today haben sich ebenfalls Microsoft angeschlossen, um die Medienkompetenz zu fördern.

„Die Verbesserung der Medienkompetenz wird den Menschen helfen, Desinformationen von echten Fakten zu unterscheiden und die Risiken zu bewältigen, die von Deepfakes und billigen Fälschungen ausgehen“, so Microsoft. „Praktische Medienkenntnisse können uns alle in die Lage versetzen, kritisch über den Kontext der Medien nachzudenken und engagiertere Bürger zu werden“.