China reguliert Deepfakes

Die chinesische Cyberspace-Verwaltung, das Ministerium für Industrie und Informationstechnologie und das Ministerium für öffentliche Sicherheit haben eine gemeinsame Erklärung veröffentlicht, wonach die Verwendung von Deep-Synthesis-Technologien und -Diensten deutlich gekennzeichnet werden muss, damit diese nicht fälschlicherweise für echte Informationen gehalten werden.

Die neuen Regeln, die am 10. Januar 2023 in Kraft treten, zielen darauf ab, die nationale Sicherheit und die sozialen Grundwerte des Landes zu schützen sowie die Rechte und Interessen der Bürger und Organisationen zu wahren, so die Regierungsbehörden.

„In den letzten Jahren hat sich die Deep-Synthese-Technologie rasant entwickelt. Während sie den Bedürfnissen der Benutzer dient und die Benutzererfahrung verbessert, wurde sie auch von einigen skrupellosen Personen verwendet, um illegale und schädliche Informationen zu produzieren, zu kopieren, zu veröffentlichen und zu verbreiten, um den Ruf anderer herabzusetzen und die Identität anderer zu fälschen. Dies beeinträchtigt die Ordnung der Kommunikation und der sozialen Ordnung, schadet den legitimen Rechten und Interessen der Menschen und gefährdet die nationale Sicherheit und soziale Stabilität. Die Einführung der „Verordnungen“ ist eine Notwendigkeit, um Sicherheitsrisiken zu verhindern und zu beheben, und es ist auch eine Notwendigkeit, die gesunde Entwicklung umfassender synthetischer Dienste zu fördern und das Niveau der Überwachungskapazitäten zu verbessern.“

Die Ministerien wiesen darauf hin, dass die Synthesetechnologie zwar die Nutzererfahrung verbessert habe, aber auch dazu benutzt werde, sich als Personen auszugeben und falsche und schädliche Informationen zu verbreiten, die den Ruf der Opfer schädigten. Dies gefährde die nationale Sicherheit und die soziale Stabilität.

Sie fügten hinzu, dass Vorschriften notwendig seien, um solche Risiken zu mindern und eine gesunde Entwicklung der neuen Technologie zu fördern. Die Grundregeln würden auch die Entwicklung von Deep-Synthesis-Diensten standardisieren und sicherstellen, dass diese mit den anderen einschlägigen Vorschriften des Landes, einschließlich der Gesetze zur Datensicherheit und zum Schutz personenbezogener Daten, in Einklang stehen.

Die neuen Regeln gelten für Technologien, die Deep Learning, virtuelle Realität und andere synthetische Algorithmen nutzen, um Text, Bilder, Video, Audio und virtuelle Szenen zu erstellen, einschließlich Text-to-Speech, Sprachbearbeitung, Gestenmanipulation, digitale Simulation und 3D-Rekonstruktion.

Abgesehen davon, dass Deep-Synthesis-Dienste nicht zur Erstellung und Verbreitung von Informationen verwendet werden dürfen, die nach den lokalen Gesetzen verboten sind, sehen die neuen Vorschriften auch die Notwendigkeit vor, ein System zur Authentifizierung von Echtheitsdaten sowie andere Verwaltungssysteme wie Benutzerregistrierung, Überprüfung von Algorithmusmechanismen, Datensicherheit, Notfallmaßnahmen und ethische Überprüfung zu implementieren. Darüber hinaus müssen technische Sicherheitsmaßnahmen eingeführt werden.

Diese Verwaltungsvorschriften und Dienstvereinbarungen müssen offengelegt werden. Die Nutzer müssen auch Mechanismen einrichten, um Gerüchten rechtzeitig entgegenzutreten, falls die Nutzung von Deep-Synthesis-Diensten zur Veröffentlichung oder Verbreitung falscher Informationen genutzt wird. Auch die zuständigen staatlichen Stellen müssen informiert werden.