Den rechtlichen Kern bilden zwei Regelwerke. Artikel 82-8 des Public Official Election Act, 2023 eingeführt, untersagt für 90 Tage vor dem Wahltag den Einsatz virtueller Töne, Bilder oder Videos, die kaum von der Realität zu unterscheiden sind. Verstöße werden mit Freiheitsstrafe von bis zu sieben Jahren oder einer Geldstrafe zwischen zehn und 50 Millionen Won (etwa 6.700 bis 33.500 US-Dollar) geahndet.
Hinzu kommt der AI Basic Act, der Anfang vergangenen Jahres beschlossen wurde und seit diesem Januar in Kraft ist. Nach Artikel 31 Absatz 3 müssen KI-Anbieter klar erkennbar kennzeichnen, wenn ihre Systeme schwer von echten Inhalten unterscheidbare Audio-, Bild- oder Videoinhalte erzeugen; bei künstlerischen oder kreativen Werken darf der Hinweis so erfolgen, dass er deren Darbietung nicht stört. Wer den Einsatz von Deepfake-Inhalten nicht transparent macht — etwa per Wasserzeichen —, dem droht ein Bußgeld von bis zu 30 Millionen Won (rund 20.000 US-Dollar).
Zur Unterstützung ihrer Ermittlungen entwickelte die südkoreanische Nationalpolizei (KNPA) ein Werkzeug zur Deepfake-Erkennung, das 2024 in Betrieb ging. Das Land kämpft seit Jahren auch gegen eine Flut KI-generierter sexuell expliziter Inhalte: Laut einem Bericht der Firma Security Hero aus dem Jahr 2023 stellen südkoreanische Sängerinnen und Schauspielerinnen weltweit 53 Prozent der in Deepfake-Pornografie gezeigten Personen und sind damit die am häufigsten betroffene Gruppe.
Brian Long, CEO und Mitgründer von Adaptive Security, bezeichnet die Wahl als ersten echten Belastungstest für Südkoreas Regelwerk. Klare rechtliche Strukturen erlaubten Ermittlern schnelleres Handeln und verpflichteten Plattformen deutlicher, rechtswidrige Inhalte zu entfernen. Das Problem liege in den Kanälen, die Aufsichtsbehörden nicht erreichten: “Deepfakes, die über verschlüsselte Messenger, gezielte SMS-Kampagnen und direkte Sprachanrufe verbreitet werden, sind schneller als jeder Faktenprüfer.” Gesetze adressierten die Angebotsseite, Aufklärung die Nachfrageseite.
Dr. Hany Farid, Mitgründer von GetReal Security, attestiert Südkorea, schneller voranzugehen als die meisten Regierungen, sieht in Regulierung aber nur eine Untergrenze. “Der Kern des Problems sind Geschwindigkeit und Asymmetrie”, sagt er. Ein realistischer Deepfake eines Präsidentschafts- oder Bürgermeisterkandidaten lasse sich mit frei verfügbaren Werkzeugen erstellen und verbreite sich binnen Sekunden, während Erkennung, Ermittlung und Entfernung Tage oder Wochen dauerten. Nötig sei ein mehrschichtiger Ansatz aus Rechenschaftspflicht für Plattformen, Erkennungsinfrastruktur und Medienkompetenz.
Als Abschreckung fallen die bisherigen Ergebnisse gemischt aus: Vor der Kommunalwahlsaison 2024 erfasste Südkoreas Nationale Wahlkommission zwischen dem 29. Januar und dem 16. Februar 129 Deepfakes, die gegen die Wahlgesetze verstießen. Auch vor der diesjährigen Wahl gehen Wahlbeamte Berichten zufolge täglich gegen solche Inhalte vor.
Zum Vergleich: In den USA gibt es kein umfassendes Bundesgesetz, das Deepfakes bei Wahlen ausdrücklich regelt, wohl aber Regelungen einzelner Bundesstaaten wie Kalifornien und Texas. Europa verfügt mit dem EU AI Act über eine Pflicht, manipulierte oder künstlich erzeugte Inhalte offenzulegen. Long zufolge könnte ein bundesweiter Rahmen mit klaren Fristen, Kennzeichnungspflichten und durchsetzbaren Strafen den US-Bundesstaaten vor den Zwischenwahlen 2026 einheitliche Spielregeln geben.