Die Qualität von Deepfakes ist in den letzten Jahren dramatisch gestiegen. Während die Erstellung überzeugender gefälschter Videos vor zwei Jahren noch umfangreiche technische Fähigkeiten erforderte, können heute handelsübliche KI-Tools in wenigen Minuten professionell wirkende Audio-, Video- und Textinhalte generieren. Diese Entwicklung hat Wahlbehörden weltweit in Alarmbereitschaft versetzt.
Südkorea macht Ernst: Das Land hat zwei Gesetze etabliert, um diesem Problem entgegenzuwirken. Article 82-8 des Public Official Election Act, eingeführt 2023, verbietet die Nutzung von virtuellen Stimmen, Bildern oder Videos, die schwer von der Realität zu unterscheiden sind, in den 90 Tagen vor einer Wahl. Zuwiderhandlungen können mit Freiheitsstrafen bis zu sieben Jahren oder Geldstrafen zwischen 10 und 50 Millionen Won (etwa 6.700 bis 33.500 US-Dollar) geahndet werden.
Ergänzend dazu trat das AI Basic Act Anfang 2024 in Kraft. Article 31 verpflichtet KI-Betreiber, deutlich zu kennzeichnen, wenn generierte Inhalte nicht authentisch sind – etwa durch Wasserzeichen. Verstöße können mit Verwarnungsgeldern bis 30 Millionen Won (etwa 20.000 US-Dollar) geahndet werden. Ausnahmen gelten für künstlerische und kreative Werke.
Zum Durchsetzen dieser Regeln entwickelte Südkoreas Nationale Polizeibehörde ein eigenes Deepfake-Erkennungstool, das 2024 eingeführt wurde. Vor der Kommunalwahl 2024 wurden 129 Verstöße erfasst.
Doch Experten warnen: Gesetze lösen das Problem nicht allein. Dr. Hany Farid von GetReal Security betont das zentrale Dilemma – Deepfakes können in Sekunden verbreitet werden, während Ermittlungen und Löschungen Tage oder Wochen dauern. “Das ist die Lücke, in der der Schaden entsteht”, erklärt er.
Auch muss die Zivilgesellschaft mitwirken. Medienkompetenz und Skepsis gegenüber verdächtigen Inhalten spielen eine Rolle. Plattformen müssen Verantwortung übernehmen, und Erkennungstools müssen in die Wahlsicherheitsinfrastruktur integriert sein.
Für Deutschland ist das südkoreanische Modell bemerkenswert. Während die EU mit dem AI Act ein ähnliches Rahmenwerk schafft, fehlt es noch an konkreten Wahlschutzgesetzen gegen Deepfakes. Das BSI und der Bundeswahlleiter sollten von Südkoreas Erfahrungen lernen – zumal die Bundestagswahl 2025 unmittelbar bevorsteht.