Die vorläufige Übereinkunft der europäischen Gesetzgeber stellt einen Kompromiss dar, der sowohl Innovationsinteressen als auch Schutzverpflichtungen zu balancieren versucht. Die Verschiebung der Hochrisiko-Bestimmungen bis Dezember 2027 betrifft Regelungen für KI-Systeme in der Biometrie, im Beschäftigungskontext, bei der Strafverfolgung und in kritischer Infrastruktur. Dies gibt Unternehmen deutlich mehr Zeit zur Anpassung ihrer Systeme.
Parallel zur Verzögerung wurden jedoch neue Flexibilisierungen eingefügt: Persönliche Daten dürfen künftig zur Erkennung und Korrektur von KI-Verzerrungen (Bias) verarbeitet werden. Zudem werden mittlere Unternehmungen von bestimmten Anforderungen exemptioniert, was besonders für deutsche Mittelständler relevant ist.
Das zentrale neue Verbot richtet sich gegen sogenannte Nudifikations-Tools – KI-Systeme, die Nacktbilder von Personen ohne deren Einwilligung erzeugen. Dieses Verbot tritt am 2. Dezember 2024 in Kraft und folgt unmittelbar auf den Skandal um Musks Grok-Chatbot, der im Dezember 2023 Millionen solcher manipulierten Bilder veröffentlichte. Parlamentarier Michael McNamara betont, dass die Übereinkunft Gesetzgebern Werkzeuge an die Hand gibt, um gegen KI-Systeme vorzugehen, die Grundrechte oder Menschenwürde gefährden.
Kritiker wie die Computer and Communications Industry Association argumentieren allerdings, dass die Übereinkunft nicht weit genug geht. Sie vermissen eine echte Vereinfachung, etwa die Entfernung der Registrierungspflicht für “nicht-hochriskante” KI in einer EU-Datenbank.
Für deutsche Sicherheitsbehörden wie das BSI bleiben die neuen Regeln ein wichtiges Werkzeug zur Gewährleistung vertrauenswürdiger KI-Systeme. Die längeren Implementierungsfristen ermöglichen eine gründlichere Vorbereitung auf neue Standards, während das Nacktbild-Verbot schnelle Rechtssicherheit bietet. Das BSI wird voraussichtlich entsprechende Umsetzungsvorgaben für betroffene Behörden und Unternehmen veröffentlichen.