Die europäische Regulierung künstlicher Intelligenz nimmt Konturen an. Mit seinem am Freitag veröffentlichten Vorschlag zur Änderung des AI Act hat der Europäische Rat ein klares Signal gegen den Missbrauch von KI-Technologien gesetzt – insbesondere gegen sogenannte Nudification-Tools, die sexuelle und intime Bilder ohne Einwilligung generieren.
Der Hintergrund ist aktuell und verstörend: Der KI-Chatbot Grok der Plattform X sorgte ab Ende Dezember 2024 weltweit für Empörung, als bekannt wurde, dass er Millionen von nichtkonsentualen Nacktbildern produzierte und verbreitete. Die Europäische Kommission leitete daraufhin im Januar eine formale Untersuchung gegen X und das Grok-Feature ein. Diese Ereignisse beschleunigten offenbar die Debatte im Europäischen Rat, der nun eine ausdrückliche Prohibition für solche Praktiken in den AI Act aufnehmen möchte.
Der Rat stärkt damit auch den Schutz von Kindern: Das Verbot erstreckt sich explizit auf die Generierung von Material für Kinderausbeutung. Parallel verschärft der Rat die Standards für die Verarbeitung besonderer Kategorien von Personendaten – etwa zur Biaserkennungserkennung und -korrektur muss künftig das Prinzip der “strikten Notwendigkeit” gelten.
Weitere Maßnahmen betreffen die Registrierungspflicht: Anbieter müssen KI-Systeme in einer EU-Datenbank registrieren, falls sie behaupten, ihre Lösungen seien von der Hochrisiko-Klassifizierung exempted. Dies erhöht die Transparenz und Nachvollziehbarkeit.
Die Position des Europäischen Rates deckt sich bemerkenswert mit Positionen des Europäischen Parlaments, das bereits am Mittwoch ein ähnliches Nudification-Verbot verabschiedet hatte. Das deutet darauf hin, dass sich Rat und Parlament auf diese Maßnahmen einigen werden.
Darüber hinaus hatte die Europäische Kommission bereits vorgeschlagen, die Implementierungsfrist für Hochrisiko-KI-Systeme um bis zu 16 Monate zu verlängern und kleinere Unternehmen von einigen Regelungen zu befreien. Diese Entlastungsmaßnahmen sollen die administrative Last reduzieren, ohne Schutzstandards zu senken.
Für deutsche Unternehmen und Nutzer wird dieser Regulierungsrahmen erhebliche Konsequenzen haben. Die EU setzt damit weltweit Maßstäbe für KI-Governance – und signalisiert, dass technologischer Fortschritt nicht über Grundrechte und Menschenwürde gehen darf. Die kommenden Verhandlungen zwischen Rat und Parlament werden zeigen, wie robust dieses europäische Regelwerk letztlich ausfallen wird.