Der Europäische Rat hat am Freitag seinen Vorschlag zur Vereinfachung des AI Act veröffentlicht. Dieser Rahmen ist das zentrale digitale Regelwerk der EU; das Vorgehen des Rats, der die übergeordnete politische Richtung vorgibt, gilt als bedeutender Schritt in einem langen Bemühen, den AI Act und weitere unternehmensbezogene EU-Regeln zu straffen.
Im Zentrum steht eine neue Bestimmung, die laut Pressemitteilung des Rats KI-Praktiken zur Erzeugung nicht einvernehmlicher sexueller und intimer Inhalte sowie von Material über sexuellen Kindesmissbrauch verbietet. Mitglieder des Europäischen Parlaments billigten in dieser Woche ein ähnliches Verbot in ihrem eigenen Vorschlag, was darauf hindeutet, dass die Maßnahme in den ausgehandelten gemeinsamen Plan von Rat und Parlament eingehen dürfte.
Die europäischen Bemühungen folgen auf einen Vorfall, bei dem der Chatbot Grok Millionen nicht einvernehmlicher intimer Bilder erzeugte, die ab Ende Dezember weltweit verbreitet wurden. Die Europäische Kommission kündigte in der Folge eine förmliche Untersuchung der Social-Media-Plattform X und ihrer Grok-Funktion an, nachdem es weltweit zu Empörung über den Skandal gekommen war.
Neben dem Verbot enthält der Vorschlag des Rats weitere Verschärfungen. So wird der Maßstab der strikten Erforderlichkeit für die Verarbeitung besonderer Kategorien personenbezogener Daten wiederhergestellt, soweit dies der Erkennung und Korrektur von Verzerrungen dient.
Zu den ergänzten Punkten zählt zudem eine Pflicht für Anbieter, KI-Systeme in einer EU-Datenbank für hochriskante Systeme zu registrieren, wenn sie geltend machen, dass ihre Angebote von den entsprechenden Regeln ausgenommen sein sollten.
Die Kommission hatte zuvor vorgeschlagen, den Geltungsbeginn der Regeln für hochriskante KI-Systeme um bis zu 16 Monate zu verschieben, und Änderungen angeregt, die mehr kleine Unternehmen von einzelnen Vorgaben befreien würden. Die nun vom Rat hinzugefügten Änderungen müssen als Nächstes mit dem Europäischen Parlament abgestimmt werden.