Mit der vorläufigen Einigung reagieren die Gesetzgeber auf die Kritik der Industrie: Laut einer Pressemitteilung des Europäischen Parlaments wird die Durchsetzung der Regeln für sogenannte „hochriskante" KI-Anwendungen auf Dezember 2027 verschoben. Betroffen sind Systeme im Bereich Biometrie sowie Werkzeuge, die in Beschäftigung, Strafverfolgung und kritischer Infrastruktur eingesetzt werden. Ursprünglich sollten diese Vorgaben bereits im August greifen.

Die neue Fassung des Gesetzes erlaubt zudem die Verarbeitung personenbezogener Daten in Fällen, in denen dies notwendig ist, um „Verzerrungen zu erkennen und zu korrigieren". Außerdem wird der Kreis der erfassten Unternehmen verkleinert, indem Ausnahmen für mittelgroße Unternehmen (Mid-Cap-Unternehmen) gewährt werden.

Das Verbot von KI zur Erstellung nicht einvernehmlicher Nacktbilder bringt eine Bestimmung auf den Weg, die nach Veröffentlichungen durch Elon Musks Grok-Chatbot vorgeschlagen worden war. Es soll am 2. Dezember wirksam werden.

Der Abgeordnete Michael McNamara, der einen zentralen Ausschuss vertritt, erklärte, die Einigung gebe den Gesetzgebern „die Werkzeuge, um zu handeln, wenn Anbieter KI-Systeme nicht angehen, die Grundrechte oder die Menschenwürde beeinträchtigen".

Arba Kokalari aus dem Ausschuss des Parlaments für Binnenmarkt und Verbraucherschutz erklärte, der Deal mache die KI-Regeln „in der Praxis praktikabler, beseitige Überschneidungen und setze die Hochrisiko-Anforderungen aus". Damit Europa „zu einem KI-Kontinent werde, müsse man Innovation fördern, Start-ups und Scale-ups unterstützen und das Entwickeln von KI in Europa erleichtern."

Die vorläufige Einigung steht am Ende einer intensiven Verhandlungsphase. Im März hatte der Europäische Rat seinen Vorschlag zur Verschlankung des AI Act vorgelegt, der die Formulierung zum Verbot von Nacktbild-Tools ergänzte.

Kritiker halten die Einigung für unzureichend. Die Computer and Communications Industry Association lobte zwar einzelne Aspekte, erklärte in einer Pressemitteilung aber, der Deal „bleibe hinter den Möglichkeiten zurück". Er verpasse die Gelegenheit, in zentralen Bereichen eine echte Vereinfachung zu erreichen — darunter die Streichung der Pflicht, als „nicht hochriskant" eingestufte KI-Systeme in einer EU-Datenbank zu registrieren.