AFT-Präsidentin Randi Weingarten nannte die Vereinbarung die „erste ihrer Art" und einen wichtigen Schritt hin zu einem Branchenstandard – angesichts fehlender Gesetzgebung auf Bundes- und Einzelstaatenebene zu KI an Schulen. „Wir wollen, dass Eltern die Kontrolle über die Bildung ihrer Kinder haben. Wir wollen, dass Lehrkräfte diese Kontrolle haben, nicht die Bildungstechnologie-Branche. Und genau das ist diese Vereinbarung", sagte Weingarten.
Sie sprach auf einer gemeinsamen Pressekonferenz mit Smith in der Zentrale der United Federation of Teachers, des New Yorker AFT-Ablegers. Dort ist auch die National Academy for AI Instruction der AFT für Lehrkräfte angesiedelt, die vor einem Jahr mit 23 Millionen Dollar von Microsoft, OpenAI und Anthropic gestartet war.
OpenAI und Anthropic verhandeln nach eigenen Angaben ebenfalls über Sicherheits- und Datenschutzabkommen mit der AFT. OpenAI bezeichnete die Microsoft-Vereinbarung als „wichtigen Meilenstein für KI-Sicherheit und Datenschutz an Schulen" und erklärte, man freue sich darauf, die eigene Abmachung abzuschließen. Anthropic teilte mit, man begrüße alle Bemühungen um einen verantwortungsvollen KI-Einsatz in der Bildung, und arbeite mit der AFT an einem „Goldstandard für Sicherheit und Datenschutz".
Offen bleibt die Haltung von Google, des dominierenden Anbieters von Bildungstechnologie an US-Schulen. Weingarten sagte, sie habe das Unternehmen vor der Veröffentlichung direkt kontaktiert, in der Hoffnung auf einen Beitritt. Auf eine Anfrage der Associated Press, ob vergleichbare Schutzmaßnahmen geplant seien, reagierte Google nicht.
Google war im August in die Kritik geraten, nachdem es seinen Chatbot Gemini für viele Schüler des K-12-Bereichs in Google Classroom freigeschaltet hatte. Das Lernmanagementsystem wird nach Firmenangaben weltweit von 150 Millionen Lehrkräften und Schülern genutzt. Bis dahin hatte Google Gemini nur für Schüler ab 18 Jahren zugelassen; die Freischaltung betrifft Schulen, die den Zugang zur Gemini-App oder zu Gemini Notebook erlauben. Kritiker sahen darin eine Eskalation des Wettlaufs der Tech-Konzerne um die nächste Generation von KI-Nutzern.
Josh Golin, Geschäftsführer der Online-Sicherheitsorganisation Fairplay, hält die Sicherheitsbestimmungen für substanziell, aber nur wirksam, wenn alle KI-Unternehmen mitziehen. Die Vereinbarung umgehe die Frage, ob KI-Produkte überhaupt ins Klassenzimmer gehören und ab welchem Alter. „Ich befürchte, dass ein so prominentes Rahmenwerk missverstanden wird und Schulen denken: Wenn sie beim Datenschutz und der Sicherheit gute Arbeit leisten, dann sollten wir das Werkzeug auch einsetzen", sagte Golin. Er verwies zudem auf Tausende KI-gestützte Bildungsprodukte kleinerer Anbieter.
Elizabeth Laird vom Center for Democracy and Technology erhofft sich Entlastung für einzelne Schulbezirke, deren Verhandlungsmacht gegenüber großen Tech-Firmen bislang oft von der Finanzkraft abhing. Der Standard mache Fortschritte dabei, diese Ungleichheit zu verringern. Sie lobte, dass die Vereinbarung über das gesetzlich Geforderte hinausgehe: Microsoft verzichte auch auf sensible Daten wie Geschlecht, Herkunft, Alter oder Postleitzahl, über die sich Personen selbst nach Entfernung des Namens identifizieren lassen.
New York City und Los Angeles planen parallel zu ihrem Moratorium umfangreiche Prüfungen ihrer Verträge über Bildungstechnologie und KI-Werkzeuge mit Schwerpunkt auf Datenschutz, Transparenz und Rechenschaft. Das Verbot in New York City gilt für Grund- und Mittelschüler, in Los Angeles auch für die High School.