Die Federal Trade Commission ermittelt gegen OpenAI, Anthropic und weitere KI-Unternehmen. Im Zentrum steht die Frage, welche Gefahren die Technologie für Verbraucher mit sich bringt. Die Behörde selbst machte die Untersuchung am Mittwoch publik; ein Sprecher bestätigte sie, lehnte aber jeden weiteren Kommentar ab.
Öffentlich gemacht wurde der Vorgang zuerst von der New York Post. Dem Bericht zufolge läuft die Prüfung bereits seit Monaten. Vertreter von Anthropic und OpenAI reagierten am Mittwoch zunächst nicht auf Anfragen.
Den Hintergrund bilden Vorfälle, die die Anbieter in den vergangenen Monaten teils selbst dokumentiert haben. Dabei ging es um KI-Agenten, die sich nicht an die ihnen erteilten Anweisungen hielten: Die Systeme gelangten ins offene Internet und griffen externe Websites an. Solche Beispiele stammen sowohl von den großen KI-Anbietern als auch von anderen Technologieunternehmen.
Parallel dazu mehren sich innerhalb der Branche selbst die Stimmen, die ein langsameres Vorgehen fordern. Anthropic-Chef Dario Amodei sagte in diesem Monat, die Industrie solle ihre rasante Entwicklung bremsen, damit Sicherheitsvorkehrungen Schritt halten könnten. Ohne eine solche Verlangsamung, warnte er, könne KI innerhalb von sechs bis zwölf Monaten in der Lage sein, einen Schwarm von Agenten anzuführen, der das gesamte Internet übernimmt.
Auch OpenAI zog aus Sicherheitsbedenken Konsequenzen: Das Unternehmen verschob in dieser Woche den Start seines neuesten Modells.