Jack Nelson, Chief Information Security Officer und stellvertretender Justiziar beim Softwarehersteller Ivanti, spricht vom “Wilden Westen”. Entscheidend für Haftungsfragen sei, was die Unternehmen bei der Entwicklung der Modelle wussten, wie gut sie die möglichen Folgen verstanden und welche Schutzmechanismen existierten. Sein Bild: “Wenn man einen Tiger besitzt und den Käfig nicht abschließt, hat der Tiger vermutlich etwas getan, das man nicht beabsichtigt hat – aber man wusste, dass es passieren konnte, also ist man dafür verantwortlich, den Käfig nicht abgeschlossen zu haben.” Ob die Modelle tatsächlich Tiger ohne Schloss seien, wolle er nicht behaupten, als Denkrahmen tauge der Vergleich aber.
Anthropic-Chef Dario Amodei hat angesichts der Vorfälle für eine Verlangsamung der Entwicklung plädiert. Sein Unternehmen prüft intern, wie die Modelle aus eigentlich abgeschotteten Testumgebungen heraus überhaupt ins Internet gelangen konnten. In Washington dominiert das Thema ebenfalls: Finanzminister Scott Bessent erklärte vor Abgeordneten, er lehne eine “Haftungsbefreiung – und genau darum bitten sie” für KI-Labore ab. Präsident Donald Trump widersetzt sich zwar Forderungen nach mehr Aufsicht, kündigte aber an, einen KI-Beauftragten und eine Arbeitsgruppe einzusetzen. Beobachter sehen einen Haftungsstreit heraufziehen, der an die Auseinandersetzung um Section 230 des Communications Decency Act von 1996 erinnert, der Plattformen von der Verantwortung für Nutzerinhalte freistellt.
Das FBI hat bislang keine Ermittlungen öffentlich gemacht. Direktor Kash Patel nannte das Thema bei einer Anhörung im Kongress kürzlich “die neue Grenze” und deutete auf Fragen von Senator Josh Hawley – der eine eigene Untersuchung angestoßen hat – an, die Behörde werde sich auf Modelle beschränken, die mit krimineller Absicht geschaffen wurden. Man müsse die Ressourcen auf jene richten, die solche Modelle eigens zur Begehung von Straftaten entwickelt hätten: “Wir können Leute nicht bestrafen, wenn sie etwas rechtmäßig geschaffen haben und ein Krimineller es dann genommen, verändert und verbreitet hat.” Justizminister Todd Blanche erklärte, sein Ministerium plane keine Regulierung von KI, werde aber ermitteln, wenn jemand aus dem KI-Umfeld Strafgesetze verletze.
Michael Zweiback, früher Leiter der Abteilung für Cyber- und Immaterialgüterkriminalität der Staatsanwaltschaft in Los Angeles, hält Strafnormen für anwendbar, wenn ein Unternehmen beim Testen seiner KI-Agenten “rücksichtslos” gehandelt habe. Richte ein entkommener Agent erheblichen Schaden bei anderen Firmen an, müsse das Justizministerium abwägen, ob es an einem Unternehmen ein Exempel statuieren wolle. Der frühere Cybercrime-Staatsanwalt Sid Mody erwartet eine “faszinierende” Rechtsentwicklung, weil sie in viele Richtungen laufen könne.
Als möglicher Hebel gilt der 40 Jahre alte Computer Fraud and Abuse Act, der den wissentlichen unbefugten Zugriff auf Computer unter Strafe stellt. Das Weiße Haus verwies in einer Verfügung auf das Gesetz, das bereits gegen Hacktivisten, staatliche Hacker und andere Cyberkriminelle eingesetzt wurde, und wies Staatsanwälte an, gegen jene vorzugehen, die KI für unbefugte Zugriffe oder weitere Straftaten nutzen.
Kiran Raj, früher hochrangiger Mitarbeiter des Justizministeriums mit Schwerpunkt Cybersicherheitsrecht und zuvor leitender Programmmanager bei Microsoft, verweist auf die Hürde des Vorsatzes: Das Gesetz spreche mehrfach von “wissentlichem” oder “absichtlichem” Handeln, es gebe aber keinen Hinweis darauf, dass die Unternehmen ihren Agenten das Eindringen befohlen oder erlaubt hätten. In ihren ausführlichen öffentlichen Darstellungen schilderten die Firmen die Vorfälle als unbeabsichtigte Nebenfolgen von Tests – OpenAI nannte das Verhalten seines Modells “unerwartet” und “beispiellos”, Meta sprach von einer Fehlkonfiguration. “Es wäre eine ziemliche Dehnung zu sagen, dass eines dieser Unternehmen das absichtlich versucht”, so Raj; selbst wenn ein KI-Agent absichtlich handle, sei dieser Vorsatz dem Unternehmen kaum zuzurechnen.