Der aktuelle KI-Markt ist stark sprachzentriert organisiert, und nach Darstellung des Quelltexts vor allem englischzentriert. Führende Modelle wie OpenAI GPT, Google Gemini und Anthropic Claude zeigen demnach starke Leistung in etwa 30 bis 40 Sprachen, darunter Englisch, Arabisch, Spanisch, Französisch, Deutsch, Japanisch, vereinfachtes Chinesisch und Hindi. Weniger stark unterstützte Sprachen wie Walisisch oder Swahili schaffen dagegen teils nur einfache Eingaben und machen grammatikalische Fehler. Forschungsergebnisse zeigen zudem, dass viele große Sprachmodelle Logik-, Reasoning-, Programmier- und Mathematikaufgaben am besten lösen, wenn sie auf Englisch angesprochen werden.

DeepKeep hat das Sicherheitsproblem dieser Schieflage in einem Blogbeitrag mit dem Titel „Ihre KI spricht 100 Sprachen. Ihre KI-Sicherheitsschicht nicht“ aufgegriffen. Das Unternehmen argumentiert, dass sich Sicherheitsabsichten bei Übersetzungen verschieben können. Ein Jailbreak könne weniger explizit werden, eine Prompt Injection einen Teil ihrer Befehlsstruktur verlieren. Kulturell geprägte Formulierungen könnten verflacht werden, sensible Begriffe schlecht übersetzt sein oder in Sprachformen landen, die nicht mehr zur Sicherheitsrichtlinie passen. Besonders problematisch seien gemischte Eingaben in mehreren Sprachen, bei denen die schädliche Anweisung in einer Sprache erhalten bleibe, während der umgebende Kontext in einer anderen harmlos wirke.

Nach Einschätzung von Yossi Altevet trifft das Europa besonders häufig im Alltag. Der Grund sei nicht eine grundlegend andere Art des Risikos, sondern die Dichte mehrsprachiger Abläufe. Die Europäische Union erkennt 24 Amtssprachen an; hinzu kommen zahlreiche Regional- und Minderheitensprachen, die Beschäftigte vorwiegend nutzen können. Paolo Palumbo, Vice President für strategische Bedrohungsaufklärung und Forschung bei WithSecure, sagte Dark Reading, Europa sei nicht einzigartig von Sicherheits- und Safety-Unterschieden in ressourcenschwächeren KI-Sprachen betroffen. Die operative Herausforderung sei dort aber besonders komplex, weil Organisationen dasselbe Produkt häufig über mehrere sprachliche Umgebungen hinweg einsetzen.

Palumbo warnt davor, dass mehrsprachige Sicherheit in der KI-Governance übersehen werden könnte. Unternehmen sollten von Anbietern Nachweise für mehrsprachige Sicherheit verlangen, statt diese aus allgemeinen Sprachunterstützungszusagen abzuleiten. Zum EU AI Act sagt er, das Gesetz verlange nicht allgemein, dass jedes KI-Produkt in jeder unterstützten Sprache identische Sicherheitsleistung erreichen müsse, und ein gewöhnlicher Chatbot sei nicht automatisch ein Hochrisikosystem. Für Hochrisikosysteme verlange das Gesetz aber kontinuierliches Risikomanagement sowie angemessene Genauigkeit, Robustheit und Cybersicherheit über den gesamten Lebenszyklus hinweg. Wenn sprachliche Unterschiede diese Kontrollen wesentlich beeinflussen, könne sprachspezifisches Testen Teil des Nachweises für die Compliance werden.

DeepKeep verweist auch auf eigene Benchmarks. Dabei zeigten Deutsch, Spanisch, Französisch und Italienisch bei übersetzungsbasierter Erkennung personenbezogener Daten deutliche Genauigkeitsverluste im Vergleich zur Analyse in der jeweiligen Ursprungssprache. Altevet folgert daraus, dass Europas mehrsprachige Realität diese Lücken praktisch ständig sichtbar mache. Filip Mazán, Senior Manager für KI-Forschung bei ESET, sieht zugleich einen Vorteil: Viele europäische Sprachen seien einander ähnlich. So hätten etwa Englisch und Deutsch überlappenden Wortschatz, und auch viele slawische Sprachen teilten Strukturen und Vokabular.

Trotzdem bleibt laut den zitierten Experten wichtig, zwischen Sprachfähigkeit, Sicherheitsausrichtung und nachgelagerten Sicherheitskontrollen zu unterscheiden. Ein Modell kann Deutsch oder Spanisch gut verstehen und sprechen, ohne dass seine Sicherheitsleitplanken dort ebenso zuverlässig arbeiten. Altevet sagt, Angreifer nutzten das gezielt aus und wiederholten schädliche Befehle in mehreren Sprachen, um Filter zu umgehen, die primär auf Englisch abgestimmt seien.

Als Beleg nennt DeepKeep Forschung der Brown University aus 2023 und 2024. Demnach lieferte OpenAI GPT-4 auf unsichere Eingaben, die in ressourcenschwache Sprachen übersetzt wurden, in 79 Prozent der Fälle schädliche und umsetzbare Antworten. Die ursprünglichen englischen Eingaben führten in weniger als 1 Prozent der Fälle zu vergleichbar schädlichen Antworten.

Microsoft testet seine KI-Systeme laut Pete Bryan, technischem Leiter des Microsoft AI Red Team, seit Jahren gezielt über verschiedene Sprachen hinweg, weil sich Sicherheitsverhalten und Verhaltensprofil eines Modells je nach Eingabesprache und Antwortsprache verändern könnten. Das Unternehmen übersetze dabei nicht nur englische Szenarien direkt, sondern kombiniere auch mehrere Sprachen innerhalb eines Testfalls. Als Gegenmaßnahmen beschreibt der Quelltext unter anderem übersetzungsbasierte Sicherheitsfilter, muttersprachliche Leitplanken, mehrsprachige Red-Teaming-Tests sowie KI-Firewalls zur Laufzeit, die verdächtige Werkzeugaufrufe blockieren, Datenabfluss verhindern, prompt-injizierte Aktionen zu stoppen versuchen und auffällige Vorfälle protokollieren.