Safran beschreibt zwei aktuelle Beispiele, die sie an das Problem erinnert hätten. Im ersten Fall ging es um eine Produkt-Pressemitteilung, die aus ihrer Sicht eher schlampiges Storytelling als reine KI-Massenware gewesen sei. Der Begriff „Mythos“ habe bereits in Überschrift, Unterzeile und den ersten beiden Absätzen gestanden, während die eigentliche Produktnachricht erst in Absatz drei aufgetaucht sei.
Unternehmen wollten in KI-Suchergebnissen sichtbar sein und sich an größere Branchendebatten anhängen, schreibt sie. Schlüsselwörter spielten dabei eine wichtige Rolle. Wenn eine Pressemitteilung aber vor allem als Inhalt für einen Algorithmus formuliert werde statt als Dokument, das Medien eine Nachricht vermittelt, verfehle sie ihren Zweck. Ihre Empfehlung an Anbieter: bei den Fakten bleiben, Einordnung in die Zitate legen und dem Publikum zutrauen, die Ankündigung selbst zu erfassen.
Das zweite Beispiel bezeichnet Safran ausdrücklich als reine KI-Massenware. Gemeint ist ein LinkedIn-Beitrag eines in der Cybersicherheits-Community angesehenen Mitglieds. Der Beitrag habe mehr als 100 Likes und ein Dutzend Kommentare erhalten. Die Grundlage sei jedoch keine redaktionell erarbeitete Berichterstattung gewesen, sondern ein KI-generierter Blogbeitrag, der einer Person zugeschrieben worden sei, die eine Plattform zur KI-Inhaltserstellung betreibt.
Besonders problematisch fand Safran, dass dieser Beitrag auf veralteten Website-Abzügen basierte und dabei eine Person erwähnte, die sie gekannt habe und die bereits vor zwei Jahren gestorben sei. Für sie zeigt das, welches Risiko entsteht, wenn KI-generierte Texte ohne substanzielle menschliche Aufsicht veröffentlicht werden. Sie nennt Missverständnisse, sachliche Fehler und Halluzinationen als typische Gefahren solcher Inhalte.
Nach ihrer Einschätzung ist die Branche selbst mitverantwortlich dafür, dass sich diese Art von Inhalten ausbreitet. Beide von ihr genannten Veröffentlichungen seien vermutlich vor der Publikation durch mehrere Prüfrunden gegangen. Damit seien nicht nur die Ersteller, sondern auch jene beteiligt, die solche Texte passieren lassen. Safran schließt sich selbst in diese Kritik ausdrücklich ein.
Sie berichtet, dass sie die Person hinter dem LinkedIn-Beitrag privat kontaktiert habe, ihre Bedenken aber aus Angst, Anstoß zu erregen, zu umständlich und zu verklausuliert formuliert habe. Am Ende habe sie sogar den Impuls mitgetragen, den Beitrag online zu lassen; er sei weiterhin verfügbar. Auch deshalb sagt sie: „Ich bin ebenfalls Teil des Problems. Daran arbeite ich.“
Grundsätzlich lehnt Safran KI nicht ab. Sie schreibt, die Technologie werde bleiben und sei außerordentlich nützlich. Die meisten Menschen würden sie weiter verwenden. Ihre eigentliche Sorge gelte dem Moment, in dem aus einem Entwurf ein vermeintlich fertiger Text werde, ohne dass Menschen ihn inhaltlich ernsthaft prüfen und mit eigener Erfahrung anreichern.
Zur Einordnung verweist sie darauf, dass KI-Halluzinationen in juristischen und wissenschaftlichen Kontexten bereits realen Schaden verursacht hätten. Die Cybersicherheit sei dagegen nicht immun, zumal das Feld ohnehin schon von Komplexität, Falschinformationen und Übertreibungen geprägt sei. Die Lehre von Rhonda Maclean sei deshalb nicht nur eine Lektion über Kommunikation, sondern über Verantwortung für die eigene Erzählung. KI könne beim Formulieren helfen, die Erfahrung und Glaubwürdigkeit hinter einer Geschichte aber nicht ersetzen.