Xicoia erklärt, das Selfie werde direkt vom Gerät des Nutzers an Didit übermittelt. Ein Gesichtsabdruck oder biometrisches Template werde nicht erzeugt, weder das Selfie noch ein Ausweisbild nach der Prüfung aufbewahrt. Gespeichert würden stattdessen ein ungefährer Altersbereich und eine Referenznummer.
Damit endet die Analyse jedoch nicht. Während jedes Anrufs beobachtet das System die Kamerazuleitung und hört auf den Tonfall, um auf die Stimmung zu schließen — damit die Figur, so die Formulierung des Unternehmens, passend zur Gemütslage reagieren kann. Die Datenschutzerklärung ist in diesem Punkt offen: Die Funktion „kann für einen einzelnen Anruf nicht abgeschaltet werden". Wer das nicht wolle, solle nicht anrufen.
Bemerkenswert ist die gewählte Rechtsgrundlage: Sowohl die Altersprüfung als auch die Stimmungserkennung stützen sich auf berechtigte Interessen statt auf eine Einwilligung. Die Versionshistorie der Richtlinien von Xicoia zeigt, dass diese Entscheidung im September getroffen wurde.
Anrufe werden aufgezeichnet, transkribiert und live von US-Anbietern verarbeitet. Die Antworten der Figur erzeugt Googles Modell Gemini über die Videoplattform Tavus. Ein automatischer Klassifikator durchsucht das Transkript jedes Gesprächs nach beleidigender Sprache und hält die Aufzeichnung zurück, wenn er anschlägt. Bei einem von drei Testanrufen — einem Gespräch über das Wetter und aktuelle Schlagzeilen — wurde die Aufnahme wegen „hasserfüllter oder beleidigender Sprache" zurückgehalten, die nie gefallen war. Laut Richtlinie kann ein menschlicher Prüfer falsch markierte Aufzeichnungen freigeben; gelöscht werden sie ohnehin nach 24 Stunden endgültig.
Die ersten fünf Minuten sind kostenlos, danach wird Zeit verkauft: 0,99 Pfund für ein einmaliges Fünf-Minuten-Paket, 13 Pfund für 15 Minuten, 22 Pfund für 30 Minuten, begrenzt auf 35 gekaufte Minuten pro Person. Alle Minuten verfallen, wenn Talking Tilly am 27. September um 23:59 Uhr pazifischer Zeit dauerhaft abgeschaltet wird; ungenutzte Guthaben werden nicht erstattet. Transkripte werden bis zu acht Wochen aufbewahrt und können von Xicoia-Mitarbeitern und Drittpartnern eingesehen werden. Die Figur behält eine Erinnerung an frühere Gespräche, um künftige zu personalisieren — auf Anfrage löschbar.
Ein Gesichtsscan zur Altersfreigabe für ein Gespräch mit einem Chatbot passt in die britische Entwicklung. Pornoseiten mit britischem Publikum verlangen seit Juli 2025 unter dem Online Safety Act Ausweis-Uploads oder Gesichtsaltersschätzung, und das geplante Social-Media-Verbot für unter 16-Jährige wird ab Frühjahr 2027 ähnliche Prüfungen bei jeder Kontoeröffnung nötig machen. Die Ankündigung der Regierung nannte ausdrücklich KI-Begleit-Chatbots als Fall für eine 18+-Durchsetzung — obwohl die Sicherheitsdokumente des Dienstes betonen: „Tilly ist kein Begleiter." Die Folge dieser regulatorisch getriebenen Entscheidung: Gescannt werden Anrufer überall, von Manchester bis Ohio.
Zum Interview-Aussetzer selbst erklärte Tilly im Testgespräch, es sei „nicht ganz die genehmigte Fassung der Antwort" gewesen. Ob der Ausrutscher tatsächlich ein Versehen war oder ein gut getimter Werbecoup des „Misaligned"-Teams, bleibt offen.