CoChat startet Plattform gegen Schatten-KI in Unternehmen

Schatten-IT ist ein altbekanntes Sicherheitsthema. Ihre Ursache liegt meist im Bemühen der Mitarbeiter, im Job besser zu werden; ihre Folge ist die Einführung unbekannter und ungesteuerter Risiken. Zunehmend handelt es sich bei den heimlich eingeführten Werkzeugen um KI-Tools – die Wirkung bleibt dieselbe, das Risiko wächst jedoch.

Ein zentrales Problem sieht CoChat in der Verlässlichkeit der Modelle: Antworten von LLMs sind nicht garantiert korrekt, und unterschiedliche Nutzer können verschiedene Modelle einsetzen, die auf dieselbe Frage abweichende Antworten liefern. Hinzu kommt, dass weder die IT noch die Sicherheitsabteilung oder der Rest der Organisation davon weiß, dass Beschäftigte ihr Wissen nicht auf eigenes Urteil, sondern auf ein externes, unbekanntes Modell stützen.

Besonders heikel wird es laut Anbieter bei agentischen Systemen mit autonomem Handlungsspielraum. Das LLM steuert mit seiner eigenen, nicht fehlerfreien Schlussfolgerung den Agenten – mitunter ohne weitere Rücksprache mit dem Nutzer. CoChat schaltet hier eine Kontrollschicht dazwischen, die die Begründung des Modells prüft, bevor der Agent handelt.

Als Beispiel für die Triebkraft hinter Schatten-KI nennt der Artikel OpenClaw, einen autonomen persönlichen Assistenten, der nach Schätzungen rund drei Millionen aktive Nutzer hat. „Menschen spüren den Druck, das Maximum aus KI herauszuholen und ihre Produktivität zu steigern", sagt Marcel Folaron, CEO von CoChat. „Also greifen sie zu automatisierten KI-Werkzeugen wie OpenClaw und anderen lokal installierten Tools, nicht unbedingt mit Wissen der IT. Das kann sehr gefährlich sein. Diese Werkzeuge haben Zugriff auf alles in Ihrem System, und ohne die richtigen Kontrollmechanismen können sie außer Kontrolle geraten."

Erkennt die Plattform eine als gefährlich bewertete Aktion, verzögert sie diese und bittet den Nutzer um Freigabe oder Ablehnung; die nächste Aktion wird dann vom Nutzer bestimmt statt automatisch vom System ausgeführt. „CoChat bringt die führenden KI-Lösungen nahtlos in einen sicheren Arbeitsbereich, damit Teams wirksamer zusammenarbeiten und diese Werkzeuge mit mehr Transparenz und Vertrauen nutzen können", so Folaron.

Zur Funktionsweise zieht der Text einen Vergleich mit Slack: So wie dessen Kanäle Einzelne in Teamarbeit zusammenführen, lassen sich auf CoChat die Leistung verschiedener LLMs und agentischer Systeme sehen und vergleichen. Ein einzelner Nutzer könnte sich von der Neigung eines Modells täuschen lassen, ihm zu gefallen und die vermeintlich erwünschte Antwort zu liefern – andere Mitglieder können solche Antworten hinterfragen.

CoChat erlaubt jedem Nutzer, das LLM und agentische System seiner Wahl einzusetzen, und ermuntert zum Einsatz mehrerer Modelle, um Halluzinationen und Fehlsteuerungen aufzudecken. Als Plattform sorgt sie damit nicht nur für einen Menschen im Entscheidungsprozess, sondern für mehrere. Die genutzte KI bleibt technisch womöglich Schatten-KI, erhält aber eine Schicht aus Sichtbarkeit, Transparenz und Governance.