CIOs müssen Governance für KI-Collaboration-Tools überdenken

Kollaborationsplattformen sind das neue Wissenssystem

Der Aufstieg von KI-Assistenten und -Agenten beschleunigt zudem eine umfassendere Entwicklung, die in Kollaborationsumgebungen bereits im Gange ist.

„KI sollte nicht darauf beschränkt sein, lediglich als Hilfswerkzeug zu fungieren“, sagt Richard Bassett, Vice President Agentic AI bei Nice. „Wenn KI direkt in den Ablauf der Ausführung eingebettet ist, kann sie Arbeitsvolumen auffangen, Ergebnisse gestalten, Eskalationsmuster beeinflussen und letztendlich die Art der Arbeit, die an menschliche Teams gelangt, neu gestalten.“

Dies zeigt sich besonders deutlich im Kundenservice, wo Mitarbeiter zunehmend über mehrere Kommunikationskanäle gleichzeitig arbeiten. Laut einer Studie von Nice (PDF) geben 79 Prozent der Kontaktzentren an, während der meisten oder jeder Schicht mehrere Kanäle gleichzeitig zu bedienen. In solchen Umgebungen leistet KI mehr, als nur den Mitarbeitern zu helfen, schneller zu arbeiten. Sie schafft einen wachsenden Bestand an wiederverwendbarem Unternehmenswissen.

Besprechungsprotokolle, zusammengefasste Aktionspunkte, Interaktionsverläufe und Workflow-Aufzeichnungen werden Teil einer sich kontinuierlich erweiternden Informationsebene, die unternehmensweit durchsucht, herangezogen und als Grundlage für Maßnahmen genutzt werden kann.

„Infolgedessen entwickeln sich Contact-Center- und Kollaborationsumgebungen zunehmend zu beständigen Wissenssystemen“, sagte Bassett.

Diese Unterscheidung ist von Bedeutung. Kommunikationsplattformen wurden traditionell entwickelt, um Interaktionen zu erleichtern. Von Wissenssystemen wird hingegen erwartet, dass sie den Kontext bewahren, Aufzeichnungen erstellen und zukünftige Entscheidungen beeinflussen. Viele Unternehmen haben ihre Governance-Strategien noch nicht entsprechend angepasst.

„IT-Führungskräfte, die es versäumen, ein striktes Lebenszyklusmanagement für KI-generierten Kontext zu implementieren, schaffen neben einem institutionellen Gedächtnis auch ein eskalierendes Compliance-Risiko“, sagt David Smith, Gründer und Chefanalyst von InFlow Analysis.

Eine Governance-Lücke entsteht

Die KI-Technologie hat sich schneller weiterentwickelt als die sie umgebenden Richtlinien. Unternehmen verfügen seit langem über Rahmenwerke zur Regelung von Datenaufbewahrung, Sicherheit und Compliance, doch diese Richtlinien wurden größtenteils für statische Aufzeichnungen und von Menschen erstellte Inhalte entwickelt. Sie sind nicht für Umgebungen konzipiert, in denen KI kontinuierlich Gespräche erfasst, Informationen zusammenfasst und neues Wissen generiert.

„Herkömmliche IT-Governance-Leitfäden regeln statische Dokumente, während autonome Agenten eine dynamische Überwachung erfordern“, sagt Smith.

Da KI zunehmend in alltägliche Arbeitsabläufe eingebettet wird, tauchen neue Fragen auf: Wem gehört das von KI generierte Wissen? Wie lange sollte es aufbewahrt werden? Welche Informationen sollten zugänglich bleiben? Welche Verpflichtungen bestehen, wenn von KI generierte Ergebnisse Entscheidungen oder Handlungen beeinflussen?

„Viele Unternehmen regeln diese Umgebungen weiterhin als transaktionsorientierte Plattformen und nicht als langfristig angelegte Repositories für operative Intelligenz“, sagt Bassett. „Diese Diskrepanz lässt sich immer schwerer ignorieren.“

Die Herausforderung geht somit über die technologische Governance hinaus. Sie betrifft die Bereiche Recht, Compliance, Risikomanagement und Unternehmensverantwortung. Jedes Protokoll, jede Zusammenfassung und jede Empfehlung schafft Mehrwert – kann aber auch Risiken mit sich bringen.

IT-Führungskräfte müssen laut Smith bei der Governance einen Glas-Box-Ansatz verfolgen, um kontinuierlich Einblick in die Daten zu erhalten, auf die ein KI-Agent zugreift und die er weitergibt.

„Unternehmen können eine hybride Belegschaft aus Menschen und KI nicht steuern, wenn die KI als Black Box agiert“, sagte er.

Geschäftliche Risiken gehen über Compliance hinaus

Das Versprechen einer KI-gestützten Zusammenarbeit ist überzeugend. Unternehmen erhalten schnelleren Zugriff auf Informationen, reduzieren repetitive Arbeitsschritte und bewahren Fachwissen, das andernfalls beim Ausscheiden von Mitarbeitern verloren gehen kann. Doch genau diese Fähigkeiten bergen auch neue Risiken.

Ein KI-System, das jahrelanges Unternehmenswissen sofort zugänglich machen kann, wirft Fragen hinsichtlich des Dateneigentums und der Zugriffskontrollen auf. Automatisierte Empfehlungen erfordern Transparenz darüber, wie die KI zu diesen Schlussfolgerungen gelangt ist. Von KI generierte Inhalte können letztendlich Teil von Geschäftsunterlagen werden, die regulatorischen Anforderungen oder der Offenlegungspflicht unterliegen. Die Herausforderung wird noch komplexer, wenn Unternehmen autonome und halbautonome KI-Agenten neben menschlichen Mitarbeitern einsetzen.

Zudem treiben Anbieter Interoperabilitätsstandards wie das Model Context Protocol (MCP) voran, um den Unternehmenskontext KI-fähig zu machen. Ohne angemessene Governance riskieren Unternehmen laut Smith, eine offene Tür zu schaffen, durch die firmeneigenes Wissen das Unternehmen vollständig verlassen kann.

Traditionelle Governance-Modelle waren auf Menschen und Softwareanwendungen ausgerichtet. Heute müssen Unternehmen Umgebungen überwachen, in denen Menschen und KI-Systeme zusammenarbeiten, Informationen austauschen und gemeinsam zu betrieblichen Ergebnissen beitragen. Diese Realität zwingt Unternehmen dazu, Governance als umfassendere betriebliche Disziplin und nicht nur als reine Technologiefunktion neu zu überdenken.

Warum CIOs ein einheitliches Governance-Modell benötigen

Für viele Unternehmen beginnt der Weg in die Zukunft damit, die Arbeit von Menschen und KI als Teil derselben Betriebsumgebung zu betrachten.

„Governance-Modelle müssen über traditionelle Kontrollmechanismen hinausgehen, um einer hybriden Belegschaft aus menschlichen Mitarbeitern und KI-Agenten gerecht zu werden“, sagt Bassett.

Neue Ansätze zielen darauf ab, Personalmanagement, Qualitätssicherung, Compliance und KI-Betrieb unter einem gemeinsamen Governance-Rahmen zusammenzufassen. Das Ziel besteht darin, einheitliche Richtlinien, Kontrollen und Leistungsziele anzuwenden, unabhängig davon, ob die Arbeit von einem menschlichen Mitarbeiter, einem KI-Agenten oder einer Kombination aus beiden ausgeführt wird. Laut Bassett bietet ein einheitliches Governance-Modell den klarsten Weg nach vorn für CIOs.

„Die Zusammenführung von Arbeitsabläufen durch menschliche Mitarbeiter und KI über Kanäle und Plattformen hinweg in einer einzigen KI-nativen Betriebsumgebung kann die Transparenz, Konsistenz und Kontrolle bieten, die angesichts der wachsenden Belegschaft und der sich erweiternden Wissensbasis der Organisation erforderlich sind“, sagt er.

Das Ziel ist nicht einfach nur eine bessere Aufsicht. Es geht darum, eine Governance-Struktur zu schaffen, die mit der Einführung von KI skalierbar ist.

Governance wird zu einer Aufgabe der Führungsetage

Technologieplattformen können Organisationen dabei unterstützen, KI-gesteuertes Wissen zu verwalten. Doch sie können die schwierigsten Governance-Fragen rund um Eigentumsverhältnisse, Aufbewahrung, Rechenschaftspflicht und Vertrauen nicht beantworten, so Bassett. Diese Entscheidungen erfordern zunehmend eine Abstimmung zwischen den Teams in den Bereichen Recht, Compliance, Betrieb und Geschäftsführung.

CIOs werden wahrscheinlich weiterhin die Verantwortung für die Plattformen selbst tragen. Doch da sich Kollaborationssysteme zu Repositorien des institutionellen Gedächtnisses entwickeln, wird ihre Steuerung zu einer unternehmensweiten Aufgabe. Die Organisationen, die den ersten Schritt machen, können mehr als nur strengere Compliance-Kontrollen gewinnen. Sie können auch Vertrauen in das Wissen gewinnen, das ihre KI-Systeme schaffen, bewahren und auf dessen Grundlage sie handeln.

„CIOs müssen direkt mit Rechts- und Risikobeauftragten zusammenarbeiten, um die Mechanismen des Vergessens der Kollaborationsplattformen zu definieren“, sagt Smith. „Ein KI-System, dem die Fähigkeit zum Vergessen fehlt, schafft endlose Compliance-Risiken für Unternehmen.“

Da KI Kollaborationsplattformen in Repositorien des institutionellen Gedächtnisses verwandelt, müssen IT-Führungskräfte darauf vorbereitet sein, die Frage zu beantworten, wie Informationen gesteuert werden sollen, sobald sie unbegrenzt abgerufen, wiederverwendet und als Grundlage für Maßnahmen genutzt werden können.

Dieser Artikel ist im Original in englischer Sprache auf Search Unified Communications erschienen.