Gambar Upi - stock.adobe.com
KI-Governance-Strategien für moderne UC Plattformen
Eine KI-Governance-Strategie für UC erfordert menschliche Überprüfung, Reduzierung von Bias, Datentransparenz sowie Sicherheitskontrollen. Die Einbindung des CISO ist entscheidend.
Das rasante Wachstum von KI in Unified-Communications- und Collaboration-Tools stellt die traditionelle Herangehensweise an Governance vor neue Herausforderungen.
Da agentische KI, KI-Assistenten und andere Funktionen zunehmend in UC-Tools integriert werden, müssen Unternehmen neue Governance-Strategien für die Kontrolle der Datenhoheit, die Echtzeitüberwachung und andere Schutzmaßnahmen einführen.
Die Sicherheit generativer KI (GenKI, GenAI) ist zu einer Schlüsselkomponente der Governance für Kommunikation und Zusammenarbeit geworden. Fast 80 Prozent der Unternehmen, die derzeit über einen Governance-Plan verfügen oder bis Ende 2026 einen einführen werden, nannten GenAI als zweitwichtigste Komponente, so die Metrigy-Studie Workplace Collaboration and Contact Center: 2026, die unter 305 Unternehmen durchgeführt wurde. Weitere wichtige KI-bezogene Komponenten sind der Schutz vor Datenverlust sowie die Sicherung von KI-Bots und -Agenten.
Da KI jeden Aspekt der UC durchdringt, müssen Unternehmen sicherstellen, dass ihre Governance- und Compliance-Richtlinien entsprechend weiterentwickelt werden, um Risiken zu minimieren. Zu den wichtigsten Herausforderungen für IT-Führungskräfte gehören die folgenden:
- Geeignete Inhaltskontrollen für Besprechungsdokumente wie Aufzeichnungen, Transkripte und Zusammenfassungen.
- Governance-Kontrollen für KI-generierte Inhalte wie Dokumente und Videos.
- Aufbewahrung interner und kundenbezogener Konversationen mit virtuellen KI-Assistenten.
- Erfassung der Aktivitäten von KI-Agenten.
- Kontrollen zur Datenlokalisierung und Datenhoheit.
- Kontrollen für das Modelltraining.
- Unterstützung bei der Löschung von Kundendaten.
Wichtige Strategien zur KI-Governance für UC
Um Governance-Herausforderungen zu bewältigen, ist ein proaktiver Ansatz erforderlich. Dieser stellt sicher, dass Unternehmen die Vorteile der KI nutzen können, ohne unnötige Risiken einzugehen. Tatsächlich zeigen Untersuchungen von Metrigy, dass Unternehmen mit einer etablierten KI-Governance-Strategie mit einer um 58 Prozent höheren Wahrscheinlichkeit einen überdurchschnittlichen ROI aus ihren UC-Investitionen erzielen.
Unternehmen ohne proaktives Sicherheitsmodell könnten sich dazu entscheiden, KI zu blockieren. Das birgt jedoch weitere Risiken, da Mitarbeiter dann dazu gedrängt werden, KI im Verborgenen zu nutzen, um vermeintliche Vorteile zu erzielen.
Eine wirksame Strategie zur KI-Governance umfasst in der Regel die folgenden Punkte:
- Menschliche Überprüfung von KI-Inhalten und Agentenaktionen, insbesondere bei der Verwendung sensibler Daten. Zwar lässt sich die menschliche Überprüfung nicht skalieren, sie ist aber eine notwendige Voraussetzung, wenn Datenverlust oder -lecks das Unternehmen und die Kundendaten gefährden.
- Transparenz darüber sicherstellen, wie Daten in KI-Modellen verwendet werden. Dies kann die Nutzung interner Daten durch Modelle und die Verwendung von KI-Tools als Konnektoren, beispielsweise MCP-Server und Agent-zu-Agent-Konnektoren, umfassen.
- Identifizierung und Minderung von Verzerrungen (Bias) in KI-Modellen. Verzerrte Daten treten in vielen Formen auf, beispielsweise als Stichprobenverzerrung, Ausschlussverzerrung oder Bestätigungsverzerrung. Die Generierung von Inhalten und Entscheidungen von Agenten können Modellverzerrungen weiter verstärken.
- Es muss eine angemessene Anwendung von Datenklassifizierungen und Freigabekontrollen geben, um sicherzustellen, dass KI-generierte Inhalte den Beschränkungen für den Datenzugriff entsprechen. So sollte beispielsweise nur den an einer Besprechung Teilnehmenden der Zugriff auf das Besprechungsprotokoll und die Zusammenfassung gewährt werden.
- Es muss eine Datenaufbewahrung für KI-generierte Inhalte geben. Dies kann Einstellungen zur automatischen Vernichtung und Unterstützung für E-Discovery umfassen.
- Es müssen geeignete Kontrollen zur Datenresidenz angewendet werden, um geltende lokale Gesetze einzuhalten. Dies kann das Maskieren oder Entfernen personenbezogener Daten (Personally Identifiable Information, PII) sowie die Festlegung von Richtlinien zur Ermöglichung der Datennutzung, wie etwa bei Anrufaufzeichnungen, umfassen.
- Es sind Sicherheitskontrollen zum Schutz vor Bedrohungen erforderlich, einschließlich Prompt-Injection-Angriffen, nicht autorisierten Apps und Versuchen, Daten zu manipulieren.
- Audits von Drittanbietern zur Bewertung ihrer Governance-Richtlinien und der Nutzung von Kundendaten.
- Proaktive Tests für agentische KI und autonome KI-Agenten, um Datenmanagement und Genauigkeit sicherzustellen.
Für die Einführung einer wirksamen Governance-Richtlinie ist eine enge Zusammenarbeit zwischen den Verantwortlichen aus den Bereichen IT, Geschäft, Sicherheit und Compliance erforderlich. In den erfolgreichsten Unternehmen sind die CISO-, CSO- und IT-Sicherheitsteams eng in die KI-Governance eingebunden. Laut einer Studie von Metrigy verlassen sich die am wenigsten erfolgreichen Unternehmen hingegen lediglich auf die Anwendungsverantwortlichen, um die Governance zu verwalten.
Unternehmen sollten schließlich den Einsatz von KI als Instrument zur Sicherstellung der Governance prüfen. Immer mehr Anbieter von UC-Software und Management-Lösungen nutzen KI, um die Erkennung von Richtlinienverstößen zu automatisieren und geeignete Abhilfemaßnahmen zu ergreifen. KI ist nicht nur ein Werkzeug zur Verbesserung von Unified Communications und Zusammenarbeit. Sie kann auch das Governance-Management optimieren.
Dieser Artikel ist im Original in englischer Sprache auf Search Unified Communications erschienen.
