Sergey Nivens - stock.adobe.com
Was ist KI-Governance und warum braucht man sie?
KI-Governance ist angesichts des KI-Booms entscheidend. Sie unterscheidet sich von üblichen IT-Governance-Praktiken, da sie sich mit dem verantwortungsvollen KI-Einsatz befasst.
KI-Governance ist ein übergreifendes Framework, das den Einsatz von künstlicher Intelligenz (KI) in einem Unternehmen mit einer Vielzahl von Prozessen, Methoden und Tools steuert.
Das Ziel der KI-Governance beschränkt sich nicht nur darauf, den effektiven Einsatz von künstlicher Intelligenz sicherzustellen. Der Anwendungsbereich ist viel größer und umfasst auch das Risikomanagement, die Einhaltung von Vorschriften und die ethische Nutzung von KI.
Es ist wichtig, den Unterschied zwischen KI-Governance und KI-Regulierung zu beachten. Die KI-Regulierung bezieht sich auf die Gesetze und Regeln, die von einer Regierung oder einer Aufsichtsbehörde in Bezug auf KI erlassen werden und die für alle Organisationen gelten, die in deren Zuständigkeitsbereich fallen. KI-Governance hingegen bezieht sich darauf, wie KI in einem organisatorischen Kontext verwaltet wird.
Vor- und Nachteile von Deep Learning
Unternehmen verfügen bereits über ausgereifte IT-Governance-Praktiken. Warum also brauchen sie eine KI-Governance? Die KI-Governance mag einige Praktiken mit der IT-Governance gemeinsam haben, aber sie ist eine eigenständige Disziplin, insbesondere in diesem frühen Stadium der KI-Einführung und -Reife.
Im allgemeinen Sprachgebrauch bezieht sich KI auf Deep-Learning- oder Machine-Learning-Ansätze, die sich auf künstliche neuronale Netze stützen, da diese überwiegen. Der Kerngedanke des Deep Learning besteht darin, dass die Entscheidungsregeln aus Daten abgeleitet werden und nicht, wie bei herkömmlichen IT-Systemen üblich, von Menschen fest kodiert werden. Dramatische Verbesserungen der Genauigkeit und eine fast menschenähnliche Leistung werden beobachtet, wenn Deep Learning eng definierte Aufgaben in Bereichen wie Sprachverarbeitung, Bilderkennung und Spracherkennung ausführt.
Automatisierte Entscheidungsfindungssysteme, die solche KI-Fähigkeiten nutzen, sind inzwischen fast allgegenwärtig. Algorithmen entscheiden über Einkaufsvorschläge, Nachrichten, Bewerbungen, Kreditentscheidungen, Gesundheitsempfehlungen und vieles mehr. KI und die durch sie ermöglichte Automatisierung haben aus geschäftlicher Sicht große Vorteile, aber es gibt auch Nachteile zu beachten. Im Gegensatz zu fest kodierten Regeln ist das Warum hinter einer Deep-Learning-Entscheidung weder intuitiv noch leicht verständlich. Daher auch der Hinweis, dass KI eine Blackbox ist.
Neben der mangelnden Transparenz gibt es noch weitere Einschränkungen:
- Die Dinge in der realen Welt ändern sich ständig, und die Muster oder Beziehungen, die ein KI-System gelernt hat, sind möglicherweise nicht mehr anwendbar.
- Daten aus der realen Welt unterscheiden sich oft von den Daten, die zum Trainieren von KI-Modellen verwendet werden.
- KI-Modelle funktionieren nur für bestimmte Zielgruppen gut – nicht für alle. Dies wird als KI-Verzerrung oder algorithmische Verzerrung bezeichnet.
In all diesen Szenarien sind automatisierte Entscheidungen wahrscheinlich falsch, aber Unternehmen verlassen sich weiterhin auf sie, ohne ihre Algorithmen zu korrigieren.
Der Bedarf an KI-Governance
Mit der zunehmenden Verbreitung von KI wächst auch das Bewusstsein für ihre Stärken und Grenzen. Regierungen führen neue Vorschriften und Richtlinien ein, um Schäden zu verhindern, die durch den absichtlichen oder unabsichtlichen Missbrauch von KI entstehen. Die unsachgemäße Nutzung von KI kann ein Unternehmen operativen, finanziellen, regulatorischen und Reputationsrisiken aussetzen. Es ist auch unwahrscheinlich, dass dies mit den Grundwerten Ihres Unternehmens in Einklang steht. Die Einzigartigkeit von KI macht es erforderlich, Leitplanken zu setzen, die sicherstellen, dass KI wie beabsichtigt funktioniert. Das ist die wichtigste Aufgabe der KI-Governance.
Nach einigen Jahren der Erfahrung mit der Implementierung und Skalierung von Deep Learning in Unternehmen werden nun erste KI-Governance-Handbücher und Best Practices entwickelt. Einige prominente Beispiele sind:
- Das Pharmaunternehmen Novartis hat ein multidisziplinäres Expertenteam damit beauftragt, den Einsatz von KI-Systemen in der gesamten pharmazeutischen Wertschöpfungskette zu untersuchen und eine Position zur verantwortungsvollen und ethischen Nutzung von KI zu erarbeiten, die mit dem allgemeinen Ethikkodex des Unternehmens in Einklang steht;
- IEEE, der weltweit größte technische Fachverband für die Förderung der Technologie, der die Geschäftsstandards für Ethically Aligned Design entwickelt hat, welche das gesamte Spektrum von der Notwendigkeit der KI-Ethik in der Wirtschaft bis hin zu den erforderlichen Fähigkeiten und der Personalausstattung abdecken;
- das Montreal AI Ethics Institute, eine gemeinnützige Organisation, die regelmäßig Berichte zum Stand der KI-Ethik erstellt und dazu beiträgt, den Zugang zu KI-Ethikwissen zu demokratisieren; und
- die Regierung von Singapur, die eine Vorreiterrolle einnimmt und das Model AI Governance Framework herausgegeben hat, um dem privaten Sektor einen Leitfaden für den Umgang mit ethischen und Governance-Fragen beim Einsatz von KI an die Hand zu geben.
KI-Governance ist nicht allein die Aufgabe von Softwareingenieuren oder Experten für maschinelles Lernen. Sie ist multidisziplinär und bezieht sowohl technische als auch nicht-technische Interessengruppen ein.
KI-Governance ist sowohl für Endnutzer im öffentlichen und privaten Sektor als auch für Anbieter von KI-Software von Bedeutung. Einige fortschrittliche Organisationen machen die KI-Governance sogar zu einem integralen Bestandteil ihrer Corporate-Governance- und Umwelt-, Sozial- und Governance-Strategien, denn sie beinhaltet, wie eine Organisation die ethischen Grundsätze der KI umsetzen und einen verantwortungsvollen Einsatz von KI sicherstellen sollte.
