
Marko - stock.adobe.com
Was Unternehmen zur geforderten KI-Kompetenz wissen müssen
Nach AI Act müssen Anbieter und Betreiber von KI-Systemen für die notwendige KI-Kompetenz bei Nutzern sorgen. Es stellt sich die Frage, welche Schulungspflichten daraus erwachsen.
Seit 2. Februar 2025 sind weitere Regelungen der europäischen KI-Verordnung (AI Act) in Kraft. Unter anderen greifen nun Vorgaben für die KI-Kompetenz von Beschäftigten. Es besteht allerdings Unsicherheit bei Unternehmen, was dies genau bedeutet.
Dazu erklärte Susanne Dehmel, Mitglied der Bitkom-Geschäftsleitung: „Bei den sogenannten KI-Kompetenzanforderungen, die praktisch alle KI entwickelnden oder einsetzenden Unternehmen betreffen, gibt es noch Unsicherheiten. Alle Unternehmen, die KI einsetzen, müssen sicherstellen, dass die betreffenden Beschäftigten über „ein ausreichendes Maß an KI-Kompetenz“ verfügen“.
Wann dieser Pflicht genüge getan sei, wäre auch deshalb noch unklar, weil bislang keine entsprechende Aufsicht in Deutschland eingerichtet wurde, die als Ansprechpartner für die Wirtschaft Hinweise geben könnte, so Susanne Dehmel weiter. Auch von europäischer Seite gebe es keine konkretisierenden Hinweise. Unternehmen sollten sich aber davon nicht abhalten lassen, ihre KI-Anstrengungen fortzusetzen, sondern vielmehr die Frist zum Anlass nehmen, ihre Beschäftigten im Umgang mit KI weiterzubilden und so über den AI Act hinaus fit zu machen.
Was die KI-VO zur KI-Kompetenz aussagt
Die KI-Verordnung (KI-VO) selbst sagt in Artikel 4 zur geforderten KI-Kompetenz, dass die Anbieter und Betreiber von KI-Systemen Maßnahmen ergreifen sollen, „um nach besten Kräften sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ein ausreichendes Maß an KI-Kompetenz verfügen, wobei ihre technischen Kenntnisse, ihre Erfahrung, ihre Ausbildung und Schulung und der Kontext, in dem die KI-Systeme eingesetzt werden sollen, sowie die Personen oder Personengruppen, bei denen die KI-Systeme eingesetzt werden sollen, zu berücksichtigen sind“.
Definiert wird die KI-Kompetenz in der KI-VO als „die Fähigkeiten, die Kenntnisse und das Verständnis, die es Anbietern, Betreibern und Betroffenen unter Berücksichtigung ihrer jeweiligen Rechte und Pflichten im Rahmen der Verordnung ermöglichen, KI-Systeme sachkundig einzusetzen sowie sich der Chancen und Risiken von KI und möglicher Schäden, die sie verursachen kann, bewusst zu werden“.
In den Erwägungsgründen zur KI-VO findet man weitere Hinweise, wie diese: Die KI-Kompetenz soll ermöglichen, den größtmöglichen Nutzen aus KI-Systemen zu ziehen und gleichzeitig die Grundrechte, Gesundheit und Sicherheit zu wahren und eine demokratische Kontrolle zu ermöglichen. Anbieter, Betreiber und betroffene Personen sollen mit den notwendigen Konzepten ausgestattet werden, um fundierte Entscheidungen über KI-Systeme zu treffen.
Im Zusammenhang mit der Anwendung der KI-VO sollte die KI-Kompetenz allen einschlägigen Akteuren der KI-Wertschöpfungskette die Kenntnisse vermitteln, die erforderlich sind, um die angemessene Einhaltung und die ordnungsgemäße Durchsetzung der Verordnung sicherzustellen.
Darüber hinaus könnten die umfassende Umsetzung von KI-Kompetenzmaßnahmen und die Einführung geeigneter Folgemaßnahmen dazu beitragen, die Arbeitsbedingungen zu verbessern und letztlich die Konsolidierung und den Innovationspfad vertrauenswürdiger KI in der EU unterstützen.
Ein Europäisches Gremium für Künstliche Intelligenz („KI-Gremium“) sollte die EU-Kommission dabei unterstützen, KI-Kompetenzinstrumente sowie die Sensibilisierung und Aufklärung der Öffentlichkeit in Bezug auf die Vorteile, Risiken, Schutzmaßnahmen, Rechte und Pflichten im Zusammenhang mit der Nutzung von KI-Systeme zu fördern.
In Zusammenarbeit mit den einschlägigen Interessenträgern sollten die EU-Kommission und die Mitgliedstaaten die Ausarbeitung freiwilliger Verhaltenskodizes erleichtern, um die KI-Kompetenz von Personen, die mit der Entwicklung, dem Betrieb und der Verwendung von KI befasst sind, zu fördern.
Es sind also durchaus einige Schritte genannt und geplant, die dabei helfen sollen, die geforderte KI-Kompetenz auch vermitteln zu können und der KI-VO so zu entsprechen. Doch bisher gibt es kaum konkrete Unterstützung in dieser Form.
Wer Hinweise zur notwendigen KI-Kompetenz gibt
Das bedeutet aber nicht, dass es keine Hinweise und Orientierungshilfen aus anderen Bereichen gibt, die mit Betrieb und Nutzung von KI verknüpft sind. Dazu gehört die IT-Sicherheit, die bei KI gewahrt werden muss und Teil der notwendigen KI-Kompetenz ist. Hierzu bietet insbesondere das BSI (Bundesamt für Sicherheit in der Informationstechnik) Hilfestellungen für Anwender (PDF), Entwickler (PDF) und sogar Privatpersonen.
Auch der Europäische Datenschutzausschuss (EDSA) hat eine Stellungnahme veröffentlicht (PDF), die wesentliche Grundfragen der Anwendung des Datenschutzrechts auf Künstliche Intelligenz behandelt. Die Datenschutzaufsichtsbehörden haben viele, weitere Hinweise zu KI veröffentlicht, zum Beispiel wie sich Datenrisiken bei LLMs erkennen und minimieren lassen oder was zum Datenschutzkonzept bei KI-Nutzung gehör.
Zur KI-Kompetenz erklärte nun der Hamburgische Beauftragte für Datenschutz und Informationsfreiheit: „Die geforderte Kompetenz bezieht sich direkt darauf, zu welchem spezifischen Zweck die künstliche Intelligenz eingesetzt wird. Wenn ein Online-Händler personalisierte Kundenempfehlungen mit KI erstellt, erfordert das andere Kompetenzen als beim Einsatz eines KI-gestützten Bewerbermanagements durch einen Konzern. Entscheidend ist die verantwortungsbewusste Bewertung von Eignung, Risiken und Auswirkungen jedes KI-Systems. Das Ziel ist, ein Bewusstsein für die Chancen und Risiken von KI in Unternehmen und Behörden zu schaffen und künstliche Intelligenz mit Bedacht einzusetzen“.
Sanktionen bei mangelnder KI-Kompetenz sind möglich
Es gibt also durchaus Hinweise zur notwendigen KI-Kompetenz zum Beispiel aus dem Datenschutz und der IT-Sicherheit. Das bedeutet aber auch, dass Sanktionen und andere Maßnahmen durch eine Aufsicht sehr wohl möglich sind, wenn es nicht genug KI-Kompetenz gibt, auch wenn die nationale Aufsicht für KI in Deutschland noch nicht implementiert ist. Die Aufsichtsbehörden für den Datenschutz zum Beispiel können auch bei KI aktiv werden, wenn personenbezogene Daten verarbeitet und dabei der Datenschutz verletzt wurde. Mangelnde KI-Kompetenz kann also zu Sanktionen führen.
Doch es gibt auch andere Gründe, sich aktiv für die KI-Kompetenz einzusetzen: Nur mit KI-Kompetenz können Unternehmen Erfolg mit ihren KI-Projekten haben. Bekanntlich gehört der Mangel an KI-Know-how zu den großen Herausforderungen bei Unternehmen (PDF), wenn es um die Nutzung von KI geht. Wer also durch KI zum Beispiel den Fachkräftemangel mindern will, muss zuerst die vorhandenen Fachkräfte in KI schulen.