Black Box KI
Als Black Box KI wird jedes System der künstlichen Intelligenz bezeichnet, dessen Eingaben und Operationen für den Benutzer nicht sichtbar sind. Eine Black Box ist im allgemeinen Sinne ein undurchdringliches System.
Die Modellierung von Deep Learning wird in der Regel als Black-Box-Entwicklung durchgeführt: Der Algorithmus nimmt Millionen von Datenpunkten als Eingaben entgegen und korreliert bestimmte Datenmerkmale, um eine Ausgabe zu erzeugen. Dieser Prozess ist weitgehend selbstgesteuert und für Datenwissenschaftler, Programmierer und Benutzer im Allgemeinen schwer zu interpretieren.
Wenn die Funktionsweise von Software, die für wichtige Vorgänge und Prozesse in einem Unternehmen verwendet wird, nicht leicht einzusehen oder zu verstehen ist, können Fehler unbemerkt bleiben, bis sie so große Probleme verursachen, dass eine Untersuchung notwendig wird und der verursachte Schaden teuer oder sogar unmöglich zu beheben ist.
KI-Voreingenommenheit (Bias) kann beispielsweise durch bewusste oder unbewusste Vorurteile der Entwickler in Algorithmen eingebracht werden, oder sie kann sich durch unentdeckte Fehler einschleichen. In jedem Fall werden die Ergebnisse eines voreingenommenen Algorithmus verzerrt, und zwar möglicherweise in einer Weise, die für die betroffenen Menschen beleidigend ist.
Voreingenommenheit in einem Algorithmus kann von Trainingsdaten herrühren, wenn Details des Datensatzes nicht erkannt werden. In einem Fall stützte sich die in einer Einstellungsanwendung verwendete KI auf historische Daten, um IT-Fachkräfte auszuwählen. Da jedoch die meisten IT-Mitarbeiter in der Vergangenheit männlich waren, zeigte der Algorithmus eine Tendenz zu männlichen Bewerbern.
Wenn eine solche Situation durch Black Box KI entsteht, kann sie lange genug andauern, um den Ruf des Unternehmens zu schädigen und möglicherweise rechtliche Schritte wegen Diskriminierung einzuleiten. Um solchen Schäden vorzubeugen, ist es wichtig, dass KI-Entwickler Transparenz in ihre Algorithmen einbauen und dass Unternehmen sich verpflichten, Rechenschaft über deren Auswirkungen abzulegen.
