BSI: Kriterien zur Sicherheitsbewertung von KI-Diensten

Mit KI-Diensten (künstliche Intelligenz) aus der Cloud können Unternehmen sehr einfach entsprechende Anwendungen umsetzen. Damit würden durchaus kritische Prozesse und Entscheidungen durch diese Nutzung beeinflusst, so das BSI. Darüber hinaus seien derlei Lösungen Sicherheitsbedrohungen ausgesetzt, die von bisherigen IT-Sicherheitsstandards nicht abgedeckt seien.

Das BSI (Bundesamt für Sicherheit in der Informationstechnik) hat nun einen Kriterienkatalog veröffentlicht, der es Unternehmen erleichtern soll die Sicherheit entsprechender KI-Dienste einordnen zu können. Der AIC4 (Artificial Intelligence Cloud Services Compliance Criteria Catalogue) sei eine wichtige Grundlage zur Bewertung dieser Systeme. So würde der Katalog ein Basisniveau an Sicherheit für KI-basierte Systeme definieren, die in Cloud-Infrastrukturen entwickelt oder betrieben werden. Der Katalog umfasse KI-spezifische Kriterien, die eine unabhängige Prüfung der Sicherheit eines KI-Dienstes über dessen gesamten Lebenszyklus ermöglich würden. Dieser Ansatz in Sachen Cloud-Sicherheit habe sich schon beim C5-Kriterienkatalog bewährt (siehe auch Was ein C5-Testat für Cloud-Storage-Dienste bedeutet). Und so basiere der AIC4 auf dem C5-Kriterienkatalog und definiere zusätzliche KI-spezifische Anforderungen an den KI-basierten Cloud-Dienst. Darüber hinaus habe man die Bewertungsmethodik des C5-Katalogs für den AIC4 übernommen. Der AIC4-Kriterienkatalog lässt sich beim BSI im PDF-Format herunterladen.

Ein entsprechender Katalog müsse Nutzer von KI-Cloud-Diensten in die Lage versetzen, die Vertrauenswürdigkeit des bereitgestellten Service für ihre individuellen Anwendungen so detailliert und genau wie möglich zu beurteilen. Dies erfordert es, dass etwaige Auditergebnisse für Kunden transparent sind. Darüber hinaus dürfe ein solcher Katalog nur Anforderungen spezifizieren und nicht Kontrollen vorschreiben. Dies stelle sicher, dass eine große Anzahl von Marktteilnehmen den Katalog anwenden könne.

„Mit der zunehmenden Verbreitung lernender Systeme stellt sich immer dringender die Frage nach ihrer Vertrauenswürdigkeit. Deshalb nehmen wir uns als Cyber-Sicherheitsbehörde des Bundes dieser Fragestellung an. Wir legen mit dem AIC4 erstmals eine konkrete Lösung vor, die über nachvollziehbare Kriterien die Informationssicherheit im Bereich der Künstlichen Intelligenz verbessert. Dies ist der erste Schritt, weitere Schritte werden folgen.“, so BSI-Präsident Arne Schönbohm.