Marko - stock.adobe.com
Produkthaftung und KI: Was gibt es zu beachten?
Neue Risiken durch die Digitalisierung haben nun auch Auswirkungen auf die Produkthaftung. So werden künftig auch Software und künstliche Intelligenz in die Haftung miteinbezogen.
Mit der Nutzung künstlicher Intelligenz (KI) sind Risiken verbunden, nicht nur in der Theorie. Die Zahl der KI-bezogenen Vorfälle stieg im vergangenen Jahr um 21 Prozent, so die Boston Consulting Group. Wenn es aber zu einem Schaden durch Fehler in einem KI-System kommt, wer haftet dafür?
Diese Frage beschäftigt schon lange Unternehmen in Deutschland und in der EU und trägt dazu bei, dass Unsicherheit besteht, wenn KI zum Einsatz kommen soll, teilweise sorgt diese Rechtsunsicherheit auch dafür, dass Unternehmen auf die Nutzung von KI lieber verzichten, wie zum Beispiel eine Umfrage des Digitalverbands Bitkom zeigte: So sei die Verunsicherung durch rechtliche Hürden und Unklarheiten das größte Hemmnis beim KI-Einsatz in deutschen Unternehmen, 53 Prozent der befragten Unternehmen sagten dies.
Doch weitere rechtliche Klärung ist in Sicht: Mitte Dezember 2025 hat das Bundeskabinett einen Gesetzentwurf zur Modernisierung des Produkthaftungsrechts beschlossen. Eine wesentliche Neuerung ist die Ausweitung der Produkthaftung auf jede Art von Software, auch auf KI. Aber was bedeutet das genau, wer haftet wofür und wann?
Produkthaftung in Zeiten der Digitalisierung und KI
Die Bundesministerin der Justiz und für Verbraucherschutz (BMJV) Dr. Stefanie Hubig erklärte dazu: „Wir machen die Haftung für Produkte fit für das digitale Zeitalter. Egal ob das Bügeleisen kaputt geht oder die Software spinnt, für Verbraucherinnen und Verbraucher ist der Schaden der gleiche. Deswegen erstrecken wir die Produkthaftung auf jede Art von Software – auch auf KI.“
Doch nicht nur die Ausweitung auf Software und KI in Produkten wird für Veränderungen in der Produkthaftung sorgen. Auch die Stelle, die haften muss, wird sich erweitern, um die Realitäten gerade bei der Digitalisierung zu berücksichtigen.
So werden nicht nur KI-Lösungen der tatsächlichen KI-Hersteller als Produkte angeboten und genutzt, sondern KI-Tools werden auch von Dritten in Produkte integriert. Im neuen Produkthaftungsrecht gilt: Wird ein Produkt nach seinem Inverkehrbringen so umgestaltet, dass es wesentlich geändert wird, soll der umgestaltende Hersteller künftig als Hersteller haften. Dabei könnte eine solche Umgestaltung durchaus das Training einer KI mit eigenen Daten sein.
Sitzt ein Produkthersteller außerhalb der EU, sollen neben ihm unter bestimmten Voraussetzungen weitere Akteure haften: Importeure, Fulfilment-Dienstleister und Lieferanten.
Was Produkthaftung bedeutet
Die erweiterte Produkthaftung auch bei KI sollte aber nicht missverstanden werden. Die Produkthaftung und der Kreis der Stellen, die haften müssen, wird zwar insbesondere mit Blick auf Software und KI erweitert, doch die Produkthaftung an sich ist fokussiert und begrenzt. So erklärt das BMJV: „Nach der Produkthaftung haftet ein Hersteller, wenn durch einen Produktfehler Schäden an Körper oder Gesundheit oder anderen Gegenständen als dem Produkt selbst entstehen. Es geht nicht um Fragen der Gewährleistung, also nicht darum, dass ein gekauftes Produkt selbst nicht richtig funktioniert oder kaputtgeht. Die Produkthaftung greift ein, wenn jemand an Körper oder Gesundheit verletzt oder gar getötet wird oder nicht ausschließlich beruflich genutzte Sachen beschädigt werden.“
Es geht also nicht etwa um einen fehlerhaften Karriere-Tipp, den ein Sprachmodell gegeben hat. Wenn aber eine künstliche Intelligenz, zum Beispiel bei der Steuerung autonomer Fahrzeuge, Körper- oder Sachschäden verursacht, werden auch diese künftig von der Produkthaftung erfasst, wenn sie auf einem Produktfehler beruhen.
Folgen für Unternehmen, die Software und KI in Produkte integrieren
Ein Unternehmen muss nicht selbst Software oder KI-Lösungen herstellen, um für fehlerhafte Produkte haften zu müssen. Wie oben erwähnt, kann ein Unternehmen durch Veränderungen an KI oder Software allgemein zum Hersteller nach Produkthaftungsrecht werden. Zudem kann man auch als Zulieferer betroffen sein. Auch hierzu gibt das BMJV spannende Beispiele.
Nehmen wir Verkehrsdaten für das Navigationssystem eines autonomen Fahrzeugs: Wenn der Navigationsdienst plötzlich ausfällt und das Fahrzeug daraufhin einen Unfall verursacht, sollen grundsätzlich sowohl der Fahrzeughersteller als auch der Anbieter des Navigationsdienstes haften. Das gilt, wenn der Fahrzeughersteller einverstanden war, dass der Dienst mit dem Fahrzeug verbunden wird, und der Dienst einen Fehler verursacht, der zu einem Schaden führt.
Wenn es nun zu einem Schaden kommt und ein Unternehmen haften soll, muss das Unternehmen relevante Beweismittel wie Konstruktionsdaten oder Erkenntnisse aus der Produktbeobachtung auf Antrag dem Kläger vorlegen, damit geprüft werden kann, welche Fehler ursächlich für den Schaden waren. Zum Schutz ihrer Geschäftsgeheimnisse können Unternehmen aber beantragen, dass bestimmte Unterlagen vertraulich behandelt werden.
Damit aber nicht nur die Nutzerinnen und Nutzer von Produkten mit Software und KI mehr Rechtssicherheit erlangen, sondern auch die Hersteller, Importeure, Fulfilment-Dienstleister und Lieferanten entsprechender Produkte rechtlich sicher sind, empfiehlt zum Beispiel die Deutsche Industrie- und Handelskammer (DIHK): Unternehmen müssen ihre Prozesse, Dokumentationen und IT-Sicherheit prüfen und anpassen.
Gründe dafür gibt es aber nicht nur durch die neue Produkthaftung, wenn es um KI geht. Bereits die KI-Verordnung (AI Act der EU) gibt viele Anlässe dazu.
