Autonomes Fahren EU plant Beweislastumkehr bei Unfällen durch autonome Autos

Der Nachweis einer technischen Ursache für einen Unfall ist bei KI-Autos schwierig. Deshalb will die EU-Kommission nun eine „Kausalitätsvermutung“ einführen, um Opfer selbstfahrender Autos entschädigen zu können.

Menschliches Fehlverhalten ist laut dem Statistischen Bundesamt für über 90 Prozent aller Verkehrsunfälle ursächlich. Das heißt im Umkehrschluss, dass solche Unfälle nicht mehr vorkommen dürften, wenn Autos autonom fahren. Doch auch deren künstliche Intellgenz (KI) wird nicht alle Unfälle verhindern können. Damit stellt sich die Frage nach der Haftung: Wer kommt dafür auf, wenn etwa die KI eines selbstfahrenden Autos eine Entscheidung fällt, die zu einem Unfall führt?

Die EU-Kommission will deshalb die europäischen Haftungsvorschriften für fehlerhafte Produkte nach fast 40 Jahren modernisieren und hat dazu laut einer Veröffentlichung der Versicherung HUK-Coburg zwei Gesetzgebungsvorschläge vorgelegt: für eine überarbeitete Produkthaftungsrichtlinie und für eine Richtlinie über KI-Haftung. Die neuen Vorschriften sollen zum einen Unternehmen Rechtssicherheit verschaffen, damit sie in neue Produkte investieren können. Zum anderen geht es darum, dass Opfer angemessen entschädigt werden, wenn ihnen durch KI Schäden entstanden sind.

Anbieter muss nachweisen, dass die KI fehlerfrei gearbeitet hat

Mit dem Vorschlag zur zivilrechtlichen Haftung von KI sollen den Kunden Instrumente für Abhilfe bei durch KI verursachte Schäden an die Hand gegeben werden, damit sie über das gleiche Schutzniveau wie bei herkömmlichen Technologien verfügen. Dabei strebt die EU-Kommission eine Umkehr der Beweislast im Einzelfall an. Bislang muss im Rahmen der Produkthaftung der Hersteller für alle Schäden aufkommen, die durch ein fehlerhaftes Produkt entstehen. Nur muss der Geschädigte auch nachweisen, dass der Schaden durch das betreffende Produkt verursacht wurde. Das kann etwa bei einem KI-gesteuerten selbstfahrenden Auto schwierig sein. Deshalb will die Brüsseler Kommission künftig in klar definierten Einzelfällen eine Beweislastumkehr einführen – sprich: Der Anbieter eines Produkts hat im Schadenfall nachzuweisen, dass seine KI fehlerfrei funktionierte, um sich von der Haftung zu befreien.

Mit der sogenannten „Kausalitätsvermutung“ sollen die Schwierigkeiten der Opfer von KI behoben werden, detailliert erklären zu müssen, wie der Schaden durch ein bestimmtes Verschulden oder eine bestimmte Unterlassung verursacht wurde. Denn dies könne bei dem Versuch, komplexe KI-Systeme zu verstehen und sich darin zurechtzufinden, besonders schwierig sein, argumentiert die Kommission. Die Kausalitätsvermutung beinhaltet, dass bei bestimmten Verschulden „nach vernünftigem Ermessen von einem ursächlichen Zusammenhang mit der KI-Leistung ausgegangen werden kann“.

Zudem sollen die Opfer von KI künftig mehr Instrumente an die Hand bekommen, um rechtliche Entschädigung zu verlangen. In Fällen, in denen Hochrisiko-KI-Systeme betroffen sind, sollen sie ein Recht auf Zugang zu Beweismitteln erhalten, die sich im Besitz von Unternehmen und Anbietern befinden. Dies bedeutet, dass Geschädigte in Zukunft das Recht erhalten sollen, von den Anbietern etwa Schulungs- oder Testdatensätze, Daten aus der technischen Dokumentation und Protokollen oder Informationen über Qualitätsmanagementsysteme verlangen zu können. Im Zweifel können sie das einklagen. Allerdings soll dann ein Gericht kontrollieren, dass nur tatsächlich erforderliche Daten offengelegt werden, um Geschäftsgeheimnisse zu schützen. Wenn ein Anbieter einer solchen Aufforderung nicht Folge leistet, dreht sich die Beweislast um, und er muss nachweisen, dass seine KI nicht den Schaden herbeigeführt hat.

(ID:48838516)