Geschwärzt

Kurz nach drei Uhr nachts am 31. Oktober 2025 steht auf dem Loop 202 in Richtung Osten, auf Höhe der Ausfahrt Dobson Road in Mesa, Arizona, ein Tesla Model 3 auf einer Fahrspur. Nicht am Rand, nicht auf dem Standstreifen. Auf der Spur, im Dunkeln, mit der Reisegeschwindigkeit dessen, was von hinten kommt. Ein Ford F-350 trifft ihn voll. Der Fahrer des Tesla stirbt an der Unfallstelle. Der Red Mountain Freeway bleibt ein paar Stunden gesperrt und wird gegen Viertel vor sechs wieder freigegeben, rechtzeitig für den Berufsverkehr am Freitagmorgen.

Die Lokalpresse macht ihre Arbeit, und die ist um halb fünf Uhr morgens nicht viel. Arizona’s Family schreibt, die Details seien begrenzt, ein Sprecher des Department of Public Safety spreche von zwei beteiligten Fahrzeugen und mache keine Angaben zu Verletzten. 12News ergänzt später, die Limousine sei ein Tesla gewesen, der Pick-up ein Ford F-350, und der Fahrer sei tot. Keiner der beiden erwähnt ein Fahrassistenzsystem. Nicht, weil sie es verschweigen. Weil sie es nicht wissen. Um drei Uhr nachts ist ein Auto, das auf der Autobahn steht, ein Auto, das auf der Autobahn steht.

Dann gibt es das zweite Dokument, das am 31. Oktober niemand liest und das aufgrund einer bundesrechtlichen Pflicht existiert. Seit 2021 verpflichtet die NHTSA, die amerikanische Behörde für Verkehrssicherheit, die Hersteller mit einer Standing General Order: Jeder Unfall, bei dem ein Fahrassistenzsystem der Stufe 2 in den dreißig Sekunden vor dem Aufprall aktiv war, ist zu melden, und wenn es einen Toten gibt, innerhalb von fünf Tagen. Tesla meldet. Im Bericht ist das Fahrzeug ein Model 3 des Jahrgangs 2020. Das Feld zum Zustand des Systems sagt Verified Engaged. Die Bewegung vor dem Aufprall sagt Stopped. Die Geschwindigkeit sagt 0 mph. Klares Wetter, keine Auffälligkeiten der Fahrbahn. Das Auto wurde über die gesamte Heckpartie von der Front des Pick-ups getroffen. Tesla erklärt außerdem, im Besitz der Daten des Ereignisdatenschreibers, der Telematik und des Videos zu sein.

Und dann drei schwarze Felder. Die Unfallbeschreibung, die erklären würde, warum das Auto stand. Die Softwareversion, die sagen würde, ob Autopilot oder Full Self-Driving aktiv war. Das Feld, das angibt, ob dieser Streckenabschnitt zum genehmigten Einsatzbereich des Systems gehörte. Auf allen dreien derselbe Vermerk, den es lohnt, vollständig zu zitieren, weil er das eigentliche Thema dieses Essays ist: REDACTED, MAY CONTAIN CONFIDENTIAL BUSINESS INFORMATION. Vertrauliche Geschäftsinformation. Geschwärzt.

Zehn Monate lang hat niemand den Bericht mit dem Unfall in Verbindung gebracht. Electrek hat es am 31. August 2026 getan, indem es die wenigen Felder, die die NHTSA lesbar lässt, Stadt, Fahrzeug, Monat und eine in UTC protokollierte Uhrzeit, mit den Lokalnachrichten abglich. In die Zeitzone von Arizona umgerechnet, fällt der Zeitstempel des Berichts auf kurz nach drei Uhr nachts am 31. Oktober, auf dieselbe Autobahn, mit demselben Ausgang und demselben Model 3 von 2020. Die Verbindung zwischen dem Tod eines Mannes und der Tatsache, dass sein Fahrsystem aktiv war, hat ein Journalist mit einer Tabellenkalkulation und einer Zeitzonenumrechnung hergestellt. Nicht der Transparenzmechanismus, der genau dafür entworfen worden war. Electrek hat danach beim DPS von Arizona Akteneinsicht beantragt und die Behörde gefragt, ob der Hersteller ihr je mitgeteilt habe, was er der NHTSA erklärt hatte, nämlich dass das System aktiv war.

Und es ist der zweite Fall mit derselben Signatur. Am 6. Oktober 2025, gegen 21:25 Uhr, steht auf der I-4 in Florida, auf Höhe des Lake Mary Boulevard im Seminole County, ein weiteres Model 3 von 2020 auf der mittleren Spur in Richtung Osten. Ein Sattelzug versucht auszuweichen, streift es, prallt gegen die Leitplanke und kippt um. Der Tesla wird gegen einen zweiten Lkw geschoben. Der Fahrer, ein 43-jähriger Mann aus Deltona, stirbt an der Unfallstelle. Die Florida Highway Patrol erklärt, sie wisse nicht, warum das Auto mitten auf der Interstate stand. Teslas Bericht an die NHTSA sagt auch hier Verified Engaged, Stopped, 0 mph. Auch hier sind Unfallbeschreibung, Softwareversion und das Feld zum Einsatzbereich schwarz.

Zwischen Florida und Arizona liegen fünfundzwanzig Tage.

Das Unbehagen, das ich beim Lesenden hinterlassen möchte, betrifft nicht die Schuld. Es betrifft eine einfachere Frage, die schwerer abzuschütteln ist. Warum kann man es nicht wissen.

Zwei Hypothesen, beide unbequem

Die erste Hypothese ist die, auf die jeder von selbst kommt, der Tesla in den letzten Jahren verfolgt hat. Phantom Braking, das plötzliche Bremsen ohne Hindernis, ist ein dokumentiertes Problem. Die NHTSA hat im Februar 2022 eine Voruntersuchung eröffnet, auf Grundlage von 354 Beschwerden zu Model 3 und Model Y der Jahrgänge 2021 und 2022, die bis Mai desselben Jahres auf 758 gestiegen waren. Eine Sammelklage ist seit 2023 vor dem Bundesgericht für den nördlichen Distrikt von Illinois anhängig. Die Akte muss aber zu Ende gelesen werden, denn sie enthält ein Detail, das das Bild verkompliziert, statt es zu vereinfachen. Die Untersuchung wurde am 29. Juni 2026 geschlossen, ohne jede Maßnahme des Herstellers, und der Abschlussbericht beschreibt ein typisches Ereignis: eine Verzögerung um zehn bis zwanzig Meilen pro Stunde innerhalb von ein bis drei Sekunden, die der Fahrer durch Gasgeben überwindet. Keine Kollision festgestellt, kein Fahrzeug zum vollständigen Stillstand gekommen. Ein Auto, das mit null auf der Spur steht, ähnelt dem Phantom Braking, das die NHTSA katalogisiert hat, und niemand außerhalb von Tesla hat das Phänomen nah genug gesehen, um zu sagen, ob es dasselbe ist.

Die zweite Hypothese ist prosaischer, und sie ist die, die ein Autobahnpolizist um drei Uhr nachts zuerst in Betracht zieht. Ein medizinischer Notfall. Sekundenschlaf. Der Fahrer reagiert nicht mehr, das System merkt, dass es niemanden mehr hat, mit dem es sprechen kann, und tut, wofür es gebaut wurde: Es bremst bis zum Stillstand und hält das Auto, wo es ist. Das ist keine ferne Hypothese. Um drei Uhr nachts ist sie vielleicht die wahrscheinlichste.

Hier muss man der Versuchung widerstehen, sie als Freispruch zu nehmen. Ein System der Stufe 2, das nach dem Verlust seines Fahrers das Fahrzeug auf einer Fahrspur einer Autobahn stehen lässt, im Dunkeln, ohne auf den Standstreifen zu fahren und ohne sich so bemerkbar zu machen, dass es jemand sieht, der mit hundert ankommt, hat ein Problem beim Design der Degradation. Was die Normen den risikominimalen Zustand nennen, den Ort, an den ein System das Fahrzeug bringt, wenn es nicht mehr weiterfahren kann, ist für Stufe 2 nicht einmal definiert, weil in der Theorie immer der Fahrer verantwortlich ist. In der Praxis entscheidet der Hersteller, was das Auto tut, wenn der Fahrer nicht mehr da ist, und er entscheidet es für alle seine Kunden auf einmal. Wenn diese Entscheidung lautet, dort anzuhalten, wo man gerade ist, dann schließt die Hypothese des medizinischen Notfalls die Frage nicht. Sie verschiebt sie von der Software, die fährt, zur Software, die entscheidet, was zu tun ist, wenn das Fahren endet.

Die beiden Hypothesen lassen sich auf genau eine Weise unterscheiden. Das Log. Das Video. Die Telematik. Die Abfolge der Fahrereingaben in den letzten dreißig Sekunden, der Moment, in dem das System zu bremsen beschloss, und warum, die Softwareversion, die diese Entscheidung getroffen hat. All das existiert, Tesla erklärt im Bericht selbst, es zu besitzen, und all das ist es, was der Bericht nicht enthält.

Über Electrek muss etwas gesagt werden, bevor es weitergeht. Das Medium hat eine offen Tesla-feindliche Linie, und der Artikel über Mesa ist Teil einer laufenden Recherche mit eigener Übersichtsseite, die die tödlichen Unfälle, die der Hersteller der NHTSA mit geschwärzter Beschreibung gemeldet hat, einen nach dem anderen rekonstruieren will. Ich weise darauf hin, weil Lesende ein Recht darauf haben, es zu wissen, und weil es nichts ändert. Die schwarzen Felder stehen im Dokument der NHTSA, nicht im Artikel. Jeder kann die Datei herunterladen und sie zählen. Electrek hat es getan und festgestellt, dass Tesla die Beschreibung in 99,9 % seiner Berichte schwärzt, dass seine Berichte etwa 85 % aller Berichte der Branche ausmachen, fast viertausend Unfälle, und dass General Motors, Ford, Honda und Toyota praktisch nichts schwärzen. Der Befund zu den Auslassungen hält, unabhängig davon, wer ihn erhebt.

Noch etwas muss gesagt werden, weil es der unbequemste Punkt für die These dieses Textes ist. Die drei Felder, die Tesla schwärzt, sind genau die drei, die die Standing General Order zu schwärzen erlaubt. Die Anordnung der NHTSA nennt drei Ausnahmen, für die ein Hersteller vertrauliche Behandlung beanspruchen kann: den Namen der Version des Automatisierungssystems, die Angabe, ob sich das Fahrzeug in seinem Einsatzbereich befand, und die Beschreibung. Alles andere ist per Definition öffentlich. Tesla hat die Regel nicht verletzt. Es hat die Regel bis zum Anschlag genutzt, jedes einzelne Mal. Der Transparenzmechanismus hat das Loch in seiner Mitte, und er wurde so geschrieben. Die NHTSA hat zwar im August 2025 eine Prüfung eröffnet, wie zeitnah Tesla diese Unfälle meldet, nachdem sie Berichte gefunden hatte, die mehrere Monate nach den Ereignissen eingingen. Das ist eine Untersuchung darüber, wann gemeldet wird. Sie berührt nicht, was geschwärzt wird.

Derselbe Bericht vor einem italienischen Gericht

Der Fall ist amerikanisch, europäisches Recht gilt für ihn nicht und wird für ihn nicht gelten. Ich schreibe das gleich zu Beginn, weil alles, was folgt, ein kontrafaktisches Experiment ist, und ich möchte, dass es als solches benannt wird. Die Frage lautet, was mit derselben Verteidigungsstrategie geschehen würde, ich habe die Daten, aber sie sind vertrauliche Geschäftsinformation, wenn das Produkt nach dem 9. Dezember 2026 auf den europäischen Markt gebracht worden wäre und der Fall vor einem italienischen Gericht läge.

Der 9. Dezember 2026 ist der Tag, an dem die Richtlinie (EU) 2024/2853 über die Haftung für fehlerhafte Produkte anwendbar wird. Sie ersetzt die Richtlinie von 1985, und Italien setzt sie um, indem es die Artikel 114 bis 127 des Codice del consumo, des Verbrauchergesetzbuchs, neu schreibt. Der Entwurf des gesetzesvertretenden Dekrets, der Atto del Governo n. 434, wurde am 7. August den Kammern übermittelt und liegt in diesem Moment den Ausschüssen zur Stellungnahme vor. Ich komme am Ende darauf zurück, denn das Fenster, in dem sich noch etwas sagen lässt, ist kürzer, als man denkt.

Die Richtlinie hat einen Ruf, und der Ruf lautet, sie sei ein Entschädigungsinstrument. Sie erweitert den Produktbegriff auf Software, verlängert die Fristen, streicht den Selbstbehalt, nimmt die Zerstörung und Verfälschung von Daten in die ersatzfähigen Schäden auf. Ihre Kritiker sagen, nicht ohne Grund, sie sei ein Nullsummenspiel zwischen Versicherungen, die Entschädigung komme immer hinterher und hinterher nütze sie niemandem. Ihre Verteidiger zählen die Geschädigten auf, die endlich bezahlt werden. Beide blicken auf den Moment, in dem der Scheck ausgestellt wird.

Der Mechanismus, der zählt, ist ein anderer und steht in zwei Artikeln, die zusammen zu lesen sind. Artikel 9 bestimmt, dass auf Antrag dessen, der Tatsachen und Beweise vorgelegt hat, die die Plausibilität des Anspruchs hinreichend stützen, der Beklagte verpflichtet ist, die ihm verfügbaren relevanten Beweismittel offenzulegen, begrenzt auf das Erforderliche und Verhältnismäßige, mit besonderen Maßnahmen zum Schutz von Geschäftsgeheimnissen. Artikel 10 Absatz 2 Buchstabe a bestimmt, dass die Fehlerhaftigkeit des Produkts vermutet wird, wenn der Beklagte diese Beweismittel nicht offenlegt. Im italienischen Entwurf sind das die Artikel 119 und 120 des neuen Verbrauchergesetzbuchs, und die Formulierung ist fast identisch.

Lesen wir den Bericht der NHTSA noch einmal, mit diesen beiden Artikeln daneben. Die Familie des Fahrers bringt das Dokument des Herstellers selbst vor Gericht: System nachweislich aktiv, Auto mit null auf der Fahrspur, klares Wetter, der Hersteller erklärt, Schreiber, Telematik und Video zu besitzen. Tatsachen und Beweise, die den Anspruch hinreichend plausibel machen; das Gegenteil wäre schwer zu vertreten. Das Gericht ordnet die Offenlegung an. An diesem Punkt ändert der Satz „vertrauliche Geschäftsinformation“ seine Natur. Vor der NHTSA ist er ein Kästchen, das man ankreuzt und das niemand prüft. Vor einem italienischen Gericht nach dem 9. Dezember ist er ein Antrag auf Vertraulichkeitsmaßnahmen, die Artikel 9 vorsieht und gewährt, und kein Grund, nichts herauszugeben. Und wenn der Hersteller sich trotzdem entscheidet, nichts herauszugeben, ist das Produkt kraft Vermutung fehlerhaft, und es liegt an ihm, das Gegenteil zu beweisen, ohne die Daten, die er in der Schublade behalten wollte.

Das Geschäftsgeheimnis hört in diesem Schema auf, eine Verteidigung zu sein. Es wird höchstens zu einer Form der Übergabe.

Bestrafen, was man wusste, oder was man nicht sagen kann

Wer sich lange genug mit zivilrechtlicher Haftung beschäftigt, lächelt, wenn er hört, eine Haftungsregel mache Produkte sicherer. Er hat gute Gründe. Vierzig Jahre Literatur über ärztliche Behandlungsfehler besagen, dass die Angst vor der Klage häufiger Defensivmedizin hervorbringt als sichere Medizin. In einer 2005 im JAMA veröffentlichten Befragung erklärten 93 % der befragten Hochrisiko-Fachärzte in Pennsylvania, Defensivmedizin zu praktizieren, und 43 %, klinisch unnötige Bildgebung anzuordnen. Kessler und McClellan hatten 1996 gezeigt, dass Reformen, die den Haftungsdruck auf Ärzte senken, die Ausgaben um 5 bis 9 % verringern, ohne messbare Auswirkung auf Sterblichkeit und Komplikationen. In Italien schätzte ein parlamentarischer Untersuchungsausschuss 2013, dass die Defensivmedizin 10,5 % der Gesundheitsausgaben ausmacht, über zehn Milliarden Euro im Jahr. Das Argument ist ernst, die Lesenden wissen es, und es lässt sich nicht wegwischen.

Es lohnt sich aber, das Warum herauszulösen. Die klassische Haftungsregel bestraft, was man wusste. Der Arzt haftet für ein Symptom, das er vor sich hatte und übersah, der Hersteller für einen Fehler, den er kannte und ignorierte. Daher der perverse Anreiz, der die eigentliche Wurzel der Defensivmedizin wie des defensiven Engineerings ist: nicht hinsehen. Den Test nicht machen, den man nicht bestehen könnte. Das Log nicht aufbewahren, das in den Akten landen könnte. Das Post-Mortem nicht in einem Format schreiben, das ein gegnerischer Anwalt zitieren könnte. Jeder Ingenieur, der in einem Unternehmen mit aktiver Rechtsabteilung gearbeitet hat, hat mindestens einmal den Rat gehört, eine bestimmte Sache nicht schriftlich festzuhalten. Innerhalb dieser Regel ist der Rat rational.

Die Vermutung des Artikels 10 tut etwas anderes, und ich glaube, es ist das Wichtigste, was in der Richtlinie steht. Sie bestraft das Nicht-sagen-Können. Der Hersteller, der die Daten nicht vorlegt, wird nicht für das sanktioniert, was die Daten offenbart hätten. Er wird in die Lage dessen versetzt, der die erste Runde schon verloren hat, ganz gleich, was in den Daten stand. Das Vorzeichen des Anreizes kippt. Nicht hinzusehen ist keine Verteidigungshaltung mehr, sondern ein Eingeständnis. Das Log, das man nicht aufbewahrt hat, hört auf, das Log zu sein, das einem nicht schaden kann, und wird zu dem, das einen durch seine Abwesenheit verurteilt. Der Rat der Rechtsabteilung zeigt innerhalb dieser Regel in die andere Richtung: alles aufbewahren, und zwar in einer Form, die wir übergeben können.

Hinzu kommt der vierte Absatz desselben Artikels, den man für das lesen sollte, was er über Software sagt. Wenn der Geschädigte übermäßige Schwierigkeiten hat, den Fehler oder den Kausalzusammenhang nachzuweisen, insbesondere wegen der technischen oder wissenschaftlichen Komplexität des Produkts, und wenn er darlegt, dass das Produkt wahrscheinlich fehlerhaft war, vermutet das Gericht den Fehler. Erwägungsgrund 48 ergänzt, dass vom Geschädigten im Fall eines KI-Systems nicht verlangt werden kann, die interne Funktionsweise des Systems zu erklären. Die Komplexität, dreißig Jahre lang der wirksamste Schild aller, die Software herstellen, hört auf, einer zu sein. Das Gericht wird nicht zum Ingenieur. Die Schwierigkeit, das Produkt zu verstehen, fällt schlicht auf den zurück, der es gebaut hat und der es versteht.

Dann ist da die Zeit, und sie ist der Punkt, der alles andere trägt. Die Vermutung wirkt vor der Entscheidung in der Sache. Nicht am Ende des Prozesses, nach Gutachten und Vertagungen. Am Anfang, in dem Moment, in dem das Gericht entscheidet, wer was beweisen muss. Das verändert das Kalkül des Herstellers ganz konkret: Die Daten in den Wochen nach dem Ereignis auf den Tisch zu legen, solange sich noch etwas erklären lässt, kostet weniger, als ihr Fehlen jahrelang zu verteidigen. Und Wochen sind die Maßeinheit, um die es hier geht. Der erste Tod lässt sich durch keine Entschädigung ungeschehen machen. Der zweite lässt sich vermeiden, wenn die Daten des ersten rechtzeitig lesbar werden. Zwischen der I-4 und dem Loop 202 lagen fünfundzwanzig Tage. Niemand außerhalb des Herstellers hatte in diesen fünfundzwanzig Tagen die Elemente, um sich zu fragen, ob der zweite Fall dem ersten ähnelte. Der Hersteller hatte sie.

Das ist der Punkt, den weder die Kritiker noch die Verteidiger der Richtlinie ins Zentrum stellen. Es ist kein Gesetz über Sanktionen. Es ist ein Gesetz über Lesbarkeit.

Was ernsthafte Ingenieursarbeit längst tut

Jetzt die Übersetzung, denn ein Essay, der beim Prinzip stehen bleibt, ist ein Essay, den niemand an Kollegen weiterleitet.

Der Satz, den ich aus diesem Abschnitt hinaustragen möchte, ist einfach. Die Richtlinie macht verpflichtend, was ernsthafte Ingenieursarbeit längst tut. Wer über die Last klagt, klagt im Kern darüber, wissen zu sollen, was die eigene Software tut. Trotzdem lohnt es sich aufzuzählen, was das in der Praxis bedeutet, mit dem Artikel daneben, der es einklagbar macht.

Observability wird zu einem juristischen Artefakt. Bisher waren Logs, Traces und Metriken eine Bequemlichkeit des Betriebs, etwas, das man zum Debuggen konfigurierte und nach dreißig Tagen rotieren ließ, um Platz zu sparen. Artikel 9 macht daraus Beweismittel, die dem Beklagten verfügbar sind, und Erwägungsgrund 42 ergänzt, dass zu den offenzulegenden Beweisen auch Dokumente gehören, die erst durch Zusammenstellen und Ordnen des Vorhandenen neu erstellt werden müssen. Das Qualitätskriterium ändert sich. Debuggen zu können reicht nicht mehr. Man muss es in sechs Jahren einem gerichtlich bestellten Sachverständigen erklären können. Das heißt Logs, die die Rotation überleben, über einen Horizont, der mindestens die zehn Jahre der Ausschlussfrist abdeckt, verlässliche Zeitstempel in einer deklarierten Zeitzone (die Recherche von Electrek wurde durch eine Uhrzeit in UTC möglich und wäre ohne sie unmöglich gewesen), eine Nachvollziehbarkeit der Systementscheidungen, die für jemanden verständlich bleibt, der sie nicht geschrieben hat. Artikel 9 Absatz 6 erlaubt dem Gericht zu verlangen, dass Beweise leicht zugänglich und leicht verständlich vorgelegt werden. Ein Dump von drei Terabyte binärer Ereignisse ohne Schema kommt einer Nichtherausgabe gleich.

Versionierung und Provenance werden zu einer Frage mit Antwortpflicht. Welcher Build lief in diesem Moment, mit welchen Abhängigkeiten, welcher Konfiguration, welchem Modell. Im Bericht der NHTSA ist die Softwareversion eines der drei schwarzen Felder, und es ist das Feld, das sagen würde, ob das aktive System Autopilot oder Full Self-Driving war, zwei Produkte mit unterschiedlichen Fähigkeiten und unterschiedlichem Einsatzbereich. Die Ausschlussfrist der Richtlinie beträgt zehn Jahre ab dem Inverkehrbringen, und bei Personenschäden, die sich erst nach langer Latenz zeigen, reicht sie bis zu fünfundzwanzig. Wer mit einer Software Bill of Materials für den Cyber Resilience Act arbeitet, hat schon die halbe Infrastruktur: Komponentenmanifeste, reproduzierbare Builds, unveränderliche Artefakte. Die andere Hälfte ist die Aufbewahrung, und Aufbewahrung ist eine Budgetentscheidung, die heute fast niemand auf zehn Jahre trifft. Ich habe an anderer Stelle geschrieben, dass die europäische Compliance eher an fehlendem Inventar scheitert als an fehlenden Normen. Die Richtlinie fügt diesem Argument eines hinzu: Das Inventar muss ein Datum tragen, und das Datum muss belastbar sein.

Der Teil, der die künstliche Intelligenz betrifft, ist der, in dem die Richtlinie expliziter ist, als man es von einem Text über Produkthaftung erwartet. Artikel 7 Absatz 2 zählt unter den Umständen für die Beurteilung der Fehlerhaftigkeit die Auswirkungen der Fähigkeit des Produkts auf, nach dem Inverkehrbringen weiterzulernen oder neue Merkmale zu erwerben, sowie den Zeitpunkt, an dem das Produkt die Kontrolle des Herstellers verlassen hat, wenn der Hersteller nach dem Verkauf die Kontrolle behält. Erwägungsgrund 32 sagt es ohne Umschweife: Ein Hersteller, der ein Produkt so entwirft, dass es unerwartetes Verhalten entwickeln kann, bleibt für Verhalten haftbar, das Schaden verursacht. Artikel 11 Absatz 2 schließt den klassischen Fluchtweg, den später entstandenen Fehler: Die Befreiung gilt nicht, wenn der Fehler auf Software, auf Updates oder auf deren Fehlen zurückgeht, solange das Produkt unter der Kontrolle des Herstellers steht. Und Erwägungsgrund 19 stellt klar, dass ein Produkt unter der Kontrolle des Herstellers bleibt, solange dieser die Fähigkeit behält, Updates bereitzustellen. Ein Modell, das driftet, ist ein Produkt, das sich verändert, nachdem es die eigenen Hände verlassen hat, und die Richtlinie entlässt einen nicht, solange man den Schlüssel behält. Operativ heißt das: Snapshots der Bewertungen bei jedem Release, versionierte Model Cards, Drift-Überwachung mit dokumentierten Schwellen und vor allem die Fähigkeit zu rekonstruieren, was dieses Modell auf diese Eingabe an diesem Datum geantwortet hätte. Nichts davon ist exotisch: Jedes Team, das ernsthaftes Fine-Tuning betreibt, tut das längst für sich selbst, an dem Tag, an dem ein Kunde fragt, warum das System zwischen Dienstag und Donnerstag seine Meinung geändert hat.

Dann die Konvergenz, der Grund, warum dieser Essay auf einem Blog steht, der von Compliance als Architektur handelt. Der Cyber Resilience Act und NIS2 legen aktive Pflichten vor dem Schaden fest: Schwachstellenmanagement, Sicherheitsupdates während des Unterstützungszeitraums, Meldung von Vorfällen binnen vierundzwanzig Stunden. Die Produkthaftungsrichtlinie greift danach, beim bereits eingetretenen Schaden, und das Ausbleiben der Updates, die zur Aufrechterhaltung der Sicherheit nötig sind, ist in Artikel 11 genau eines der Dinge, von denen man sich nicht befreien kann. Artikel 7 nimmt sicherheitsrelevante Cybersicherheitsanforderungen in die Kriterien der Fehlerhaftigkeit auf. Die drei Regelwerke stützen einander. Die Konformität mit den ersten beiden ist die beste Verteidigung gegen die Vermutung des dritten, weil sie als Nebenprodukt die Dokumentation erzeugt, die Artikel 9 offenzulegen verlangt. Wer die SBOM für den CRA gebaut hat, hat die Antwort auf die Frage, was an jenem Datum im Produkt steckte, schon. Wer das Vorfallregister für NIS2 führt, hat die Antwort auf die Frage, wann er es wusste, schon. Die Grenzkosten des dritten Regelwerks sind für den, der die ersten beiden ernst genommen hat, niedrig.

Die Kehrseite muss ausgesprochen werden, sonst verliert der nächste Abschnitt seine Glaubwürdigkeit, bevor er beginnt. All das hat reale Kosten. Strukturierte Logs zehn Jahre aufzubewahren kostet Speicher und Verschlüsselung. Einen Build reproduzierbar zu machen kostet Pipeline-Zeit und Disziplin. Ein Modell mit seinen Bewertungen zu versionieren kostet Stunden von Menschen, die lieber das nächste trainieren würden. Eine technische Dokumentation zu schreiben, die vor einem Gerichtssachverständigen besteht, und nicht nur vor dem Kollegen, der sie mit einem geschrieben hat, kostet eine Kompetenz, die der Markt heute nicht bezahlt und die fast niemand lehrt. In einem Softwarehaus mit zehn Leuten, dem, in dem ich arbeite, verteilen sich diese Kosten nicht auf eine interne Rechtsabteilung. Sie gehen von denselben Stunden ab, in denen das Produkt geschrieben wird. Das lässt sich nicht schönreden, und ich versuche es nicht.

Die Einwände, die eine Antwort verdienen

Ohne diesen Abschnitt wäre der Essay ein Pamphlet. Die folgenden Einwände sind keine Strohmänner. Es sind die Dinge, die man mir tatsächlich gesagt hat, nach Stärke geordnet.

Der erste lautet, die zivilrechtliche Haftung habe noch nie jemanden gerettet. Es ist der stärkste Einwand, und ich habe ihn oben behandelt, deshalb ergänze ich hier nur den Teil, den ich nicht gesagt habe. Er trifft für die Haftung zu, die bestraft, was man wusste. Ich habe keine Belege dafür, dass er für eine Haftung zutrifft, die bestraft, was man nicht sagen kann, denn diese Regel wurde nie in großem Maßstab auf Software angewandt, und wir werden ab 2027 sehen, ob sie hervorbringt, was ihre Struktur hoffen lässt. Ich bin bereit, mich zu irren. Ich bin nicht bereit, die Literatur zu Behandlungsfehlern so zu behandeln, als spräche sie über eine Regel, die nicht dieselbe ist.

Der zweite lautet, die lange Frist und die Software als Produkt erdrückten die kleinen Unternehmen. Das muss man zugeben, weil es wahr ist. Die Last verteilt sich asymmetrisch. Der Konzern trägt sie mit einer Rechtsabteilung und einem Aufbewahrungsbudget, das in der Bilanz nicht auffällt. Das Softwarehaus mit zehn Leuten nicht. Eine Frist von fünfundzwanzig Jahren, selbst begrenzt auf Personenschäden mit langer Latenz und damit in der Praxis auf Medizinsoftware und wenig anderes, ist ein Horizont, den kein kleines italienisches Unternehmen je planen musste. Ich ergänze, dass der Bericht der Regierung zum Dekretentwurf festhält, die Verbände der Arzneimittelgeschädigten hätten selbst die Fristen von drei und zehn Jahren als unzureichend bezeichnet, was etwas über die Richtung sagt, aus der der Druck kommt. Die Antwort lautet nicht, dass alles in Ordnung sei. Die Antwort lautet, dass das Heilmittel in der Verhältnismäßigkeit der Verfahrensregeln liegt, in dem Sinne, in dem Artikel 9 schon von erforderlich und verhältnismäßig spricht, und nicht in der Abschaffung der materiellen Regel. Ich sage das aus einem Unternehmen mit zehn Leuten heraus, und ich vermute, dass es anders wiegt als dasselbe Argument aus dem Mund eines Akademikers. Von einem kleinen Unternehmen zu verlangen, zu wissen, was seine Software tut, ist keine unverhältnismäßige Last. Von ihm zu verlangen, sich mit denselben Verfahrensmitteln zu verteidigen wie ein globaler Hersteller, ist es, und das italienische Dekret könnte hier etwas tun. Bislang tut es das nicht.

Der dritte ist dogmatisch, und ich nehme ihn ernst, weil ich ihn selbst erhoben habe, vor ein paar Monaten. Software ist kein Produkt, und ein System, das lernt und sein eigenes Verhalten verändert, lässt sich nicht auf die Kategorie der fehlerhaften beweglichen Sache reduzieren. Das ist wahr. Die Kategorie ist unvollkommen, erzwungen, und sie hält auf verteilten Systemen, in denen niemand alles kontrolliert, schlecht. Aber die Alternative, die die Kritiker vorschlugen, war eine eigene Richtlinie zur Haftung für KI-Systeme, und sie wurde zurückgezogen. Ich komme gleich dazu. In der Leere, die der Rückzug hinterlassen hat, schlägt die unvollkommene Kategorie das Fehlen jeder Kategorie.

Der vierte lautet, es werde defensives Engineering entstehen, kein sicheres. Übervorsichtige Systeme, eingefrorene Releases, in Europa abgeschaltete Funktionen, Rückzug vom Markt. Das Risiko ist real, und ich bestreite es nicht. Ein Teil der Branche wird so reagieren, und eine Zeit lang werden manche Dinge in Europa später oder gar nicht ankommen. Die Antwort liegt in der Anreizstruktur, die ich beschrieben habe. Das klassische defensive Engineering besteht darin, nicht hinzusehen, und genau dieses Verhalten bestraft die Vermutung. Der Hersteller, der sich gegen die Vermutung verteidigen will, muss die Daten vorlegen, und um sie vorzulegen, muss er sie gesammelt haben, und um sie gesammelt zu haben, muss er hingesehen haben. Man kann ein übervorsichtiges, gut dokumentiertes System bauen, gewiss. Man kann kein verteidigungsfähiges, undokumentiertes System bauen, und das ist der Punkt.

Der fünfte ist der Szenario-Einwand: die x-te europäische Regulierungslast, während die anderen rennen. Hier dient der Fall Mesa auch dazu. Er zeigt konkret, was das alternative Modell hervorbringt, das, in dem das Geschäftsgeheimnis hält. Eine Familie, die nicht weiß, warum. Eine Autobahnpolizei, die ermittelt, ohne zu wissen, dass das System aktiv war. Eine Aufsichtsbehörde, die den Bericht mit drei schwarzen Feldern erhält und ablegt. Eine Öffentlichkeit, die zehn Monate später von einem Journalisten mit einer Tabellenkalkulation erfährt, dass es zwei identische Fälle im Abstand von fünfundzwanzig Tagen gab. Die anderen rennen. Ohne lesbaren Datenschreiber zu rennen ist eine Entscheidung, und ihren Preis zahlt nicht, wer rennt.

Das einzige Instrument, das bleibt

In dieser ganzen Geschichte steckt eine Ironie, die ihren Platz verdient.

Am 28. September 2022 hatte die Europäische Kommission eine Richtlinie zur zivilrechtlichen Haftung für künstliche Intelligenz vorgeschlagen, die AI Liability Directive. Sie tat zwei Dinge, und sie tat sie gezielt für Hochrisikosysteme: Sie gab den Gerichten die Befugnis, die Offenlegung der technischen Beweise beim Anbieter anzuordnen, und sie führte eine widerlegbare Vermutung des Kausalzusammenhangs zwischen dem Verschulden des Beklagten und dem Output des Systems ein. Sie war für die künstliche Intelligenz die eigens zugeschnittene Fassung dessen, was die Artikel 9 und 10 der Produktrichtlinie allgemein tun.

Am 11. Februar 2025 verabschiedete die Kommission ihr Arbeitsprogramm für 2025, das am Tag darauf dem Europäischen Parlament in Straßburg vorgestellt wurde. Anhang IV zählt siebenunddreißig zurückzuziehende Vorschläge auf. Zeile 32 ist die Richtlinie zur KI-Haftung, mit einer Begründung, die es zu zitieren lohnt: keine absehbare Einigung, die Kommission werde prüfen, ob ein anderer Vorschlag vorgelegt oder ein anderer Ansatz gewählt werden solle. Der förmliche Rückzug wurde am 6. Oktober 2025 im Amtsblatt veröffentlicht. Am 3. Dezember lehnte der Rechtsausschuss des Parlaments mit zweiundzwanzig zu einer Stimme den Vorschlag ab, ihn anzufechten. Die Akte ist geschlossen.

Die Folge muss präzise benannt werden, weil sie sich leicht übertreiben lässt. Der AI Act enthält keine Regeln zur Entschädigung: Sein Erwägungsgrund 9 verweist für den Ersatz von Schäden ausdrücklich auf die Produktrichtlinie. Mit dem Rückzug der AILD ist die Richtlinie 2024/2853 heute das einzige europäische Instrument, das die zivilrechtliche Haftung für Schäden durch KI-Systeme harmonisiert, und sie tut es innerhalb der Grenzen der Produkthaftung. Alles andere, und das andere ist viel, bleibt bei den siebenundzwanzig nationalen Rechten der außervertraglichen Haftung.

Und hier die Umkehrung. Wer den Rückzug der AILD als Sieg der Vereinfachung beklatscht hat, sollte heute der Erste sein, der die Produktrichtlinie verteidigt, denn ohne sie bleibt nicht weniger Regulierung: Es bleiben siebenundzwanzig Regulierungen. Für ein Unternehmen, das Software in fünf europäischen Ländern verkauft, sind siebenundzwanzig verschiedene Regime der außervertraglichen Haftung, jedes mit eigenen Vermutungen, eigenen Fristen, eigenen Regeln zum Zugang zu Beweisen, ein schlechteres Szenario als eine harmonisierte Regel, auch eine strenge. Axel Voss hat das in den Tagen des Rückzugs gesagt. Er war Berichterstatter des Parlaments zur AILD und sitzt für die Europäische Volkspartei, also kaum eine Stimme der regulierungsfreudigen Linken: Er nannte den Rückzug einen strategischen Fehler und sagte voraus, die KI-Haftung werde von einem fragmentierten Flickenteppich aus siebenundzwanzig nationalen Rechtssystemen diktiert, der europäische KI-Start-ups und KMU ersticke. Er hatte recht, und die Produktrichtlinie ist das, was uns bleibt, um das zu verhindern.

Zwölf Tage, dann sechsundneunzig

Zurück zum Dekret, denn das ist der Teil, den man noch anfassen kann.

Die Ermächtigung steht im europäischen Delegationsgesetz 2025, dem Gesetz Nr. 36 vom 17. März 2026, Anhang A, Nummer 4. Der Ministerrat hat den Entwurf am 4. August in erster Lesung gebilligt. Der Text ist am 7. August als Atto del Governo n. 434 bei den Kammern eingegangen. In der Abgeordnetenkammer haben der Justizausschuss und der Ausschuss für EU-Politik bis zum 16. September Zeit für ihre Stellungnahme. Im Senat hat der zweite Ausschuss vierzig Tage ab Zuweisung, also dieselbe Frist. Von heute an sind das zwölf Tage. Dann beschließt die Regierung den endgültigen Text, und am 9. Dezember, sechsundneunzig Tage von heute, wird die Richtlinie auf Produkte anwendbar, die von diesem Tag an in Verkehr gebracht werden. Für Produkte, die schon auf dem Markt sind, gilt weiter das Regime von 1985.

Der Entwurf setzt die Richtlinie fast wörtlich um, und dazu gibt es wenig zu sagen: Der Bericht selbst merkt an, dass die Spielräume des nationalen Gesetzgebers bei einer Vollharmonisierung eng sind. Die Offenlegung der Beweise steht in Artikel 119, die Vermutungen in Artikel 120, die Software-Rückausnahme in Artikel 118 Absatz 2. Alles an seinem Platz.

Einen Punkt gibt es aber zu beobachten, und es ist der einzige, an dem der Staat eine echte Wahl hatte. Artikel 18 der Richtlinie erlaubt den Mitgliedstaaten, vom Entwicklungsrisiko-Einwand abzuweichen, der Verteidigung, mit der sich der Hersteller entlastet, indem er nachweist, dass der Stand der wissenschaftlichen und technischen Kenntnisse zum Zeitpunkt des Inverkehrbringens die Entdeckung des Fehlers nicht erlaubte. Die Abweichung kann nur für bestimmte Produktkategorien eingeführt werden, aus Gründen des öffentlichen Interesses, verhältnismäßig und nach Notifizierung an die Kommission. Die Regierung hat sich entschieden, sie nicht zu nutzen. Die Folgenabschätzung begründet das so: Die Beibehaltung des Einwands, den das geltende Recht bereits kennt, sichere die Kontinuität des nationalen Rahmens und einheitliche Haftungsbedingungen im Binnenmarkt, während die Einführung eines abweichenden Regimes derzeit nicht durch Belege gestützt werde, die seine Notwendigkeit zeigten.

Ich bin nicht sicher, dass das die falsche Entscheidung ist. Der Entwicklungsrisiko-Einwand ist für die meisten Produkte vernünftig, und eine pauschale Abweichung wäre ein Fehler gewesen. Aber „derzeit“ und „Belege“ sind Wörter, die im konkreten Fall von Systemen, die nach dem Verkauf weiterlernen, eine Frage im Ausschuss verdienen. Kann ein Hersteller, der ein Produkt entwirft, das zu unerwartetem Verhalten fähig ist, und der die Kontrolle über die Updates behält, wirklich behaupten, der Stand der Kenntnisse habe die Entdeckung des Fehlers nicht erlaubt, wenn er selbst entscheidet, was das Produkt über sich aufzeichnet? Die Richtlinie begrenzt diese Verteidigung schon auf den Zeitraum, in dem das Produkt unter der Kontrolle des Herstellers stand. Wenn die parlamentarische Stellungnahme in den zwölf verbleibenden Tagen etwas Nützliches sagen will, könnte sie die Regierung bitten zu erklären, warum sie nicht wenigstens diese Kategorie in den Blick genommen hat, und welche Belege sie in den kommenden Jahren suchen wird, um neu zu bewerten. Eine bescheidene Bitte, eine um Lesbarkeit, und das ist am Ende das Thema von allem anderen.

Um drei Uhr nachts steht auf dem Loop 202 ein Model 3 auf der Fahrspur, mit eingeschalteten Lichtern im Dunkeln. Das System, das es dort hält, weiß, warum. Es hat es in seinen Schreiber geschrieben, an den Hersteller übertragen, der Hersteller hat es der Aufsicht erklärt und dann mit drei schwarzen Rechtecken bedeckt, die ihm die Aufsicht selbst erlaubt hat. Zehn Monate später hat ein Journalist das Wenige rekonstruiert, das sich von außen rekonstruieren ließ. Die Familie, die Autobahnpolizei und jeder, der ein Model 3 von 2020 fährt, wissen noch immer nichts.

Die europäische Produkthaftungsrichtlinie hätte diesen Fahrer nicht gerettet. Kein Gesetz hätte das. Aber sie hätte den Hersteller unfähig gemacht, mit einem schwarzen Rechteck zu antworten, und das hätte, fünfundzwanzig Tage nach dem ersten Tod, zählen können.

Nichtwissen ist nicht mehr kostenlos. Es ist das Nützlichste, was ein Haftungsgesetz der Software sagen konnte.

Der Autor

Andrea MargiovanniEU-Compliance

Ich arbeite mit Teams, die Systeme unter AI Act, CRA, NIS2, DSGVO bauen. Die Regel ist keine Checkliste: sie ist eine architektonische Einschränkung, die schon beim Entwurf an Bord muss, nicht danach.

Zum Weg →