Kurz gesagt
Der Name einer Technologie verteilt die Verantwortung, bevor irgendein Gesetz kommt. Der AI Act schaut zu Recht auf die Funktion und nicht auf den Namen, aber zwischen der Funktion und dem Menschen, der das System benutzt, steht immer ein Wort, und dieselbe Verordnung erkennt die Neigung an, der Maschine zu sehr zu vertrauen. Frankreich legt die Definitionen technischer Begriffe per Rechtsakt fest und schreibt sie der eigenen Verwaltung vor; in Italien schreibt sie, wer verkauft. „Agent“, ernst genommen, ist ein ehrliches Wort, weil es die Frage enthält, in wessen Auftrag. „Kopilot“ setzt den Menschen auf den Kommandoplatz, auch wenn er nicht prüfen kann, und macht ihn zur Knautschzone des Systems, während die neue Produkthaftungsrichtlinie den Fehler der Software dem Hersteller zuweist. „Autonom“ lässt das Subjekt verschwinden: Die Ingenieure der SAE raten davon ab, Kalifornien hat Tesla gezwungen, „Autopilot“ aufzugeben, das Vereinigte Königreich hat acht Wörter per Gesetz zugelassenen Fahrzeugen vorbehalten. Die Franzosen schützen die Wörter vor dem Englischen, die Briten vor Versprechen, die nicht gehalten werden. Wer Software baut, kann den Namen als Entwurfsentscheidung behandeln.
Dieser Text handelt von dem Namen, den wir Technologien geben, und davon, was dieser Name danach anrichtet, wenn er in einen Vertrag gerät oder in den Kopf eines Menschen, der eine Maschine bedient. Ich beginne mit einer Liste, die in Paris erschienen ist.
Zum KI-Gipfel, den Frankreich 2025 ausgerichtet hat, sammelte die Délégation générale à la langue française, die für die Sprache zuständige Stelle des Kulturministeriums, fünfzig Schlüsselbegriffe der KI in einem kleinen Band. Zu jedem empfohlenen französischen Wort gibt es eine Spalte mit den Entsprechungen in den anderen europäischen Sprachen. Beim Eintrag infox vidéo, der amtlichen französischen Bezeichnung für Deepfake, steht in der italienischen Spalte „deepfake“. Das Katalanische hat „hipertrucatge“. Laut einem amtlichen Dokument eines anderen Landes haben wir Italiener für diese Sache kein eigenes Wort, und wenn man genau hinsieht, hat das Dokument recht. DGLFLF
Im ersten Teil dieser Überlegung habe ich behauptet, dass ein Land, das seiner Zukunft keinen Namen gibt, sie von anderen schon benannt bekommt, samt den Prioritäten derer, die das Wort geprägt haben. Das war eine Rede über die Geografie der Wörter, darüber, wer sie erfindet und wer sie übersetzt. Hier versuche ich, ein Stockwerk tiefer zu steigen und mir die Mechanik anzusehen: Was geschieht mit einem Wort, nachdem jemand es gewählt hat, und wer trägt am Ende die Folgen.
Der Einwand: Es zählt die Funktion
Der ernsthafteste Einwand kommt von denen, die das Recht kennen, und ich kenne ihn gut, weil ich ihn jahrelang selbst vertreten habe. Der Name eines Produkts gehört in die Vertriebsabteilung, und das Gesetz tut gut daran, ihn zu übergehen. Eine Norm, die den Wörtern hinterherliefe, wäre am Tag nach ihrer Verabschiedung veraltet, denn wer verkauft, erfindet Namen schneller, als ein Parlament Artikel schreibt. Der AI Act ist auf dieser Vorsicht gebaut. Er zählt weder Produkte noch Marken auf, er definiert ein KI-System über das, was es tut: ein maschinengestütztes System, das aus den erhaltenen Eingaben ableitet, wie es Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erstellt. Ob man es Assistent, Motor oder Plattform nennt, für die Verordnung ändert das nichts. Das war eine kluge Entscheidung, und wer mit Compliance arbeitet, weiß, wie bequem ein Text ist, den man nicht bei jedem neuen Produkt umschreiben muss.
All das zugestanden, bleibt ein Problem. Zwischen der Funktion, die das Gesetz beschreibt, und dem Menschen, der das System benutzt, steht immer ein Wort, und Menschen richten sich nach dem Wort, nicht nach der Definition in Artikel 3. Die Verordnung weiß das. In Artikel 14, der die menschliche Aufsicht über Hochrisiko-Systeme regelt, verlangt sie vom Anbieter, die Aufsichtspersonen in die Lage zu versetzen, sich der Neigung bewusst zu bleiben, dem, was die Maschine ausgibt, zu sehr zu vertrauen. Und sie gibt dieser Neigung einen genauen Namen: „Automatisierungsbias“. Es ist eine der seltenen Stellen, an denen ein europäischer Gesetzestext zugibt, dass die Psychologie dessen, der vor dem Bildschirm sitzt, zum Risiko gehört. Ein Produkt namens „autonom“ erzeugt diesen Bias, noch bevor es eingeschaltet wird. EUR-Lex
Ein Detail der Definition verdient es, zweimal gelesen zu werden. Artikel 3 spricht von einem System, das „für einen in unterschiedlichem Grade autonomen Betrieb ausgelegt ist“. Für das Gesetz ist Autonomie eine Größe, etwas, das man misst und das sich von System zu System und von Kontext zu Kontext ändert. Für den Verkäufer ist sie eine Identität, etwas, das das Produkt ist. In der Lücke zwischen diesen beiden Vorstellungen geht die Verantwortung verloren, und meistens merkt es niemand, bis etwas schiefgeht.
Die Franzosen und die Macht zu definieren
Es gibt Länder, die sich mit dieser Lücke nicht abfinden wollten. In Frankreich veröffentlicht eine Kommission zur Bereicherung der Sprache im Journal officiel, dem Amtsblatt der Republik, die empfohlenen Begriffe für neue Dinge, jeden mit einer Definition. Die Begriffe landen anschließend in einer öffentlichen Datenbank, FranceTerme. Für die Behörden des Staates ist ihr Gebrauch anstelle der fremdsprachigen Entsprechungen Pflicht, so will es ein Dekret von 1996; für alle anderen bleibt es eine Einladung.
Bei der künstlichen Intelligenz ist die Arbeit dicht. Eine Liste vom Dezember 2018 legt „intelligence artificielle“ und das Kürzel „IA“ fest und ersetzt eine Veröffentlichung aus dem Jahr 2000. In derselben Liste wird der Chatbot zum dialogueur, und eine Anmerkung rät von dem Ausdruck „agent conversationnel“ ab, der durchaus im Umlauf war. Bulletin officiel 2024 wurde der Prompt zur instruction générative. Das Wort agent steht seit September 2000 im amtlichen Wortschatz, mit einer Definition, die heute fast prophetisch klingt: ein Programm, das über ein Netz geschickt wird, um eine Aufgabe anstelle des Nutzers und ohne sein Zutun zu erledigen. In einer Zeile steht schon, was der Markt fünfundzwanzig Jahre später entdecken sollte, die Delegation zusammen mit der Abwesenheit dessen, der delegiert.
Die Tradition ist älter als die Informatik selbst, oder beinahe. 1955 fragte IBM France einen Latinisten der Sorbonne, Jacques Perret, wie man die neuen elektronischen Maschinen nennen solle. Er antwortete mit einem Brief und schlug ordinateur vor, ein Wort, das im Altfranzösischen Gott bezeichnete, der die Welt ordnet. Bibnum 1962 verband ein Ingenieur, Philippe Dreyfus, information und automatique, und heraus kam informatique. Das eine Wort hat ein Unternehmen bestellt, das andere hat jemand erfunden, der mit den Maschinen arbeitete. Keines stammt aus einer Akademie, und beide haben sich durchgesetzt.
Hier kommt der zweite Einwand, und auch er verdient es, ernst genommen zu werden: Über die Franzosen muss man schmunzeln. Niemand in Paris sagt am Kaffeeautomaten dialogueur, und vidéotox, die andere amtliche Fassung von Deepfake, hatte das Schicksal fast aller staatlichen Neologismen. Wer aber zählt, wie viele Wörter gegen das Englische gewinnen, schaut in die falsche Richtung. Entscheidend ist, dass eine öffentliche Institution die Aufgabe übernimmt, eine Definition zu schreiben und sie wenigstens für sich selbst verbindlich zu machen. Eine veröffentlichte Definition kann man anfechten, und man kann sie mit einer späteren Liste korrigieren. Ein importiertes Wort kommt ohne Definition, oder genauer: mit der Definition dessen, der es verkauft hat, geschrieben in die Vertriebsunterlagen und nie von irgendwem diskutiert.
In Italien hat diese Aufgabe niemand. Die Accademia della Crusca gibt Gutachten ab, und zwar gute, aber sie hatte nie die Befugnis, die Regeln der Sprache festzulegen, und ich glaube nicht, dass es hülfe, ihr diese Befugnis zu geben. Eine italienische Académie wäre der falsche Schluss aus dieser Überlegung, und auch ein wenig lächerlich. Es genügt zu sehen, wer die Lücke füllt. Bei uns nimmt sich die Definition, wenn überhaupt jemand, derjenige, der die Verträge und die technische Dokumentation schreibt. Man muss nur Ausschreibungsunterlagen oder ein Produktdatenblatt aufschlagen, um Agenten und autonome Plattformen auftauchen zu sehen, immer im Indikativ Präsens und fast nie mit einer Zeile, die erklärt, was damit gemeint ist. Die Definition schreibt in der Praxis, wer verkauft.
„Agent“: in wessen Auftrag
Nehmen wir also die drei Wörter, die wir heute am häufigsten hören, und beginnen wir mit dem interessantesten. „Agent“ ist interessant, weil das Wort, ernst genommen, ehrlich ist. Im Italienischen hat agente eine juristische Bedeutung, und nicht erst seit gestern; wer Deutsch spricht, kennt dieselbe Struktur vom Handelsvertreter und von der Formel, nach der jemand im Namen oder für Rechnung eines anderen handelt. Das italienische Zivilgesetzbuch, der codice civile, sagt, dass beim Agenturvertrag eine Partei den Auftrag übernimmt, den Abschluss von Verträgen „für Rechnung der anderen“ zu fördern (Artikel 1742), und dass der Auftrag, der mandato, dazu verpflichtet, Rechtsgeschäfte vorzunehmen, auch hier „für Rechnung der anderen“ (Artikel 1703). Die Regeln darüber, wer wann gebunden ist, sind komplizierter, und ein Handelsvertreter aus Fleisch und Blut vermittelt Verträge meist, ohne sie zu unterschreiben. Aber auf die Formel, die beide Artikel teilen, kommt es an. Ein Agent ist im Italienischen jemand, der für einen anderen handelt, innerhalb eines Auftrags, den dieser andere ihm erteilt hat, und innerhalb von Grenzen, die dieser andere gezogen hat. Die französische Definition von 2000 sagt dasselbe mit anderen Worten: eine Aufgabe, die anstelle eines anderen erledigt wird.
Die Werbesprache benutzt das Wort, um fast das Gegenteil nahezulegen, Initiative und Unabhängigkeit, ein Programm, das „das von allein macht“. Das ist eine kleine Umkehrung, und sie wiegt mehr, als es scheint. Ein Agent, der von allein handelt, ist ein Agent ohne Auftraggeber, und ein Agent ohne Auftraggeber ist, im Recht wie im Leben, ein Problem für alle um ihn herum.
Der AI Act definiert Agenten nicht. Der erste eigens ihnen gewidmete Ordnungsrahmen kam aus Singapur. Dort hat die IMDA, die Behörde für Kommunikation und digitale Medien, im Januar 2026 in Davos ein Modell für den Umgang mit agentischer KI vorgestellt und es im Mai aktualisiert. Es sind freiwillige Leitlinien, kein Gesetz, aber ihre Denkweise ist lehrreich. Sie vermessen einen Agenten entlang zweier Achsen. Die erste ist der Handlungsspielraum, also die Werkzeuge, auf die er zugreifen kann, und die Rechte, die er auf diesen Werkzeugen hat. Die zweite ist die Autonomie, also wie viel er selbst entscheidet, abhängig von den erhaltenen Anweisungen und davon, wie stark Menschen beteiligt sind. Und sie verlangen, die Risiken vorher einzugrenzen, im Entwurf, nicht nach dem ersten Vorfall. IMDA Man beachte, dass auch hier Autonomie eine Größe ist, die man regelt, keine Eigenschaft, mit der man wirbt.
Das ist der Teil meiner Arbeit, den ich am besten kenne. Ein wachsender Teil meiner Tage geht dafür drauf, die Berechtigungen von Software-Agenten zu entwerfen, solchen, die Code schreiben, Änderungen vorschlagen, Dokumente lesen und manchmal eine Nachricht verschicken. In Projekten für das öffentliche Gesundheitswesen, für den Rechtssektor und für die öffentliche Verwaltung ist die Abfolge immer dieselbe. Ein Agent, der in das Code-Repository schreiben oder eine E-Mail versenden kann, braucht eine eigene Identität, getrennt von der des Menschen, der ihn gestartet hat. Er braucht minimale Berechtigungen, im Voraus festgelegt und schriftlich festgehalten, und ein Protokoll seiner Handlungen, das jemand anderes lesen kann. All das, was in den Projektunterlagen Seiten füllt, folgt aus einer einzigen Frage, der, die das Wort Agent schon enthält: in wessen Auftrag. Hat die Frage eine Antwort, ist der Rest Ingenieursarbeit. Hat sie keine, ersetzt keine Ingenieursarbeit sie. Ich habe darüber in Wer kontrolliert, was KI-Agenten produzieren? geschrieben, und seitdem ist die Frage dieselbe geblieben, sie fällt in Besprechungen nur häufiger.
„Kopilot“: wer den Aufprall abfängt
„Kopilot“ wirkt wie das bescheidenste der drei Wörter. Es verspricht nichts Großartiges, im Gegenteil, es tritt zur Seite. Gerade deshalb gelingt es ihm, die Schuld zu verschieben, ohne aufzufallen. Im Cockpit assistiert der Kopilot, und der Kapitän steht für alles ein. Eine Maschine Kopilot zu nennen heißt, den Menschen per Definition auf den Kommandoplatz zu setzen, auch wenn dieser Mensch weder die Zeit noch die Mittel hat, zu prüfen, was die Maschine ihm vorschlägt.
Die Forscherin Madeleine Clare Elish hat diesem Mechanismus einen Namen gegeben, den man schwer vergisst: moral crumple zone, eine moralische Knautschzone. Beim Auto ist die Knautschzone der Teil der Karosserie, der so gebaut ist, dass er sich beim Aufprall zusammenfaltet und die Fahrgastzelle schützt. In automatisierten Systemen, so Elish, die Fälle wie den Atomunfall von Three Mile Island und den Absturz von Air-France-Flug 447 nachzeichnet, nimmt der Mensch, der der Maschine am nächsten ist, die Schuld des ganzen Systems auf sich, auch wenn er über das Geschehen nur begrenzte Kontrolle hatte. Den Aufprall bekommt er ab, und der Rest des Systems bleibt unversehrt. Elish Der Rest des Systems, das sind in diesem Fall die, die es entworfen und verkauft haben.
Das europäische Recht geht hier in die entgegengesetzte Richtung zur Werbesprache. Die neue Richtlinie über die Haftung für fehlerhafte Produkte, die 2024/2853, unter Fachleuten mit dem englischen Kürzel PLD unterwegs, sagt in einer Zeile, dass Software ein Produkt ist. Daraus folgt, dass für ihren Fehler der Hersteller haftet, wie bei einem Haushaltsgerät, und dass der Mensch vor dem Bildschirm nicht die erste Tür ist, an die man klopft. Die Mitgliedstaaten müssen sie bis zum 9. Dezember 2026 umsetzen, also in wenigen Wochen, und sie gilt für Produkte, die ab diesem Tag in Verkehr gebracht werden. In Italien liegt das Gesetz, das die Regierung zur Umsetzung ermächtigt, seit März vor, und der Entwurf des decreto legislativo, des italienischen Umsetzungsinstruments, wurde im August vorläufig gebilligt. EUR-Lex Die Werbesprache sagt „du bist der Pilot“, die Richtlinie antwortet, dass der Pilot nichts damit zu tun hat, wenn das Produkt fehlerhaft ist. Einen Teil dieser Geschichte habe ich in Geschwärzt erzählt, wo es darum ging, was passiert, wenn ein Hersteller nicht erklären kann, was seine Software getan hat. Hier füge ich nur hinzu, dass die Namen vor den Richtlinien kommen und die Nutzer jahrelang daran gewöhnt haben, sich für das verantwortlich zu fühlen, was sie nicht kontrollieren konnten.
Auch das sehe ich aus der Nähe. In unserem Beruf wird ein wachsender Teil des Codes von Assistenten vorgeschlagen und von Menschen angenommen. Die Änderung trägt die Unterschrift dessen, der sie angenommen hat, und das ist richtig, denn irgendwer muss dafür einstehen. Die praktische Frage, vor ein paar hundert Zeilen, die in wenigen Sekunden entstanden sind, lautet, wie viel von dieser Unterschrift einer echten Prüfung entspricht. Hat, wer zugestimmt hat, jede Zeile gelesen, und könnte er erklären, warum sie so geschrieben ist und nicht anders? Lautet die ehrliche Antwort nein, dann erledigt das Wort Kopilot eine schmutzige Arbeit: Es macht aus einem Menschen eine Knautschzone und lässt ihn glauben, er habe das Kommando. Die Assistenten nicht mehr zu benutzen wäre die einfachste Antwort und die am wenigsten nützliche. Ich versuche etwas anderes: eine Prüfung, die dem entspricht, was man unterschreibt, und eine schriftliche Spur dessen, was wirklich geprüft wurde und was nicht. Das ist weniger elegant als ein Name, aber es hält besser, wenn eines Tages jemand Rechenschaft über diese Zeile verlangt.
„Autonom“: das Wort, das das Subjekt verschwinden lässt
„Autonom“ ist das Wort, das das Subjekt verschwinden lässt. Es kommt vom griechischen autós und nómos und bezeichnet den, der sich selbst sein Gesetz gibt. Kein System auf dem Markt gibt sich sein eigenes Gesetz. Es arbeitet innerhalb von Regeln, die andere geschrieben haben, auf Daten, die andere ausgewählt haben, und es hält an, wenn jemand es abschaltet.
Die Ingenieure sagen das seit Langem, und mit weniger Umschweifen als die Geisteswissenschaftler. Die SAE, der internationale Verband der Automobilingenieure, gibt die Klassifikation der Automatisierungsstufen beim Fahren heraus, die J3016, die mit den berühmten Stufen null bis fünf. Seit den ersten Ausgaben behandelt das Dokument „autonomous“ als Begriff, den man vermeiden soll, und verwendet „automated“. Der Grund steht schwarz auf weiß darin: Im juristischen Sinn bedeutet Autonomie die Fähigkeit, sich selbst zu regieren, und kein automatisiertes Fahrsystem regiert sich selbst, denn es arbeitet nach Algorithmen und führt die Befehle derer aus, die es benutzen. Das Wort autonom, heißt es im Text, verdeckt diese Abhängigkeit. Mobility Engineering Wenn das die Ingenieure schreiben, die solche Systeme bauen, dann trifft eine Entscheidung, wer das Wort weiter benutzt, und er trifft sie wissentlich.
In Kalifornien ist diese Entscheidung vor einem Richter gelandet. Im Dezember 2025 hat sich die Kraftfahrzeugbehörde des Bundesstaats die Schlussfolgerungen eines Verwaltungsrichters zu eigen gemacht: Tesla habe mit den Bezeichnungen „Autopilot“ und „Full Self-Driving“ gegen das kalifornische Gesetz über irreführende Werbung verstoßen. Der Richter ordnete diese Namen in „a long but unlawful tradition“ ein, eine lange, aber rechtswidrige Tradition von Mehrdeutigkeit, die Verbraucher in die Irre führen soll. Electrek Das Unternehmen hatte sechzig Tage Zeit, sich zu korrigieren, sonst wäre seine Verkaufslizenz für einen Monat ausgesetzt worden. Im Februar 2026 teilte die Behörde mit, Tesla habe aufgehört, „Autopilot“ zu verwenden, und die Aussetzung werde nicht greifen. DMV Tesla hat die Behörde inzwischen verklagt, und die juristische Partie ist nicht entschieden. Die Tatsache aber bleibt: Eines der reichsten Unternehmen der Welt hat den Namen eines Produkts geändert, weil eine Behörde festgestellt hat, dass dieser Name mehr versprach, als das Produkt leistete.
Das Vereinigte Königreich ist weiter gegangen. Mit dem Automated Vehicles Act von 2024 und einer Verordnung, die am 7. Juli 2026 dem Parlament vorgelegt wurde, werden acht Ausdrücke Fahrzeugen vorbehalten, die für das selbstständige Fahren zugelassen sind, darunter „autonomous“, „automated“, „driverless“ und „self-driving“, mit all ihren grammatischen Varianten. Ab dem 7. Januar 2027 ist es eine Straftat, sie für ein Fahrzeug ohne diese Zulassung zu verwenden, und das Gesetz sieht eine zweite vor für jede Mitteilung, die geeignet ist, die Öffentlichkeit über die tatsächlichen Fähigkeiten des Fahrzeugs zu verwirren, auch ohne eines dieser Wörter auszusprechen. legislation.gov.uk
Zwei Arten, ein Wort zu schützen
Damit haben wir zwei Modelle eines Staates vor uns, der die Wörter regelt, und der Unterschied zwischen ihnen scheint mir der wichtigste Punkt der ganzen Überlegung. Die Franzosen schützen die Wörter vor dem Englischen. Die Briten schützen die Wörter vor dem Missbrauch. Das erste Modell verteidigt eine Identität, die Sprache als Erbe, das man hütet. Das zweite verteidigt ein Versprechen, das Wort als Verpflichtung gegenüber dem, der es hört. Wer sich mit der Steuerung von Technologie befasst, für den zählt das zweite, weil es einen Namen als das behandelt, was er wird, sobald er bei einem Kunden ankommt: eine Aussage darüber, was das Produkt kann, für die jemand einstehen muss. Dass ausgerechnet die Briten das getan haben, die nie staatliche Neologismen wollten, ist fast komisch. Um ihre Sprache haben sie sich wenig gekümmert, um den Fahrer sehr.
In Italien ist der Autonome noch der Mensch
Und Italien? Das italienische KI-Gesetz, die legge 132 von 2025, definiert nichts selbst: Was ein KI-System ist, regelt es durch Verweis auf die europäische Verordnung. Aber es trifft, vielleicht ohne es zu wollen, eine Wortwahl, die auffällt. Wo es in Artikel 3 den Begriff Autonomie verwendet, bezieht es ihn auf den Menschen: Die Systeme müssen „die Autonomie und die Entscheidungsbefugnis des Menschen“ achten. Und wo es um die öffentliche Verwaltung geht, legt es fest, dass die KI eine instrumentelle und unterstützende Funktion hat und dass allein der Mensch für die Verwaltungsakte verantwortlich bleibt. Normattiva Diese Sätze wurden mit etwas anderem im Kopf geschrieben, aber sie rücken das Wort an seinen Platz. In unserer Rechtsordnung ist, zumindest vorerst, der Autonome noch der Mensch.
Der Name als Entwurfsentscheidung
Was kann also tun, wer Software baut, in einem Land, in dem keine Institution diese Wörter definiert? Ich glaube, nur eines, und das gründlich: den Namen als Entwurfsentscheidung behandeln, dokumentiert wie die anderen. Mit großer Sorgfalt entscheiden wir, welche Datenbank wir verwenden, schreiben ein Dokument, das erklärt, warum, und legen es neben den Code. Den Namen, unter dem das System seinen Nutzern gegenübertritt, bestimmt dagegen fast immer jemand anderes, wenn das Projekt fertig ist, in einer Besprechung mit dem Vertrieb. Und doch wird dieser Name in der Betriebsanleitung stehen, die der AI Act von Anbietern von Hochrisiko-Systemen verlangt, in der Oberfläche, im Vertrag, und von dort in den Köpfen der Menschen, die die Maschine beaufsichtigen sollen und die, wenn etwas schiefgeht, als Erste zur Rechenschaft gezogen werden.
Für jeden Namen genügen zwei Fragen. Die erste lautet: Wer steht ein, wenn das System sich irrt? Legt der Name nahe, dass die Maschine dafür einsteht, oder niemand, ist es ein falscher Name, so gut er in einer Präsentation auch klingen mag. Die zweite lautet: Was verspricht er denen, die das System benutzen? Verspricht er mehr, als das System unter normalen Bedingungen kann, wird jemand dieses Versprechen im ungünstigsten Moment ernst nehmen, und der Automatisierungsbias aus Artikel 14 hat seinen Markennamen gefunden. Die beiden Antworten passen auf eine Seite, mit Datum und Unterschrift, neben die anderen Architekturentscheidungen. Mehr braucht es nicht, aber es braucht jemanden, der diese Seite schreibt, bevor der Name schon auf dem Werbematerial gedruckt ist.
Der richtige Name
Am Ende des ersten Teils schrieb ich, dass Compliance, ernst genommen, der Moment ist, in dem eine Gesellschaft einer Technologie sagt, dass sie eintreten darf, aber nicht ohne Namen. Beim Wiederlesen merke ich, dass das ein halber Satz war. Irgendein Name genügt nicht, denn der falsche Name lässt die Technologie durch den Dienstboteneingang herein und die Verantwortung im Treppenhaus stehen. Es braucht den richtigen Namen, den, der sagt, in wessen Auftrag die Maschine handelt und was sie wirklich verspricht.
So kehre ich zur italienischen Spalte des französischen Dokuments zurück, der, in der „deepfake“ steht. Der gekränkte Stolz kümmert mich wenig. Mich kümmert, was die Spalte über den Rest sagt: Für diese Sache hat jemand anderes die Definition geschrieben, und wir benutzen sie, ohne sie je gelesen zu haben. Mit Agent, Kopilot und autonom geschieht jeden Tag dasselbe, in Verträgen und Oberflächen, bei denen niemand auf die Idee kommt, sie übersetzen zu müssen, geschweige denn, sie zu lesen.
Jedes Wort, das wir für eine Maschine verwenden, ist schon eine Vertragsklausel, nur hat sie niemand gelesen.
Was du mitnimmst
Der AI Act definiert Systeme über das, was sie tun, nicht über ihren Namen, und das war klug. Aber dieselbe Verordnung verlangt in Artikel 14, den Automatisierungsbias zu berücksichtigen, die Neigung, der Ausgabe zu sehr zu vertrauen. Ein Name wie „autonom“ erzeugt diesen Bias, bevor das System eingeschaltet wird: Für das Gesetz ist Autonomie eine veränderliche Größe, für den Verkäufer eine Identität.
Die drei Modewörter verteilen die Verantwortung auf drei Arten. „Agent“ enthält schon die richtige Frage, in wessen Auftrag. „Kopilot“ setzt den Menschen auf den Kommandoplatz, auch wenn er nicht prüfen kann, und macht ihn zur moralischen Knautschzone des Systems, während die Richtlinie 2024/2853 den Fehler der Software dem Hersteller zuweist. „Autonom“ tilgt das Subjekt, deshalb raten die Ingenieure der SAE davon ab.
Ein Staat kann die Wörter auf zwei Arten regeln. Frankreich schützt sie vor dem Englischen und verteidigt eine Identität; das Vereinigte Königreich, das acht Begriffe zugelassenen Fahrzeugen vorbehält, schützt sie vor Missbrauch und verteidigt ein Versprechen. Wo keine Institution definiert, wie in Italien, kann wer Software baut den Namen als Entwurfsentscheidung behandeln, mit zwei Fragen: Wer steht ein, wenn das System sich irrt, und was verspricht es?
Quellen
- 50 termes clés de l'intelligence artificielle, Délégation générale à la langue française et aux langues de France, Februar 2025
- Verordnung (EU) 2024/1689 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz, Amtsblatt der Europäischen Union, 12. Juli 2024
- Vocabulaire de l'intelligence artificielle (liste de termes, expressions et définitions adoptés), Commission d'enrichissement de la langue française, Bulletin officiel, 9. Dezember 2018
- Que diriez-vous d'« ordinateur » ?, Loïc Depecker, Bibnum, 1. Juni 2015
- New Model AI Governance Framework for Agentic AI, Infocomm Media Development Authority, Singapore, 22. Januar 2026
- Moral Crumple Zones: Cautionary Tales in Human-Robot Interaction, Madeleine Clare Elish, Engaging Science, Technology, and Society, vol. 5, 2019
- Richtlinie (EU) 2024/2853 über die Haftung für fehlerhafte Produkte, Amtsblatt der Europäischen Union, 18. November 2024
- SAE's J3016 automated-driving graphic update, Mobility Engineering, 15. Juni 2022
- DMV finds Tesla violated California state law, California Department of Motor Vehicles, 16. Dezember 2025
- Tesla takes corrective action to avoid DMV suspension, California Department of Motor Vehicles, 17. Februar 2026
- California judge rules Tesla lied about FSD, must fix marketing within 60 days, Electrek, 17. Dezember 2025
- The Automated Vehicles (Marketing Restrictions) Regulations 2026, legislation.gov.uk, 7. Juli 2026
- Legge 23 settembre 2025, n. 132, Disposizioni e deleghe al Governo in materia di intelligenza artificiale, Normattiva, 25. September 2025