Dies ist eine Überlegung zum Namen, den wir den Technologien geben, und dazu, wie schwer dieser Name auf der Zukunft eines Landes wiegt. Ich spreche vor allem von der künstlichen Intelligenz, denn dort steht heute am meisten auf dem Spiel, und der Anstoß kommt aus einer Folge von Altri Orienti, dem Asien gewidmeten Podcast von Simone Pieranni, der von einer nur scheinbar fachlichen Frage ausgeht: Was meint China, wenn es künstliche Intelligenz sagt. Altri Orienti, Ep. 176
Der materialistische Einwand
Der erste Einwand gegen eine solche Rede ist auch der ernsthafteste, und es lohnt sich, ihn für den ganzen Rest in der Hand zu behalten. Worte bauen keine Rechenzentren, sie ritzen keine Silizium-Wafer, sie trainieren keine Modelle, sie schreiben keine Industriepolitik. Ein Land ohne Chips, ohne Energie, ohne Kapital und ohne Infrastruktur kann die schönsten Worte der Welt wählen und trotzdem zusehen müssen. Wenn man immerfort über Sprache und über Vorstellungswelten redet, läuft man Gefahr, genau das zu tun, was uns in Europa am besten gelingt, eine materielle Schwäche mit feinen Kategorien zu veredeln: Die anderen bauen und wir deuten, die anderen investieren und wir unterscheiden.
Der Einwand enthält eine Wahrheit, die man besser nicht zerlegt, denn keine technologische Zivilisation ruht auf dem bloßen Wortschatz. Das Interessante beginnt einen Schritt weiter. Keine technologische Zivilisation ruht auch ohne Wortschatz. Worte ersetzen die Materie nicht, sie entscheiden, wie eine Gesellschaft die Materie innerhalb einer Vision anordnet. Sie entscheiden, ob eine Technologie als Bedrohung oder als Prothese empfunden wird, als unausweichliches Schicksal oder als irgendeine Ware. Und sie entscheiden, noch davor, wer das Recht hat, über sie zu sprechen, und wer ihr nur zu gehorchen hat.
Jede Zivilisation hat ihre eigene Technik
Die Folge, von der ich ausgehe, dient genau dazu, dies zu zeigen. Sie behauptet, dass es nicht eine einzige Vorstellung von Technologie gibt, neutral und für alle gültig, sondern dass jede Zivilisation eine eigene trägt, Kind ihrer Geschichte und ihres Weltbildes. Das ist der Sinn des Wortes, das Pieranni gebraucht, Kosmotechnik: Die Art, wie eine Kultur die Technik gebraucht, hängt davon ab, wie diese Kultur die Welt und die Ordnung der Dinge sieht. Auf China gemünzt klingt es exotisch, aber es gilt auch für uns. Auch unsere Vorstellung von Technologie, die uns als die einzig mögliche erscheint, ist eine besondere Position, die gelernt hat, sich als universal auszugeben.
Der erste Ort, an dem dieser Unterschied sichtbar wird, ist die Übersetzung. Der chinesische Begriff 人工智能, den wir mit künstlicher Intelligenz wiedergeben, deckt sich nicht vollkommen mit unserem Ausdruck, und um diese Verschiebung dreht sich ein Konzept, Machine Decision is Not Final, das sie gerade nutzt, um infrage zu stellen, was wir unter Künstlichkeit und unter Intelligenz verstehen, jenseits der Gemeinplätze, die den Diskurs über die KI beherrschen. Urbanomic
Musk und Jack Ma, zwei Grammatiken
Die Szene, die alles zusammenhält, stammt aus dem Jahr 2019, in Schanghai, auf der World Artificial Intelligence Conference, als Elon Musk und Jack Ma auf derselben Bühne über die Zukunft diskutierten. Sie wirken nicht wie zwei Unternehmer mit verschiedenem Charakter, sie wirken wie zwei entgegengesetzte Arten, die Maschine zu denken, die für ein paar Minuten menschliche Gestalt annehmen. Musk spricht von Superintelligenz und von Gefahr, von einem menschlichen Leben, das über die Erde hinauszutragen ist, und kommt so weit zu sagen, wir könnten kaum mehr sein als der biologische Bootloader einer digitalen Intelligenz, die dazu bestimmt ist, uns zu übertreffen. Jack Ma antwortet mit einem ganz irdischen Optimismus, die KI sei keine Bedrohung, sie sei ein aus menschlichen Händen hervorgegangenes Werkzeug, und sie solle dazu dienen, uns selbst besser zu verstehen und hier besser zu leben. WIRED schilderte jene Begegnung als den Dialog zwischen einem viel zuversichtlicheren Ma und einem Musk, der überzeugt war, die Maschine werde an Intelligenz auch den klügsten Menschen übertreffen. WIRED
Es wäre leicht, sie mit einer Karikatur abzutun, Musk als Prophet der Katastrophen des Silicon Valley und Jack Ma als Optimist des chinesischen Kapitalismus. Das ist eine bequeme Lesart, und sie verliert genau das, was zählt, nämlich dass ihre Worte sich innerhalb zweier verschiedener Grammatiken bewegen. Musk spricht, als wäre die künstliche Intelligenz ein Geschöpf, das sich von uns lösen und auf uns herabschauen kann, schon schneller und schon wacher. Jack Ma spricht, als bliebe die Maschine trotz allem innerhalb des menschlichen Horizonts, ein Ding, das wir erfunden haben und mit dem wir folglich leben können, und dem wir Rechenschaft abverlangen können.
Jene künstliche ist keine Intelligenz
Zu demselben Knoten hat sich in Italien die Accademia della Crusca geäußert, mit einem Artikel, dessen Titel schon deutlich ist, Il nome (improprio) della cosa: quella artificiale non è intelligenza. Es ist keine Nostalgie nach der Sprache von einst und nicht der übliche Kampf gegen den Anglizismus. Es ist eine unbequemere These: Ein falscher Name ist nie unschuldig. Wenn ich ein System Intelligenz nenne, das im Grunde Wahrscheinlichkeiten berechnet, schenke ich ihm eine geistige Würde, die es vielleicht nicht besitzt. Würde ich dieselbe Sache, wie der Artikel vorschlägt, künstliche Simulation menschlichen Verhaltens nennen, sähe ich sie sofort mit weniger Zauber und mehr Vorsicht. Der Name beschränkt sich nicht darauf, den Gegenstand zu bezeichnen, er baut um ihn herum eine Szene, und innerhalb dieser Szene legt er fest, wer eintreten darf und zu welchen Bedingungen. Accademia della Crusca
Da die Crusca im Spiel ist, lohnt es sich, einer etymologischen Spur zu folgen. Das Wort Intelligenz kommt vom lateinischen intelligere, das inter legere ist, also auswählen, eine Sache erfassen, indem man sie von den benachbarten unterscheidet. Im Kern bedeutet Intelligenz also aussieben. Es ist dieselbe Geste wie das Mehlsieb, das Sieb für das Mehl, das die Crusca zu ihrem eigenen Sinnbild wählte, um die feine Blüte des Mehls von der Spreu zu trennen. Eine Maschine Intelligenz zu nennen ist dann keine bloße Feststellung, es ist bereits eine Wahl, die eine bestimmte Vorstellung von Geist mit sich bringt, das auf Berechnung reduzierte Denken und die auf eine messbare und steigerbare Menge reduzierte Intelligenz. Diesen Namen zu diskutieren ist keine Pedanterie. Es ist die einzige Möglichkeit, die Hand an einer Technologie zu behalten, die wir nicht im eigenen Haus herstellen.
Zwei Szenen, die sich als universal ausgeben
Jeder Name, sagte ich, baut eine Szene, und die beiden heute mächtigsten Szenen sind alles andere als neutral. In der amerikanischen ist die künstliche Intelligenz zugleich Grenze und Risiko für das Überleben der Art, und sie kreist um die Figur des Gründers, der vor allen anderen sieht. Es ist eine wirksame Erzählung, weil sie eine Art weltliche Religion und einen Markt zusammenbringt, mit der Rettung oder dem Weltuntergang stets gleich um die Ecke. Es ist keine falsche Erzählung, es ist eine lokale Erzählung, die die Kraft hatte, sich als universal auszugeben. In der chinesischen Szene, zumindest wie sie aus dieser Debatte hervorgeht, ist die KI eher ein Regierungsinstrument und ein technologischer Kraftbeweis des Staates, innerhalb einer Planung, die schon 2017 einen nationalen Plan mit auf 2030 festgelegten Zielen schwarz auf weiß festhielt. DigiChina, Stanford Auch diese ist kein ewiges Wesen Chinas, sie ist das Produkt einer präzisen Industriegeschichte und eines präzisen geopolitischen Wettbewerbs.
Hier wird der Philosoph Yuk Hui wieder nützlich. Seine Idee der Kosmotechnik dient gerade dazu, die am tiefsten verwurzelte Überzeugung der Moderne auseinanderzunehmen, jene, nach der es eine einzige Technik gäbe, neutral und universal, überall identisch und mit derselben Bedeutung. Auch die westliche Technik, sagt Hui, ist eine lokale Vision, geboren aus einer bestimmten Weise, den Menschen von der Natur zu trennen und die Welt als ausbeutbares Reservoir zu denken. Das Paradox ist, dass gerade in dem Moment, in dem wir diese Vielfalt bemerken, die konkrete Entwicklung der KI in die entgegengesetzte Richtung läuft, konzentriert in wenigen Unternehmen und an wenigen Orten, mit ganz wenigen vertretenen Sprachen und ganz wenigen vertretenen Vorstellungswelten. ICI Berlin
Italien importiert, Europa reguliert
Von diesem Punkt aus lohnt es sich, auf Italien zu blicken. Das italienische Problem ist nicht nur, dass wir wenig investieren oder dass wir wenig industrielle Skalierung und wenig Geduld haben. Das Problem ist, dass wir die Worte, mit denen wir unsere Technologie denken könnten, oft nicht selbst produzieren. Wir importieren sie. Wir nehmen sie aus dem Silicon Valley, wir lassen sie durch die Sprache der Ausschreibungen laufen, wir plätten sie in den Folien der Ministerien und verteilen sie dann im öffentlichen System wie Passwörter für den Zugang zur Zukunft. Digital, Innovation, Übergang, Plattform, Ökosystem: Worte, die operativ wirken und die, vom vielen Wiederholen, fast nichts mehr ausrichten.
Und doch formt sich ein Land auch so, im Alltagsvokabular derer, die es verwalten, und derer, die es lehren. Wenn eine öffentliche Verwaltung die künstliche Intelligenz wie einen Zauberstab behandelt, um Zeiten und Kosten zu kürzen, baut sie eine Zukunft aus Abkürzungen. Wenn sie sie hingegen als eine zu verstehende und zu steuernde Infrastruktur behandelt, baut sie eine unbequemere, aber solidere. Fast immer aber behandelt sie sie überhaupt nicht, sie benennt sie nur, um das Kästchen einer Förderung abzuhaken, und dann ist die Zukunft, die dabei herauskommt, bloß eine verwaltungstechnische Simulation.
Europa seinerseits hat sich entschieden, der künstlichen Intelligenz vor allem über das Recht einen Namen zu geben. Der AI Act, die europäische Verordnung zur KI, ist seit dem 1. August 2024 in Kraft und wird schrittweise angewandt, mit verschiedenen Fristen für die verbotenen Praktiken, für die Pflicht, die Nutzer dieser Systeme zu schulen, für die Modelle mit allgemeinem Verwendungszweck und für die Hochrisikosysteme. Europäische Kommission Das ist keine geringe Entscheidung. Es ist der Versuch zu sagen, dass Technologie nicht nur Macht ist, sondern auch Verantwortung, und dass sie mit den Rechten der Menschen und mit einer echten menschlichen Kontrolle vereinbar bleiben muss. Es ist vielleicht eine der ganz wenigen echten geopolitischen Positionen, die Europa zur Technik einnehmen kann.
Auch hier aber gibt es ein Risiko, und es ist die Kehrseite des amerikanischen. Wenn Europa nur in der Sprache der Compliance über KI spricht, reduziert es am Ende seine Vorstellungskraft auf ein Verfahren. Es wird anderswo geborene, anderswo trainierte, anderswo erzählte und anderswo verkaufte Technologien hervorragend regulieren, und es tut damit zugleich etwas Notwendiges und Unzureichendes. Denn eine Zivilisation kann sich nicht darauf beschränken, festzulegen, welche Formulare auszufüllen sind, bevor man die von anderen erfundene Zukunft nutzt, sie muss auch entscheiden, welche Zukunft sie denkbar machen will.
Die sprachliche Souveränität
An diesem Punkt hört die Crusca auf, ein Detail für Akademiker zu sein, und wird zu einer politischen Tatsache. In einem ernsthaften Land würde eine Diskussion über den Namen der künstlichen Intelligenz nicht als Pedanterie abgetan, sie würde in die Universitäten und in die Schulen einziehen, in die Berufskammern und in die Unternehmen, die die Software für andere schreiben. Nicht, um von oben ein verpflichtendes Wort aufzuzwingen, sondern um das Land zu jener Übung zu zwingen, die es seit zu langem meidet, vor dem Übernehmen zu denken. Denn übernehmen, ohne zu benennen, heißt erleiden, heißt sich eine Technologie ins Haus holen, die schon in das Weltbild eines anderen gehüllt ist. Wenn wir uns entscheiden, AI statt IA zu sagen, wählen wir nicht nur ein internationaleres Kürzel, wir signalisieren, welchem Mittelpunkt der Welt wir die Autorität zuerkennen.
Nichts davon ist eine autarke Verteidigung der Sprache, die lächerlich wäre. Die sprachliche Souveränität ist nicht die Ablehnung fremder Worte, sie ist die Fähigkeit, mit den Worten nicht zugleich, ohne es zu merken, die ganze Welt zu importieren, die sie mit sich tragen. Eine lebendige Sprache nimmt die Worte der anderen und erfindet sie neu, eine untergeordnete Sprache beschränkt sich darauf, sie zu wiederholen. Und ein Land, das lange die Worte eines anderen wiederholt, wiederholt früher oder später auch dessen Prioritäten.
Die Zukunft eines Landes entscheidet sich an dem Punkt, an dem die Infrastruktur und die Vorstellungswelt sich begegnen. Es braucht die Rechenzentren, aber es braucht auch das Wissen, warum wir sie wollen und welche Abhängigkeiten wir im Tausch zu akzeptieren bereit sind. Und es braucht vor allem die Schule, denn die Art, wie ein junger Mensch heute das Wort Intelligenz lernt, wird darüber entscheiden, wie er morgen die Autorität einer Maschine annimmt oder ablehnt.
Ein ziviles Vokabular der Zukunft
Das eigentliche Thema ist also nicht, zwischen Elon Musk und Jack Ma zu wählen. Musk erinnert uns daran, dass die Technik dem gewöhnlichen Maß des Menschen entgleiten kann und dass nicht alles, was wir zu bauen imstande sind, automatisch unter Kontrolle bleibt. Jack Ma erinnert uns daran, dass die Angst zu einem Aberglauben werden kann, der alles blockiert, und dass die Maschine innerhalb einer Geschichte aus menschlichen Bedürfnissen und menschlicher Arbeit bleibt. Sie sehen etwas und verzerren zugleich etwas, jeder von seinem Standpunkt aus, und das Unheil beginnt, wenn ein einzelner Standpunkt beansprucht, für alle zu sprechen.
Italien sollte also etwas zugleich Demütigeres und Ehrgeizigeres tun, sich ein eigenes technisches Vokabular der Zukunft bauen. Kein Glossar nur für Fachleute, sondern ein ziviles Lexikon, in dem man sich wieder fragt, was wir wirklich meinen, wenn wir Automatisierung, Entscheidung, Verantwortung, Fehler, menschliche Kontrolle, Datum, Delegation sagen. Derselbe Arzt, derselbe Richter, derselbe Gemeindeangestellte und dasselbe Unternehmen, das Software für andere entwickelt, werden dieselben Technologien nutzen, und sie müssen sie deshalb nicht zwangsläufig mit derselben Vorstellungswelt erleben. Ich sage das von innerhalb dieses Handwerks. Ich bin Architekt der Compliance in einer kleinen Softwarefirma in den Abruzzen, ich baue Werkzeuge, die dazu dienen, genau zu wissen, aus welchen Komponenten ein System besteht, und ich verbringe meine Tage auf Plattformen für das öffentliche Gesundheitswesen und im Rechtssektor damit, zu entscheiden, wie die Dinge heißen, denn es ist der Name, der die Architektur festlegt und die Verantwortung, die man übernimmt, und damit am Ende, was wirklich gebaut werden wird.
Deshalb ist die Compliance, wenn man sie ernst nimmt, keine Bürokratie. Sie ist eine angewandte Form des Humanismus, der Versuch, nicht zuzulassen, dass die Macht sich vom Sinn trennt. Sie ist der Moment, in dem eine Gesellschaft einer Technologie sagt, dass sie eintreten darf, aber nicht ohne einen Namen, und dass sie auch rennen darf, aber nicht, ohne für die Welt einzustehen, die sie gerade baut.
Vielleicht ist die wichtigste Frage nicht, was die künstliche Intelligenz Italien antun wird. Diese Frage bringt uns schon in die falsche Position, als wäre die Zukunft ein Gewitter, das aus einer fernen Serverfarm heranzieht, nur zu erleiden. Die ernsthafte Frage ist eine andere, mit welchen Worten Italien seine eigene technische Verwandlung steuerbar und diskutierbar machen will. Denn ein Land, das seiner Zukunft keinen Namen gibt, vermeidet sie deshalb nicht, es empfängt sie schon von anderen benannt, mit einer im Wort bereits entschiedenen Hierarchie, wer erfindet und wer sich auf das Integrieren beschränkt, wer definiert und wer sich auf das Übersetzen beschränkt.
Die Zukunft beginnt vor der Technologie. Sie beginnt in dem Moment, in dem eine Gemeinschaft die Worte findet, oder verliert, um zu sagen, was sie gerade wird.
Was du mitnimmst
Worte bauen keine Rechenzentren, aber sie entscheiden, wie eine Gesellschaft die Materie innerhalb einer Vision anordnet. Sie legen fest, ob eine Technologie als Bedrohung oder als Prothese empfunden wird, und noch davor, wer das Recht hat, über sie zu sprechen, und wer ihr nur zu gehorchen hat.
Es gibt nicht eine einzige Vorstellung von Technik, neutral und für alle gültig. Das ist die Kosmotechnik von Yuk Hui: Auch unsere Technologie, die uns als die einzig mögliche erscheint, ist eine lokale Position, die gelernt hat, sich als universal auszugeben.
Ein falscher Name ist nie unschuldig. Ein System Intelligenz zu nennen, das im Grunde Wahrscheinlichkeiten berechnet, schenkt ihm eine geistige Würde, die es vielleicht nicht besitzt. Diesen Namen zu diskutieren ist keine Pedanterie, es ist die einzige Möglichkeit, die Hand an einer Technologie zu behalten, die wir nicht im eigenen Haus herstellen.
Italien produziert die Worte, mit denen es seine Technologie denken könnte, oft nicht selbst: Es importiert sie aus dem Silicon Valley, plättet sie in der Sprache der Ausschreibungen und verteilt sie wie Passwörter für den Zugang zur Zukunft. Ein Land, das lange die Worte eines anderen wiederholt, wiederholt am Ende auch dessen Prioritäten.
Europa hat sich entschieden, die KI mit dem Recht zu benennen, und der AI Act ist vielleicht die einzige echte geopolitische Position, die es zur Technik einnehmen kann. Aber wenn es nur in der Sprache der Compliance über sie spricht, reduziert es seine Vorstellungskraft auf ein Verfahren: Es wird eine anderswo erfundene Zukunft hervorragend regulieren.
Fragen & Antworten
Was ist die Kosmotechnik?
Es ist ein Begriff des Philosophen Yuk Hui, aufgegriffen im Podcast Altri Orienti von Simone Pieranni. Er bezeichnet die Idee, dass es nicht eine einzige, neutrale und universale Technik gibt, überall identisch, sondern dass jede Kultur die Technik aus der Art heraus gebraucht, wie sie die Welt und die Ordnung der Dinge sieht. Auch die westliche Technik, sagt Hui, ist eine lokale Vision, geboren aus einer bestimmten Weise, den Menschen von der Natur zu trennen und die Welt als ausbeutbares Reservoir zu denken. Die unbequeme Folge ist, dass unsere Vorstellung von Technologie, die uns als die einzig mögliche erscheint, nur eine besondere Position ist, die gelernt hat, sich als universal auszugeben.
Warum sagt die Accademia della Crusca, dass „jene künstliche keine Intelligenz ist“?
In einem Artikel mit dem Titel „Il nome (improprio) della cosa: quella artificiale non è intelligenza“ vertritt die Crusca eine unbequemere These als den üblichen Kampf gegen den Anglizismus: Ein falscher Name ist nie unschuldig. Ein System Intelligenz zu nennen, das im Grunde Wahrscheinlichkeiten berechnet, schenkt ihm eine geistige Würde, die es vielleicht nicht besitzt. Das Wort Intelligenz kommt vom lateinischen intelligere, also inter legere, auswählen, aussieben: dieselbe Geste wie das Mehlsieb, das Sieb für das Mehl, das die Crusca zu ihrem Sinnbild wählte. Eine Maschine Intelligenz zu nennen ist bereits eine Wahl, sie bringt das auf Berechnung reduzierte Denken mit sich und die auf eine messbare und steigerbare Menge reduzierte Intelligenz.
Was meint China, wenn es künstliche Intelligenz sagt?
Der chinesische Begriff 人工智能, den wir mit künstlicher Intelligenz wiedergeben, deckt sich nicht vollkommen mit unserem Ausdruck, und um diese Verschiebung dreht sich eine Überlegung, die infrage stellt, was wir unter Künstlichkeit und unter Intelligenz verstehen. In der chinesischen Szene, zumindest wie sie aus der Debatte hervorgeht, von der dieser Essay ausgeht, ist die KI eher ein Regierungsinstrument und ein technologischer Kraftbeweis des Staates, innerhalb einer Planung, die schon 2017 einen nationalen Plan mit auf 2030 festgelegten Zielen schwarz auf weiß festhielt. Es ist kein ewiges Wesen Chinas, es ist das Produkt einer präzisen Industriegeschichte und eines präzisen geopolitischen Wettbewerbs.
Was ist die sprachliche Souveränität?
Sie ist keine autarke Verteidigung der Sprache, was lächerlich wäre, und sie ist nicht die Ablehnung fremder Worte. Sie ist die Fähigkeit, mit den Worten nicht zugleich, ohne es zu merken, die ganze Welt zu importieren, die sie mit sich tragen. Eine lebendige Sprache nimmt die Worte der anderen und erfindet sie neu, eine untergeordnete Sprache beschränkt sich darauf, sie zu wiederholen. Und ein Land, das lange die Worte eines anderen wiederholt, wiederholt früher oder später auch dessen Prioritäten.
Genügt der AI Act, um Europa eine Position zur Technologie zu geben?
Der AI Act, seit dem 1. August 2024 in Kraft und schrittweise angewandt, ist vielleicht eine der ganz wenigen echten geopolitischen Positionen, die Europa zur Technik einnehmen kann: Er sagt, dass Technologie nicht nur Macht ist, sondern auch Verantwortung. Aber es gibt ein Risiko, die Kehrseite des amerikanischen. Wenn Europa nur in der Sprache der Compliance über KI spricht, reduziert es am Ende seine Vorstellungskraft auf ein Verfahren, und es wird anderswo geborene, anderswo trainierte und anderswo erzählte Technologien hervorragend regulieren. Eine Zivilisation kann sich nicht darauf beschränken, festzulegen, welche Formulare auszufüllen sind, bevor man die von anderen erfundene Zukunft nutzt, sie muss auch entscheiden, welche Zukunft sie denkbar machen will.
Der Autor
