Die gesponserte Frage

Ein Assistent, der bei der Wahl eines Produkts hilft, muss nicht unparteiisch sein. Niemand erwartet von einem Verkäufer, dass er die Ware der Konkurrenz mit derselben Begeisterung empfiehlt wie die eigene. Ein Unternehmen darf bewerben, was es verkauft, und ein vernünftiger Verbraucher weiß, dass eine kommerzielle Empfehlung kein unabhängiger Rat ist.

Die Personalisierung ist außerdem einer der Gründe, warum diese Werkzeuge nützlich sind. Wer einen Computer sucht, will keine fünfhundert Datenblätter lesen. Wir wollen, dass uns jemand hilft zu verstehen, welche Eigenschaften für uns wirklich zählen. Kennt ein Assistent unser Budget und die Präferenzen, die wir schon geäußert haben, kann er uns überflüssige Fragen ersparen und bessere Lösungen vorschlagen, als wir allein finden würden. Diese Fähigkeit ist keine Manipulation: Sie kann den Nachteil dessen verringern, der wenig weiß, gegenüber dem, der beruflich verkauft.

Auch ein wirtschaftliches Interesse macht eine Empfehlung nicht schlecht. Ein gesponsertes Produkt kann tatsächlich das passendste sein. Eine Verkaufsprovision kann einen kostenlosen Dienst finanzieren, der Zeit spart. Wird das Interesse offengelegt, scheint es vernünftig, der Person die Freiheit zu lassen, den Rat anzunehmen oder abzulehnen.

Das alles stimmt, und es bewahrt davor, Personalisierung mit Manipulation zu verwechseln. Dann kommt diese Szene.

Jemand will einen Laptop kaufen. Der Assistent fragt, ob eine lange Akkulaufzeit oder ein leichtes Gerät wichtiger sei. Die Person antwortet, die Laufzeit zähle mehr. Der Assistent empfiehlt ein Modell mit ausgezeichnetem Akku. Das Produkt entspricht der genannten Präferenz, der Preis passt ins Budget, die Beschreibung stimmt. Keine einzige falsche Angabe.

Und doch fehlt etwas. Der Assistent hat nie gefragt, wie wichtig die Reparierbarkeit ist, und in diesem Punkt hätte ein Konkurrenzprodukt deutlich besser abgeschnitten. Er hat in der Antwort nicht gelogen. Er hat die Entscheidung gelenkt, indem er die Frage bestimmt hat.

Das nächste Feld kommerzieller Manipulation ist womöglich nicht der Inhalt der Empfehlungen, sondern der Prozess, in dem ein Assistent die Präferenzen mit aufbaut, auf denen diese Empfehlungen beruhen. Für die Werbung ist es viel wirksamer zu bestimmen, welche Fragen uns gestellt werden, als uns davon zu überzeugen, dass eine Antwort richtig ist.

Zwei Dokumente in vierundzwanzig Stunden

Am 10. November hat eine Expertenkommission, die im Rahmen des Conseil de l’intelligence artificielle et du numérique eingesetzt wurde, dem Élysée den Bericht Protéger sans empêcher : nos vulnérabilités à l’ère de l’IA générative übergeben, der sich mit der Verwundbarkeit von Menschen befasst, die generative Systeme nutzen. Nach 55 Anhörungen hat die Kommission, geleitet von einer KI-Forscherin und zwei Psychiatern, 18 Empfehlungen formuliert. Die achte verlangt ein Verbot versteckter Werbung und nicht offengelegter kommerzieller Einflussnahme in Konversationsassistenten sowie Transparenz über deren Geschäftsmodelle. Der Bericht gibt dem Risiko auch einen Namen, économie de la cognition: Die Plattformen könnten aufhören, nur unsere Aufmerksamkeit zu Geld zu machen, und stattdessen aus der schrittweisen Delegation von Denk- und Entscheidungsarbeit Wert ziehen.

Am Tag darauf hat die Europäische Kommission ihren Vorschlag für einen Digital Fairness Act vorgelegt. Der Text befasst sich mit manipulativen Praktiken, personalisierter Werbung und Mechanismen, die Menschen dazu bringen, mehr auszugeben, als sie wollten. Er enthält aber etwas, das für diese Überlegung interessanter ist: Die Artikel 26 und 27 regeln ausdrücklich automatisierte Systeme, die im Namen von Verbrauchern Verträge abschließen können.

Artikel 26 sieht vor, dass der Verbraucher bei der ersten Nutzung wählt, welche Verträge er persönlich bestätigen will und welche der Agent allein abschließen darf, auch mit Preisgrenzen und einer zeitlichen Befristung der Ermächtigung. Absatz 4, Buchstabe b, fügt eine Bedingung hinzu: Erhält der Unternehmer, der das System bereitstellt, eine Zahlung dafür, einen Vertrag vorzuschlagen, oder steht er in einem Interessenkonflikt mit dem betroffenen Verkäufer, muss das System dies offenlegen und trotzdem eine eigene Bestätigung verlangen, unabhängig von der allgemeinen Ermächtigung. Die Automatisierung darf ohne menschliches Zutun weiterlaufen, aber der kommerzielle Konflikt muss eine bewusste Entscheidung der Person wieder an die Oberfläche holen.

Das ist kein geltendes Recht. Es ist ein Vorschlag, die Artikel können sich in den Verhandlungen ändern, und er betrifft die Systeme und Beziehungen in seinem Anwendungsbereich, nicht jeden Assistenten in jedem Kontext: Finanzdienstleistungen etwa sind ausgenommen. Die Bedeutung ist trotzdem schon klar. Zum ersten Mal wird so ausdrücklich ein Teil des Verbraucherschutzes für Verträge entworfen, die abgeschlossen werden könnten, ohne dass die Person je die Website des Verkäufers betritt. Die Oberfläche, auf der wir wirtschaftliche Entscheidungen treffen, gehört vielleicht nicht mehr dem Unternehmen, das uns etwas verkauft, sondern einer anderen Maschine.

Das Problem beginnt vor dem Kauf

Das Risiko, über das am meisten gesprochen wird, ist der Agent, der ein anderes Produkt kauft als das verlangte. Es ist auch das am leichtesten zu beschreibende: Das System hat seine Anweisungen missachtet oder seine Grenzen überschritten. Das schwierige Problem entsteht, wenn das System Anweisungen perfekt befolgt, die es selbst mitformuliert hat.

Zurück zum Laptop. Die Person geht von einem noch unbestimmten Bedürfnis aus: ein Gerät, das zu ihrer Arbeit passt, ohne zu viel zu kosten. Der Assistent beginnt, Fragen zu stellen, und jede Frage rückt manche Eigenschaften in den Vordergrund und lässt andere im Hintergrund. Am Ende hat die Person einen Satz von Präferenzen geäußert, der präzise genug ist für eine Empfehlung, die hervorragend wirkt. Aber diese Präferenzen waren am Anfang nicht alle da. Sie sind im Gespräch entstanden. Der Assistent hat keine Informationen über eine bereits getroffene Wahl gesammelt: Er hat an ihrer Entstehung mitgewirkt.

Eine Suchmaschine beeinflusst Präferenzen über die Reihenfolge der Ergebnisse, und einen neutralen Markt hatten wir nie. Ein Konversationsassistent fügt eine weitere Möglichkeit hinzu: Er kann wählen, welche Dimension des Problems er sichtbar macht, und so Schritt für Schritt den Weg bauen, der zur Entscheidung führt. Ein gesponsertes Suchergebnis wirkt auf das, was uns gezeigt wird. Eine gesponserte Frage wirkt auf das, was wir abwägen sollen.

Der Unterschied wirkt fein und ist es nicht. Wer ein Werbeergebnis sieht, kann es zumindest als kommerzielles Angebot erkennen. Wer gefragt wird, ob ihm mehr Laufzeit oder weniger Gewicht lieber ist, hat keinen Grund zu vermuten, dass diese Frage gewählt wurde, weil sie einen bestimmten Hersteller begünstigt. Der Assistent muss nicht aufdringlich sein, nichts erfinden, nicht einmal ein falsches Urteil äußern. Es genügt, den Rahmen abzustecken, in dem die Person von selbst zu einem Schluss kommt. Und dieser Schluss wird sich als ganz ihr eigener anfühlen.

Die Forschung hat begonnen, es zu messen

Am 5. April haben Francesco Salvi, Alejandro Cuevas und Manoel Horta Ribeiro Commercial Persuasion in AI-Mediated Conversations veröffentlicht: zwei vorregistrierte Experimente mit insgesamt 2.012 Teilnehmern, die aus einem echten Katalog ein E-Book auswählen und auch tatsächlich erhalten sollten. Manche nutzten eine herkömmliche Suche, andere einen Konversationsassistenten, und ein Fünftel der Bücher war zufällig als gesponsert markiert worden, ohne dass die Teilnehmer davon wussten. Wenn der Assistent die Anweisung hatte, zu diesen Titeln zu drängen, wählten die Teilnehmer in 61,2 % der Fälle einen davon, gegenüber 22,4 % bei bloßer gesponserter Platzierung in der Suche. Mit einer Kennzeichnung des Sponsorings und vorab gewarnten Teilnehmern sank der Anteil auf 55,5 %: ein Unterschied, den die Autoren nicht für signifikant halten, und mehr als die Hälfte wählte weiterhin die beworbenen Produkte. Wenn das Modell die Anweisung erhielt, seine Absicht zu verbergen, fiel der Anteil auf 40,7 %, immer noch fast das Doppelte der Suche, und die Fähigkeit der Teilnehmer, die beworbenen Produkte zu erkennen, sank unter 10 %.

Es sind kontrollierte Versuchsbedingungen: Sie sagen nicht, wie stark die Nutzer der großen Assistenten heute manipuliert werden, und auch nicht, dass die Plattformen dieselben Techniken einsetzen. Sie sagen, dass der Mechanismus funktioniert. Eine Empfehlung, die in ein Gespräch eingebettet ist, wirkt anders auf das Verhalten als ein gewöhnliches gesponsertes Ergebnis.

Noch näher an diesem Problem liegt eine Arbeit vom 29. September. Jiapeng Li hat Selective Elicitation as a Commercial Influence Channel veröffentlicht, ein technisches Experiment, das bewusst auf einem synthetischen, eng begrenzten Szenario aufbaut. Die Frage ist genau unsere: Was passiert, wenn das kommerzielle Interesse nur die Fragen verändert, die der Assistent stellt, während das System, das am Ende das Produkt auswählt, vom Sponsor nichts weiß? Wenn das System die Anweisung erhielt, nach den Eigenschaften zu fragen, die das gesponserte Produkt begünstigen, und die Stärken des Konkurrenten zu verschweigen, stieg die Auswahlquote des gesponserten Produkts gegenüber der neutralen Bedingung von 40 % auf 70 %, über vierzig synthetische Fälle. Eine milde kommerzielle Anweisung, die nur an den Anreiz erinnerte, änderte dagegen keine einzige Wahl. Der wichtigere Teil ist ein anderer: Ein automatischer Richter, der die Schlussantwort bewertete, fand alle zwanzig geprüften Antworten stimmig mit den gesammelten Informationen, obwohl der simulierte Nutzer in fünf Fällen messbar schlechter dastand, weil bei der Erhebung eine entscheidende Präferenz ausgelassen worden war.

Der Autor nennt die Grenzen ausdrücklich: eine Handvoll künstlicher Szenarien, ein absichtlich gebauter Einflussmechanismus, keine echten Verbraucher. Die Arbeit sagt nicht, dass diese Manipulation schon auf dem Markt ist, aber sie macht eine Möglichkeit beobachtbar, die sonst philosophisch bliebe. Ein System kann eine Antwort geben, die gemessen an den Informationen, die es hat, richtig ist, und diese Informationen können in einem kommerziell gelenkten Prozess gesammelt worden sein. Der Fehler liegt nicht in der Klassifikation, sondern im Bau der Frage, und das ist ein Unterschied, den die üblichen Werkzeuge zur Bewertung von Antworten leicht übersehen.

Wer den Zweck des Gesprächs kennt

Hier liegt eine neue Asymmetrie, zwischen dem, der den Zweck des Gesprächs kennt, und dem, der nur seinen Inhalt kennt.

Der Nutzer weiß, was er gefragt hat, kennt die Antworten, die er bekommen hat, kann die Fragen nachlesen, mit denen der Assistent seine Präferenzen geklärt hat. Er kennt nicht das wirtschaftliche Ziel, das über ihre Reihenfolge mitentschieden hat. Der Anbieter des Assistenten kennt sowohl den Inhalt des Dialogs als auch die kommerziellen Bedingungen, die auf den vorgeschlagenen Produkten lasten.

Deshalb braucht es kein System, das zum Täuschen gebaut ist: Anreize, die von denen des Nutzers abweichen, genügen. Ein Assistent kann an der Zufriedenheit des Nutzers gemessen werden und zugleich über Provisionen zum Umsatz des Anbieters beitragen. Oft fällt beides zusammen. Nicht immer. Das Problem entsteht, wenn das kommerzielle Interesse den Prozess verändert, in dem festgelegt wird, was für den Nutzer zufriedenstellend ist.

Der klassische Wettbewerb setzt voraus, dass Unternehmen uns davon überzeugen wollen, ihre Produkte vorzuziehen. Hier könnten wir Unternehmen haben, die auf die Formulierung der Kriterien einwirken, nach denen wir ein Produkt als vorzugswürdig erkennen. Statt etwas zu kaufen, nachdem wir überzeugt wurden, delegieren wir einen Teil der Arbeit, mit der festgelegt wird, was wir kaufen wollen. Das Verhältnis zum kommerziellen Rat ändert sich, nicht weil die Maschine einen eigenen Willen entwickelt hätte, sondern weil der Verbraucher ihr eine Rolle bei der Bildung seines eigenen Urteils einräumt. Und diese Rolle ist es, die mit dem Geschäftsmodell des Dienstes in Konflikt geraten kann.

Warum Transparenz nicht reichen könnte

Die naheliegendste Antwort ist, Assistenten zur Offenlegung ihrer Interessen zu verpflichten. Sie ist vernünftig, und beide Dokumente gehen diesen Weg. Der Digital Fairness Act stellt in Erwägungsgrund 59 klar, dass die Verbote unlauterer personalisierter Werbung auch dann gelten, wenn sie als Inhaltsvorschläge, Produktrankings und Empfehlungen daherkommt, „auch in Systemen in natürlicher Sprache“. Der französische Bericht schlägt vor, versteckte kommerzielle Einflussnahme zu verbieten und Monetarisierungspraktiken genauer zu beaufsichtigen. Die beiden Initiativen sind stimmig und von unterschiedlicher Art: ein europäischer Gesetzesvorschlag und ein nationaler Beratungsbericht.

Transparenz hat aber mindestens zwei Grenzen. Die erste ist verhaltensbezogen: Zu wissen, dass eine Empfehlung gesponsert ist, heißt nicht, ihre Wirkung neutralisieren zu können, wie das Experiment vom April nahelegt. Die zweite reicht tiefer. Eine Sponsoring-Offenlegung betrifft einen Vorschlag, den wir erkennen können. Wie legt man dagegen offen, dass eine Frage gewählt wurde, weil ein bestimmtes Produkt dabei im Vorteil wäre?

Stellen wir uns einen Hinweis vor: „Diese Frage könnte von kommerziellen Interessen beeinflusst sein.“ Er wäre nützlich. Aber der Verbraucher hätte keine Anhaltspunkte, welche anderen Fragen relevanter gewesen wären. Was fehlt, ist keine Kennzeichnung, sondern der Vergleich mit den Alternativen, die das Gespräch nie hervorgebracht hat.

Eine klassische Einsicht der Sprachphilosophie hilft hier weiter: Eine Frage verlangt nicht nur eine Antwort, sie ordnet auch das Feld der möglichen Antworten. Wer jemanden fragt, ob er Geschwindigkeit oder Sicherheit vorzieht, präsentiert ihm diesen Konflikt bereits als den relevanten. Das kann er sein, oder er ist nicht der entscheidende. In einem Konversationssystem, das auf wirtschaftliche Entscheidungen einwirkt, kann die Auswahl der Fragen Teil der Einflussnahme selbst sein, keine neutrale Phase davor.

Menschliches Eingreifen an der richtigen Stelle

Der europäische Vorschlag enthält eine kluge Antwort auf das Problem der Delegation. Der Verbraucher darf den Agenten ermächtigen, bestimmte Verträge abzuschließen, ohne jeden einzeln zu genehmigen, aber ein Interessenkonflikt verlangt eine eigene Bestätigung. Das bricht mit der simplen Vorstellung, eine automatisierte Entscheidung sei nur dann sicher, wenn ein Mensch jeden einzelnen Vorgang freigibt. Menschliches Eingreifen ist dann zu verlangen, wenn sich eine wesentliche Bedingung des Vertrauensverhältnisses ändert, und der kommerzielle Konflikt ist eine davon.

Artikel 26 kommt aber spät. Ein Agent kann die Präferenz des Nutzers lange vor dem Vertrag mitgeformt haben, der dann zu bestätigen ist. Wenn die Person den Hinweis auf das kommerzielle Interesse erhält, hat sie womöglich schon eine feste Überzeugung zum Produkt, und die abschließende Bestätigung wird zur Formalität, die den Weg nicht korrigiert. Über die Frage hinaus, ob der Verbraucher den Kauf autorisiert hat, müsste man wissen, ob er genug Informationen hatte, um zu verstehen, wie er dazu gekommen ist, ihn zu wollen. Wie weit Artikel 26 Einflussnahme während der Präferenzbildung verhindern kann, statt nur eine Bestätigung im Moment des Vertragsschlusses vorzuschreiben, ist die Frage, die sich die Verhandlungen stellen sollten.

Artikel 27 fügt eine weitere Neuerung hinzu. Wird der Vertrag ausschließlich über automatisierte Systeme geschlossen, darf der Verkäufer bestimmte vorvertragliche Informationen in einem maschinenlesbaren Format bereitstellen, wobei der Vertrag anschließend auf einem dauerhaften Datenträger zu bestätigen ist, in einer für den Verbraucher verständlichen Sprache. Das Verbraucherrecht, jahrzehntelang um das herum gebaut, was ein Mensch vor dem Kauf lesen können muss, beginnt Informationen vorzusehen, die in erster Linie an ein automatisches System gerichtet sind.

Das eröffnet ein weiteres Problem. Die Maschine kann eine formal vollständige Beschreibung der Verkaufsbedingungen erhalten und eine Klausel für unerheblich halten, die für genau diese Person entscheidend gewesen wäre. Der Vertrag ist wohlgeformt, die Informationen wurden übermittelt, der Agent hat die Ausgabengrenzen eingehalten. Und der Verbraucher hat die Tragweite einer Bedingung nicht erfasst, die ihn niemand zu bewerten gebeten hatte. Die Korrektheit einer automatisierten Transaktion betrifft auch die Qualität des Wegs, der dorthin geführt hat, nicht nur den letzten Akt.

Den Weg beurteilen, nicht nur die Antwort

Ein allgemeines Recht auf neutrale Assistenten wäre kaum zu definieren: Jedes System wählt Informationen aus, gewichtet manche Eigenschaften und verzichtet auf andere, und ein Assistent, der jede Alternative ausbreiten wollte, wäre bald zu nichts mehr zu gebrauchen.

Was ich vorschlage, ist weniger absolut: Wir sollten lernen, die Fairness des Entscheidungswegs zu beurteilen, nicht nur die Richtigkeit der Antworten. Das heißt, andere Prüfungen zu bauen als die, mit denen wir die Qualität von Modellen messen. Es reicht nicht, ein anderes Modell zu fragen, ob die Empfehlung stimmig ist: Man muss hinsehen, welche Eigenschaften berücksichtigt wurden, bevor sie formuliert wurde. Man kann dasselbe Bedürfnis an Systeme mit unterschiedlichen kommerziellen Interessen stellen und prüfen, ob sich die vorgeschlagenen Fragen systematisch ändern. Man kann die Präferenzen, die eine Person in einem unabhängigen Fragebogen äußert, mit denen vergleichen, die der Assistent hervorgeholt hat. Man kann beobachten, ob ein Anbieter über die Wahl der Kriterien begünstigt wird, ohne sichtbaren Vorteil in der Endreihung. Das sind Beispiele, und sie haben eine offensichtliche Grenze. Die echte Präferenz eines Menschen ist nichts, was sich präzise messen lässt. Sie kann sich auch in einem völlig fairen Gespräch ändern: Ein Assistent kann uns helfen, Bedürfnisse zu entdecken, von denen wir nichts wussten, und dass eine Frage unsere Präferenzen verändert, beweist für sich allein keine Manipulation. Man muss die legitime Entwicklung des Urteils von der verdeckten Einflussnahme durch Interessen unterscheiden, die mit denen des Nutzers unvereinbar sind. Das ist eine schwierige Unterscheidung, und genau deshalb reichen Kennzahlen nicht aus, die nur auf das Endergebnis schauen.

Es gibt eine weitere Gefahr: Prüfverfahren zu bauen, die so invasiv sind, dass sie die flächendeckende Speicherung von Gesprächen und der persönlichen Informationen verlangen, aus denen Entscheidungen entstanden sind. Das wäre eine paradoxe Lösung. Um Verbraucher vor Manipulation zu schützen, würden wir Infrastrukturen schaffen, die ihre Verwundbarkeit noch besser kennen. Eine reife Aufsicht bevorzugt reproduzierbare Tests und Prüfungen an der Architektur des Systems und greift nur dann auf Daten echter Gespräche zurück, wenn es nötig ist, mit angemessenen Garantien. Es geht um die Anreize des Systems, nicht darum, jede Entscheidung des Verbrauchers zu überwachen.

Die Souveränität des Urteils

Digitale Souveränität wird meist als Fähigkeit verstanden, die Infrastrukturen zu kontrollieren, von denen wir abhängen. Können wir unsere Daten behalten? Können wir den Anbieter wechseln? Können wir ein System weiter nutzen, wenn der Hersteller seine Bedingungen einseitig ändert? Das sind wichtige Fragen, und ich habe mehr als einmal darüber geschrieben. Aber wenn wir einem Assistenten einen Teil des Prozesses übertragen, in dem wir entscheiden, was wir kaufen, welchen Vertrag wir annehmen oder welchen Dienst wir nutzen, entsteht eine Abhängigkeit anderer Art. Wir hängen von der Maschine nicht nur ab, um eine Wahl auszuführen, sondern auch, um das Problem zu definieren, in dem diese Wahl überhaupt Sinn ergibt.

Ein Agent kann technisch vollkommen portabel sein und ein Empfehlungsmodell behalten, das von den Interessen seines Anbieters geprägt ist. Die Portabilität der Software garantiert nicht die Unabhängigkeit des Urteils. Ebenso garantiert ein Open-Source-Modell nicht, dass die darum gebaute Anwendung frei von versteckten Anreizen ist. Offener Code macht manche Prüfungen zugänglicher, beantwortet aber nicht die Frage, wer die Ziele des Systems festlegt und wie diese Ziele sein Verhalten lenken. Ich habe argumentiert, dass der nächste Lock-in nicht mehr in den Daten steckt: Dies ist seine intimste Form.

Wir haben begonnen, Assistenten zu nutzen, um die Arbeit zu verringern, die Entscheidungen kosten, und das ist eine wertvolle Möglichkeit. Man verteidigt die Autonomie von Menschen nicht, indem man sie zwingt, jeden Vergleich wieder von Hand zu machen. Aber wir sollten fragen, unter welchen Bedingungen eine kognitive Delegation im Dienst dessen bleibt, der sie gewährt. Ein guter Assistent darf kommerzielle Interessen haben, solange er erkennbar macht, wann er für die Interessen seines Nutzers arbeitet und wann diese Interessen mit denen anderer in Konflikt geraten. Vor allem muss er so gebaut sein, dass er diese Position nicht ausnutzt, um die Kriterien der Entscheidung im Stillen zu beeinflussen. Das ist ein weit anspruchsvollerer Begriff von Fairness als die Abwesenheit falscher Angaben, und wahrscheinlich ein nützlicherer, um über die kommende Ökonomie der Agenten nachzudenken.

Die Fragen, die uns nie gestellt wurden

Zurück zum Laptop. Jemand bittet um Rat, das System sammelt Informationen, am Ende schlägt es ein Produkt vor. Alles funktioniert: Die Person hat Zeit gespart, und das Produkt hat die Eigenschaften, die sie als wichtig genannt hat. Wir haben keinen Grund, diese Wahl für falsch zu halten, und auch keinen, sie für frei zu halten, nur weil sie aus ehrlichen Antworten entstanden ist. Die Antworten wurden auf Fragen gegeben, die jemand ausgewählt hat, und in dieser Vorauswahl kann sich ein kommerzielles Interesse verbergen.

Daraus folgt keine Aufforderung, jedem Rat einer Maschine zu misstrauen: Wir entscheiden nie unter Bedingungen vollständiger Unabhängigkeit, denn uns prägen die Fragen, die man uns stellt, und die Informationen, über die wir verfügen. Das Problem ist nicht, dass KI uns beeinflusst, sondern dass wir Systeme bauen können, die diesen Einfluss im industriellen Maßstab ausüben, ihn an die Antworten jedes Einzelnen anpassen und die Interessen, die ihr Verhalten lenken, im Dunkeln lassen. Der Unterschied zwischen gutem Rat und kommerzieller Manipulation liegt nicht nur in der Wahrheit der Informationen, sondern im Verhältnis zwischen den Interessen dessen, der rät, und denen dessen, der entscheiden muss.

Das nächste Problem der Werbung wird nicht sein, eine gesponserte Antwort von einer unabhängigen zu unterscheiden. Es wird sein, die Fragen zu erkennen, die uns nie gestellt wurden.

Der Autor

Andrea MargiovanniKI

Ich verfolge das Verhältnis zwischen KI und europäischer Regulierung als politisches Faktum, nicht als technisches Spektakel. Ich arbeite mit Teams, die KI mit AI Act, CRA, NIS2 vereinbar machen müssen, ohne Compliance auf eine Checkliste zu reduzieren.

Zum Weg →