KI-Agenten
Agenten produzieren mehr, als ein Mensch lesen kann: die Ex-ante-Governance hält nicht, und offen bleibt, welche Ebene sich nicht delegieren lässt.
Ich nutze jeden Tag Agenten, um Code zu schreiben, und genau deshalb glaube ich nicht an eine Governance, die menschliche Zeit voraussetzt, um alles zu lesen, was in Produktion geht. Diese Zeit gibt es nicht mehr. Die Frage ist nicht, ob man ihnen vertraut, sondern wo die Kontrolle sitzt: in der Anweisungsdatei, die über die Schwelle hinauswächst, an der der Agent sie noch halten kann, im Stockwerk darunter, das niemand prüft, auf der Ebene des Urteils, die sich nicht delegieren lässt. Die Geschichte der Automatisierung gibt den Optimisten nur im Aggregat recht. Ich schreibe darüber, was im Detail geschieht.