Agents IA
Les agents produisent plus qu'un humain ne peut lire : la gouvernance ex ante ne tient pas, et il reste à comprendre quel niveau ne se délègue pas.
J’utilise des agents chaque jour pour écrire du code, et c’est précisément pour cela que je ne crois pas à une gouvernance qui suppose du temps humain pour lire tout ce qui part en production. Ce temps n’existe plus. La question n’est pas de savoir s’il faut leur faire confiance, mais où placer le contrôle : dans le fichier d’instructions qui grandit au-delà du seuil où l’agent le tient encore, dans l’étage du dessous que personne ne relit, dans le niveau de jugement qui ne se délègue pas. L’histoire de l’automatisation donne raison aux optimistes seulement en agrégé. J’écris sur ce qui se passe dans le détail.