La métacognition : un exercice personnel qui s’applique à l’IA

Je viens d’écrire un article sur ce qui se passe chez moi quand Claude Code tombe en panne. En décrivant mon système, j’ai trouvé six écarts entre ce que je croyais avoir réglé et ce qui l’était vraiment. Je les ai corrigés dans la journée.

Je me suis demandé comment appeler ce travail. Le mot qui s’en approche le plus est métacognition.

Ce que le mot veut dire

Le psychologue John Flavell a proposé le terme en 1979 : la métacognition, c’est ce qu’on sait de sa propre façon de penser, et la manière dont on la surveille. Un élève qui relit sa copie en fait. Quelqu’un qui se sait mauvais en calcul mental et pose l’opération sur papier aussi.

En pratique, cela recouvre quatre gestes : vérifier ce qu’on vient de faire, douter d’une réponse trop facile, se souvenir de ses erreurs passées et changer de méthode quand la même erreur revient.

Un modèle le fait mal tout seul

Mes agents annoncent « terminé » avec la même assurance quand le travail est bon et quand il ne l’est pas. Quand un modèle relit son propre travail, il a les mêmes angles morts qu’à l’écriture. Et il oublie tout d’une session à l’autre : l’erreur d’hier ne lui apprend rien aujourd’hui.

Je l’ai payé une fois avec 56 e-mails partis sans mon accord. La règle était écrite, et le modèle ne s’est pas arrêté pour la relire.

Quatre gestes, sortis du modèle

Dans mon harnais, chacun de ces gestes est tenu par un fichier ou un script.

Vérifier

Quand une session se termine avec des fichiers modifiés, un script lance les tests rapides du projet. Tant qu’un test échoue, l’agent ne peut pas annoncer « terminé ». Sa propre impression d’avoir fini ne compte pas.

Douter

Dès qu’une modification devient assez grosse, un second modèle la relit. Il vient d’un autre éditeur et n’a pas les mêmes angles morts. Lors d’un essai avec un bug glissé exprès, il l’a signalé en dix secondes.

Se souvenir

La mémoire est un dossier d’une cinquantaine de notes courtes. Chaque décision importante y est écrite avec sa date et sa raison, pour que la session suivante ne la défasse pas.

Apprendre de ses erreurs

Un script relit mes conversations et liste les moments où j’ai corrigé un agent. Quand la même correction revient, elle devient une règle écrite. Et quand une règle ne doit jamais être enfreinte, du code la verrouille.

Ce que ce n’est pas

Le modèle ne réfléchit pas sur lui-même. Quand je confie mon système à un nouveau modèle pour qu’il le relise, il lit des fichiers texte, comme n’importe quel lecteur. Il n’a aucun accès à son propre fonctionnement.

L’idée est ancienne. En 1998, les philosophes Andy Clark et David Chalmers ont décrit un homme à la mémoire défaillante qui note tout dans un carnet. Pour eux, ce carnet fait partie de sa mémoire. Mon harnais joue ce rôle pour mes agents : leur vérification et leur mémoire sont dans des fichiers.

Ma part du travail

Les fichiers ne décident pas seuls. C’est moi qui dis ce qui compte comme une erreur, qui écris la règle et qui choisis ce qui mérite un verrou. J’ai un TDAH, et tenir ce suivi de tête jour après jour est justement ce qui m’est difficile. Le harnais le porte pour moi comme il le porte pour les agents.

Écrire en fait partie. L’article sur la panne m’a obligé à vérifier chaque phrase contre la configuration réelle, et six d’entre elles étaient fausses au premier jet.

Trois questions pour votre installation

1. Quand votre IA dit « terminé », qui vérifie ?
2. Où est notée la dernière erreur, et qui la relira demain ?
3. Qui relit le travail avec d’autres angles morts que celui qui l’a fait ?

Si la réponse aux trois est « le modèle lui-même », il vous manque cette couche. Elle tient dans quelques fichiers texte.