Ada Lovelace, 1843 : le débat « l’IA crée-t-elle ? » a plus de 180 ans

Quand un dirigeant me demande si l’IA « crée vraiment », je pense à une femme de 27 ans qui a posé la question avant qu’aucun ordinateur n’existe. En 1843, Ada Lovelace publie une traduction annotée d’un article sur la machine analytique de Charles Babbage. Dans la dernière note, elle écrit une phrase que l’on cite encore dans chaque débat sur l’intelligence artificielle : la machine ne crée rien, elle fait ce que nous savons lui ordonner.

Cent quatre-vingt-trois ans plus tard, la question n’est pas tranchée. Mais pour une organisation qui déploie un modèle de langage, je crois que la moitié utile de la phrase est la seconde.

Une traduction qui devient un traité

En octobre 1842, l’ingénieur militaire italien Luigi Menabrea publie en français, dans la Bibliothèque Universelle de Genève, une description de la machine analytique imaginée par Babbage : une machine à calculer générale, pilotée par des cartes perforées. Ada Lovelace, fille de Lord Byron, la traduit en anglais pour les Scientific Memoirs de Richard Taylor, en 1843.

Elle ne se contente pas de traduire. Elle ajoute sept notes, de A à G, toutes signées de ses initiales, « A. A. L. ». Dans l’édition de 1843, le mémoire occupe les pages 666 à 690, préface de l’éditeur comprise. Les notes vont de la page 691 à la page 731, plus une planche hors texte. Le commentaire est plus long que le texte commenté.

La part exacte de Lovelace et de Babbage dans ces notes fait débat chez les biographes, rappelle le Computer History Museum. Le texte, lui, est publié sous ses initiales, et c’est lui que je cite.

Ce qu’elle voit dans la machine

Les notes vont beaucoup plus loin que l’arithmétique. Trois passages me frappent.

• Le tissage. Dans la Note A, elle écrit que la machine analytique « tisse des motifs algébriques comme le métier Jacquard tisse des fleurs et des feuilles ». Les cartes perforées du métier à tisser deviennent des instructions de calcul.
• La musique. Toujours dans la Note A : si les relations entre les sons pouvaient s’exprimer dans la notation de la machine, celle-ci « pourrait composer des morceaux de musique élaborés et savants, de n’importe quelle complexité ».
• Le programme. La Note G se termine par un tableau qui détaille, opération par opération, comment la machine calculerait les nombres de Bernoulli. Ce tableau est souvent décrit comme le premier programme informatique publié, même si Lovelace le présentait plus sobrement comme une vue d’ensemble des changements successifs dans la machine.

Elle imagine donc une machine qui manipule des symboles, pas seulement des nombres. C’est exactement ce que fait un modèle de langage avec des mots.

La Note G : le frein

Puis, au début de la Note G, elle change de ton. Elle veut, écrit-elle, se prémunir contre les « idées exagérées » sur les pouvoirs de la machine. Et elle pose ceci, page 722 :

The Analytical Engine has no pretensions whatever to originate any thing. It can do whatever we know how to order it to perform. It can follow analysis; but it has no power of anticipating any analytical relations or truths. Its province is to assist us in making available what we are already acquainted with.

En français : la machine analytique n’a aucune prétention à créer quoi que ce soit. Elle peut faire tout ce que nous savons lui ordonner de faire. Elle peut suivre une analyse, mais elle n’a aucun pouvoir d’anticiper des relations ou des vérités. Son rôle est de nous aider à rendre disponible ce que nous connaissons déjà.

Le texte complet est accessible dans l’édition de 1843 transcrite sur Wikisource. La phrase est courte, et elle a deux moitiés. La première est une thèse philosophique : la machine n’est pas à l’origine de quoi que ce soit. La seconde est une description de travail : la machine fait ce que nous savons lui ordonner. Les deux ne vieillissent pas de la même façon.

1950 : Turing répond

Cent sept ans plus tard, Alan Turing publie dans la revue Mind « Computing Machinery and Intelligence », l’article du jeu de l’imitation. Il y passe en revue les objections à l’idée qu’une machine puisse penser. La sixième porte un nom : « Lady Lovelace’s Objection ».

Détail que j’aime bien : Turing cite la phrase sans le mot « whatever » et date le mémoire de 1842. Même les citations célèbres se déforment en circulant.

Sa réponse tient en une phrase : « Machines take me by surprise with great frequency. » Les machines le surprennent souvent, explique-t-il, parce qu’il ne calcule pas à l’avance tout ce qu’elles vont faire. Il ajoute que l’on suppose à tort qu’un esprit voit d’un coup toutes les conséquences des données qu’on lui fournit. Ce n’est pas le cas, ni pour nous, ni pour la machine. Plus loin dans l’article, il propose une autre voie : des machines qui apprennent.

Pourquoi le débat revient avec les LLM

Un modèle de langage n’a pas reçu d’ordres ligne à ligne comme la machine de Babbage. Il a été entraîné sur des masses de textes, et il produit des phrases que personne n’a écrites avant lui. D’où le retour de la question : est-ce de la création ?

Je n’ai pas de réponse philosophique à proposer. J’ai une observation de praticien : chaque fois qu’un LLM « surprend » en production, la surprise vient presque toujours de ce que personne n’avait écrit. Une consigne floue, un document manquant, un cas limite que personne n’avait prévu. C’est la surprise de Turing : nous n’avions pas calculé les conséquences de ce que nous lui avions donné.

Ce que ça change pour une organisation

La seconde moitié de la phrase de Lovelace est un programme de travail. Si la machine fait ce que nous savons lui ordonner, alors le travail est dans l’ordre. Concrètement, je le découpe en trois pièces :

1. Le brief. La tâche décrite par écrit, avec son périmètre et ce que le système ne doit pas faire. Si deux personnes de l’équipe ne l’écrivent pas de la même façon, le modèle ne la fera pas de la même façon non plus.
2. Les données. Les documents, procédures et exemples que le modèle a sous les yeux. Ce qui n’y est pas, il le devine.
3. Les critères d’acceptation. Ce qui fait qu’une réponse est bonne, mesuré sur un échantillon réel avant la mise en service, puis suivi dans le temps.

Il faut aussi un propriétaire métier : quelqu’un qui écrit l’ordre, qui juge le résultat et qui peut changer le processus autour. C’est souvent là que les projets bloquent, comme je l’explique dans pourquoi les POC IA n’arrivent pas en production.

La question « l’IA crée-t-elle ? » restera ouverte encore longtemps. La question « savons-nous lui dire quoi faire ? » se règle en quelques jours de cadrage. C’est par elle que je commence.

Dans la même série

Les autres épisodes des « ancêtres des LLM », par ordre chronologique :

• Markov, 1913 : Pouchkine lettre par lettre
• Shannon, 1948 : un livre ouvert au hasard
• Turing, 1950 : le test, et la mauvaise question
• Dartmouth, 1956 : le premier devis IA sous-estimé
• Rosenblatt, 1958 : la promesse du Perceptron
• ELIZA, 1966 : une machine qui ne comprend rien
• Jelinek, années 1980 : la statistique bat la grammaire
• Asimov, 1991 : deux intelligences, pas une

Questions fréquentes

Qu’a écrit Ada Lovelace sur la créativité des machines ?

Dans la Note G de sa traduction du mémoire de Menabrea, publiée en 1843 dans les Scientific Memoirs, elle écrit : « The Analytical Engine has no pretensions whatever to originate any thing. It can do whatever we know how to order it to perform. » La machine ne crée rien, elle fait ce que nous savons lui ordonner.

Qu’est-ce que l’objection de Lady Lovelace ?

C’est le nom qu’Alan Turing donne, en 1950, dans l’article « Computing Machinery and Intelligence », à l’idée qu’une machine ne fait que ce qu’on lui dit. Il y répond que les machines le surprennent souvent, parce que personne ne calcule à l’avance toutes les conséquences de ce qu’on leur donne.

Que retenir de ce débat pour un projet IA en entreprise ?

Que l’essentiel du travail est dans la demande : un brief écrit avec son périmètre, les documents et données que le modèle doit utiliser, et des critères d’acceptation mesurés sur un échantillon réel. Avec un propriétaire métier pour écrire la demande et juger le résultat.