Isaac Asimov, 1991 : l’IA et nous, deux spécialisations qui se complètent

J’ai montré cet extrait à des dirigeants et à des équipes de terrain. Il dure vingt-deux secondes. À chaque fois, la discussion change de nature : on arrête de parler de remplacement et on commence à parler de répartition du travail.

Ce qu’Asimov dit, mot pour mot

L’interview est mise en ligne sur YouTube par Brian Roemmele, qui la date de 1991 et la présente comme la dernière grande interview d’Asimov. Je n’ai pas pu vérifier ces deux points auprès d’une source indépendante, mais le contenu, lui, se vérifie à l’écoute.

Asimov commence par ce que nous faisons mal :

« We do a great many things we’re not good at. For instance, we’re not really good at arithmetic. We need help, we need numbers, we need pen and paper, we need devices. Well, the cheapest computer in the world can multiply and divide faster and more accurately than we can. That’s its specialty. Our specialty is different things. »

Puis il conclut :

« So that you end up not having artificial intelligence and natural intelligence identical, but two different things, two different specializations. They work together, each supplies the lack of the other, and in cooperation they can advance far more rapidly than either could by itself. »

En français : l’intelligence artificielle et l’intelligence naturelle ne sont pas identiques. Deux choses différentes, deux spécialisations. Elles travaillent ensemble, chacune comble le manque de l’autre, et en coopérant elles avancent bien plus vite que chacune ne le pourrait seule.

Pourquoi cette phrase vaut mieux qu’un débat sur le remplacement

Depuis 2022, la question qu’on me pose le plus souvent est « l’IA va-t-elle remplacer mon équipe ? ». C’est une mauvaise question, parce qu’elle suppose que la machine fait la même chose que les gens, en moins cher. Asimov pose la bonne : qu’est-ce que la machine fait mieux que nous, et qu’est-ce que nous faisons mieux qu’elle ?

Avec un modèle de langage, la réponse est devenue plus fine qu’en 1991, mais elle a la même structure.

• Ce que l’outil fait mieux : lire vite et sans fatigue, retrouver une information dans mille pages, reformuler, résumer, classer, produire un premier jet, appliquer la même règle mille fois sans s’ennuyer.
• Ce que nous faisons mieux : savoir ce qui compte dans une situation précise, négocier, trancher quand les règles se contredisent, prendre la responsabilité d’une décision, sentir qu’un cas « ne ressemble pas aux autres ».

Un modèle de langage prédit la suite la plus plausible d’un texte. C’est une spécialité redoutable, et c’est aussi sa limite : il ne vérifie pas, il n’a pas d’avis. J’ai raconté d’où vient ce mécanisme dans l’expérience de Shannon en 1948.

La répartition du travail, en pratique

Dans mes interventions, je transforme la phrase d’Asimov en un exercice d’une demi-journée avec l’équipe concernée. On prend une tâche réelle, de bout en bout, et on la découpe en gestes.

1. Lister les gestes. Recevoir la demande, chercher l’information, rédiger, vérifier, décider, envoyer, relancer. Une tâche de « 20 minutes » en contient souvent une dizaine.
2. Marquer chaque geste. À l’outil : ce qui est répétitif, documenté, et dont l’erreur se voit. À l’humain : ce qui engage l’entreprise, ce qui dépend d’un contexte que personne n’a écrit, ce qui demande un accord.
3. Dessiner le passage de relais. Où l’outil s’arrête, ce qu’il remet à la personne, sous quelle forme. C’est le point qui fait réussir ou échouer le projet : « chacune comble le manque de l’autre » suppose que les deux sachent où est la frontière.
4. Mesurer avant, mesurer après. Temps passé, taux de reprise, erreurs. Sans référence de départ, on ne saura jamais si la coopération a fait avancer quoi que ce soit.

Cette façon de faire évite les deux échecs classiques : l’outil lâché seul sur toute la tâche, qui invente avec aplomb dès qu’il sort du cadre, et l’outil refusé en bloc, parce qu’on l’a jugé sur la partie du travail qu’il fait mal. Les raisons pour lesquelles les projets s’arrêtent entre la démonstration et la production sont détaillées dans cette note.

Ce qu’Asimov ajoute, et qu’on oublie souvent

Dans la même interview, Asimov dit aussi que nous devons réfléchir maintenant aux effets indésirables, « avant qu’il ne soit trop tard », et il prend l’exemple de l’automobile : on a construit les villes sans penser à la voiture, puis on a passé un siècle à ne plus savoir où la mettre. L’équivalent, dans une organisation, c’est d’installer un outil sans décider qui en répond, comment on détecte ses erreurs, et ce qu’on fait quand il se trompe. Ce n’est pas une question technique. C’est une question d’organisation, et elle se règle avant le déploiement, pas après.

Pourquoi je garde cet extrait

Parce qu’il est court, qu’il vient de quelqu’un qui a passé sa vie à imaginer des machines intelligentes, et qu’il ne promet rien. Il dit seulement : deux spécialisations, une coopération, et une frontière à dessiner. Trente-cinq ans plus tard, c’est toujours par là qu’un projet d’IA commence.

Source : « Isaac Asimov On AI, Last Interview », vidéo mise en ligne par Brian Roemmele (YouTube, 2017), extraits 2:41-2:58 et 3:01-3:24. Transcription vérifiée à l’écoute ; date de 1991 et série « Visions of the Future » indiquées par la chaîne, non vérifiées de façon indépendante.

Dans la même série

Les autres épisodes des « ancêtres des LLM », par ordre chronologique :

• Ada Lovelace, 1843 : la machine « ne crée rien »
• Markov, 1913 : Pouchkine lettre par lettre
• Shannon, 1948 : un livre ouvert au hasard
• Turing, 1950 : le test, et la mauvaise question
• Dartmouth, 1956 : le premier devis IA sous-estimé
• Rosenblatt, 1958 : la promesse du Perceptron
• ELIZA, 1966 : une machine qui ne comprend rien
• Jelinek, années 1980 : la statistique bat la grammaire

Questions fréquentes

Asimov parlait-il des modèles de langage actuels ?

Non. En 1991, il parle des ordinateurs et de ce qu’on appelait alors l’intelligence artificielle. Son raisonnement porte sur la nature de l’outil, une spécialité différente de la nôtre, et il s’applique tel quel aux modèles de langage, qui prédisent du texte plausible sans le vérifier.

Comment décider ce qui revient à l’outil et ce qui reste à l’équipe ?

En découpant une tâche réelle en gestes avec les personnes qui la font. À l’outil : le répétitif, le documenté, ce dont l’erreur se voit. À l’humain : ce qui engage l’entreprise, dépend d’un contexte non écrit ou demande un accord. Puis on dessine le passage de relais entre les deux.

Par quoi commencer dans une PME ?

Par une seule tâche, avec les équipes concernées, une mesure de départ et une personne responsable des résultats. Un cadrage de quelques jours suffit pour choisir cette tâche et fixer ce que l’outil doit vérifier avant d’agir.