Chatouille, le chat du labo, poussa la tasse de café de Maya. Elle bascula et s’écrasa sur le sol.
Maya soupira en levant les yeux au ciel.
Le chat, perché au bord du bureau, observa les débris avec une curiosité détachée. Il tendit une patte vers un morceau de porcelaine, le regarda. Puis il se désintéressa et commença à se lécher.
Léa, de l’autre côté du labo, leva les yeux de son écran.
— Encore ?
— Troisième tasse ce trimestre.
Maya alla chercher une serpillière. Le labo était petit, deux bureaux face à face, des écrans, des câbles, une machine à café qui faisait un bruit de tracteur. Elles partageaient cet espace depuis deux ans. Léa était arrivée en stage et n’était jamais repartie. Le chat était arrivé par la fenêtre et n’était jamais reparti non plus.
Quelques minutes après s’être rassise, Maya fit pivoter son écran vers Léa.
Un titre fait de grandes lettres rouges disait : « L’IA nous rend-elle stupide ? ».
— T’as vu ça ? Quinze mille likes.
Léa s’approcha et lut les premières lignes.
— J’ai lu des trucs similaires, dit-elle. Ça m’inquiète un peu.
— Moi aussi. Je me reconnais là-dedans. Hier j’ai demandé à Claude de me résumer un article alors que j’avais le temps de le lire. Juste par réflexe.
— Ouais, pareil. La semaine dernière j’ai demandé comment extraire les noms et prénoms d’un document au lieu de juste regarder la doc.
Maya hocha la tête.
— On devient paresseux.
Léa fronça les sourcils.
— Je sais pas. Y’a un truc qui me gêne. Ça sonne trop simpliste, trop evident. Mais j’ai rien pour le contredire.
La Vidéo
Le lendemain, Léa arriva avec son téléphone.
— J’ai trouvé un truc qui devrait t’intéresser. Regarde.
Un corbeau faisait face à un tube transparent rempli d’eau. Un morceau de nourriture flottait à la surface, hors de portée.
L’oiseau inclina la tête. Observa. Il essaya d’attraper le morceau avec son bec, sans succès. Puis, à un moment, il ramassa un caillou et le laissa tomber dans le tube.
L’eau monta légèrement.
Il répéta. Encore. Encore. Jusqu’à ce que le niveau soit assez haut pour atteindre la nourriture.
— OK, dit Maya. Et ?
— Je sais pas. Ça m’a fait penser à notre conversation d’hier.
— Sur l’IA qui nous rend stupides ?
— Ouais… le corbeau il pense, non ? Il vient de résoudre un problème.
Maya regarda la vidéo une deuxième fois.
— Il a vu que l’eau monte quand il met un caillou. Il connecte des trucs qu’il sait déjà.
— Ouais mais il a pas lu de manuel sur la poussée d’Archimède. Personne ne lui a appris à ma connaissance.
— Non. Il a juste… cherché une solution avec ce qu’il avait.
Elles se regardèrent et restèrent silencieuses un moment.
— Je vois toujours pas le rapport avec l’article, dit Léa.
— Moi non plus. Enfin pas directement, je sais pas trop comment le formuler et j’ai pas envie de dire de bêtises mais je pense que c’est connecté.
Louis
Maya connaissait Louis depuis deux ans. Ils s’étaient rencontrés à une conférence organisée par l’entreprise, et depuis ils se croisaient régulièrement à la machine à café.
Louis travaillait aux systèmes critiques. Le genre de boulot où une erreur peut coûter des millions, ou pire. Il avait cette façon de parler qui donnait l’impression que chaque mot avait été pesé, vérifié, validé par trois sources indépendantes. Il transpirait l’expertise.
Ce jour-là, il avait des petits yeux.
— Grosse semaine ? demanda Maya.
— On a eu une alerte, un code rouge, mardi. Fausse alarme, mais quand même. J’ai dormi avec mon ordi.
— Aïe.
— C’est le métier.
Il but son café. Maya hésita puis :
— Tu connais l’article qui dit que l’IA nous rend stupides ?
— Je l’ai vu passer oui. Pourquoi ?
— J’essaie de me faire une idée sur le sujet. Parce que, les gens ont toujours copié, non ? Avant l’IA c’était Wikipédia. L’outil change, mais…
— Attends, dit Louis. Tu penses que l’IA c’est pareil que Wikipédia ?
— Non, enfin… le problème de fond est le même, non ? Les gens qui pensent pas. Puis l’IA est entraînée sur Wikipédia après tout.
Louis secoua la tête.
— C’est pas comparable. Wikipédia te donne de l’information. L’IA te donne des réponses qui ont l’air d’information mais qui peuvent être complètement fausses. En plus avec une confiance absolue.
Maya n’avait pas pensé à ça.
— OK, dit-elle. Mais le choix de vérifier ou pas, il existe toujours.
— Sauf que la friction a disparu. Avant, pour copier, fallait au moins lire. Reformuler un minimum. Maintenant tu peux juste accepter. Et par exemple dans mon domaine, c’est souvent un signe d’imbécilité.
Il fit une pause, l’air pensif.
— En même temps, continua-t-il, c’est plus compliqué que ça. La semaine dernière, j’ai utilisé Claude pour analyser un log d’erreur. Trois mille lignes. À la main, j’aurais mis une journée. Là, j’ai eu une piste en deux minutes. Mais j’ai quand même vérifié avant d’agir.
— Donc l’article a tort ?
— Je dis pas ça. Je dis que c’est plus compliqué. L’article parle comme si y’avait deux camps. Ceux qui pensent et ceux qui délèguent. Mais tout le monde fait les deux. La question c’est plutôt… est-ce que tu sais quand tu fais quoi.
— Comment ça ?
— Genre, moi sur les logs d’erreur, je sais que je délègue le tri à l’IA et que je garde la décision. Mais sur d’autres trucs, je suis sûrement aussi con que n’importe qui. Je répète des trucs que j’ai lus sans vérifier.
Il finit son café.
— Le problème c’est pas de déléguer. C’est de croire qu’on pense alors qu’on répète. Ou l’inverse.
Maya fronça les sourcils.
— Mais comment tu sais dans quel mode t’es ?
— Bonne question. J’ai pas de réponse claire. Des fois je me rends compte après coup que j’ai juste répété un truc. C’est gênant.
Son téléphone vibra. Il regarda l’écran.
— Faut que j’y aille. Mais réfléchis à un truc : la prochaine fois que t’as une opinion forte sur un sujet, demande-toi d’où elle vient vraiment.
Il jeta son gobelet et partit.
Maya resta devant la machine à café. La question était simple. La réponse beaucoup moins.
Le Doute
Le soir en quittant le bureau, Maya raconta la conversation à Léa.
— Il m’a retourné le cerveau, dit-elle.
— Comment ça ?
— Il a dit un truc. Que le problème c’est pas de déléguer ou pas. C’est de savoir quand on le fait. Et que la plupart des gens savent pas s’ils pensent ou s’ils répètent.
— OK…
— Et je me suis rendue compte que moi avec l’article, je répétais. Je pensais avoir une opinion. Mais c’était juste la phrase de l’article qui ressortait. Mot pour mot.
Léa ne répondit pas tout de suite.
— Mais du coup, dit-elle, comment tu fais la différence ? Entre penser et répéter ?
— Aucune idée.
Elles marchèrent un moment sans parler.
— C’est chiant comme question, dit Léa.
— Ouais.
La Nuance
Une semaine passa. Maya évitait la machine à café aux heures où Louis y allait.
Elle avait commencé à écrire dans un carnet. Pas un journal, juste des bouts de phrases, des trucs qui la travaillaient.
Un matin, elle écrivit :
On peut pas tout penser soi-même. Mais les gens délèguent trop. Les deux ?
Elle relut. C’était vague.
Elle essaya autre chose :
Le problème c’est pas de déléguer. C’est de pas savoir qu’on délègue.
Elle s’arrêta. Elle avait l’impression d’avoir trouvé quelque chose. Mais en relisant ses notes sur la conversation avec Louis, elle tomba sur : “La plupart des gens savent pas s’ils pensent ou s’ils répètent.”
C’était presque la même phrase. Elle avait juste reformulé.
Elle barra et recommença :
Quand j’ai répété l’article, je savais pas que je répétais. Louis, quand il délègue, il le sait. Pourquoi ?
Elle réfléchit. Louis avait parlé de ses erreurs avec les LLM. Des journées perdues. Il avait construit des réflexes parce que ça lui avait coûté de ne pas les avoir.
Les mécanismes viennent du coût ?
Peut-être. Mais ça n’expliquait pas tout. Y’a des gens qui se font avoir encore et encore sans rien changer. Le coût suffit pas. Il faut autre chose, il faut la capacité de voir le lien entre l’erreur et sa cause ?
Elle repensa au corbeau. L’oiseau avait fait un lien avec le caillou, l’eau, et la nourriture. Mais est-ce qu’il savait qu’il faisait un lien ? Probablement pas. Il résolvait un problème. Il ne se regardait pas le résoudre.
Elle nota :
Le corbeau connecte sans savoir qu’il connecte. Nous on peut savoir. Mais est-ce qu’on le fait ?
Puis en dessous :
Vérifier si ça tient ou si c’est juste satisfaisant.
Elle referma le carnet.
Les Connexions
Maya n’arriva pas au labo surexcitée. Elle arriva avec une page de carnet froissée et l’air de quelqu’un qui a mal dormi.
— J’ai un truc, dit-elle à Léa. Mais je sais pas si c’est un vrai truc ou si je me raconte des histoires.
— Montre.
Maya déplia la page. Des mots barrés, des flèches dans tous les sens.
— Hier soir, j’écrivais sur ce que Louis a dit. Sur la différence entre déléguer consciemment et déléguer sans savoir. Et j’ai repensé au corbeau.
— OK.
— Et j’ai écrit : « Le corbeau connecte des trucs qu’il sait pour résoudre un problème. Mais il sait pas qu’il fait ça. Nous, on peut savoir. »
Léa hocha la tête.
— Ça a l’air bien.
— Sauf que j’ai relu ce matin et je me suis dit : est-ce que c’est vraiment une connexion utile, ou est-ce que c’est juste… satisfaisant ? Genre, ça sonne bien. Ça fait profond. Mais est-ce que ça m’aide à prédire quoi que ce soit ?
Léa fronça les sourcils.
— Comment tu fais la différence ?
— C’est ça mon problème.
Maya s’assit et regarda ses notes.
— J’ai essayé de tester. Je me suis demandé : si cette connexion est vraie, qu’est-ce que ça implique ? Et j’ai trouvé un truc. Mon grand-père disait que les calculatrices ruineraient le calcul mental. Mon père utilise des calculatrices pour concevoir des moteurs d’avion.
— Et ?
— Et mon père, si tu lui donnes un résultat aberrant, il le voit. Pas parce qu’il refait le calcul à la main. Parce qu’il sait à quoi s’attendre. Il a une intuition du domaine. La calculatrice fait le travail, mais lui sait quand le résultat « sent mauvais ».
— OK, je vois.
— Donc la vraie différence c’est pas calculatrice ou pas calculatrice. C’est : est-ce que tu as le modèle mental pour évaluer ce que l’outil te donne ? Mon grand-père pensait que l’outil remplaçait la compétence. Mon père sait que l’outil déplace la compétence.
Léa resta silencieuse.
— Mais voilà mon problème, continua Maya. Ça aussi, ça sonne bien. Comment je sais que c’est pas juste une autre connexion gratifiante ? Que je suis pas en train de construire un château de cartes parce que ça me fait plaisir de « comprendre » ?
— T’as un moyen de vérifier ?
Maya réfléchit.
— Louis m’a dit un truc. Que pour pas se faire avoir, il cherche ce qui pourrait prouver qu’il a tort. Donc… si j’ai raison, quelqu’un qui utilise l’IA sans modèle mental du domaine devrait se faire avoir régulièrement. Et quelqu’un qui a le modèle mental devrait voir quand ça déconne.
— Ça correspond à ce que Louis raconte sur ses débuts avec les LLM.
— Ouais. Et ça correspond à pourquoi moi j’ai répété l’article sans m’en rendre compte. J’avais pas de modèle mental sur la question. Donc j’avais aucun moyen de sentir que quelque chose clochait.
Elle fit une pause.
— C’est peut-être ça la différence entre une connexion qui marche et une connexion qui fait juste plaisir. Une connexion qui marche, tu peux la tester. Elle prédit des trucs. Elle t’aide à voir des choses que tu voyais pas avant.
— Et celle qui fait juste plaisir ?
— Elle te donne l’impression de comprendre. Mais si tu creuses, y’a rien derrière. Pas de prédiction. Pas de « si c’est vrai, alors… ».
Maya nota dans son carnet : Une connexion utile = quelque chose que tu peux tester. Sinon c’est peut-être juste du pattern-matching qui fait du bien.
Puis en dessous : Le plus dur c’est pas de faire des connexions. C’est de savoir lesquelles valent quelque chose.
Le Café
Ce soir-là, elle croisa Louis par hasard à la sortie du bâtiment.
— Hey, dit-il. T’as réfléchi à notre conversation ?
— Trop, dit Maya. J’arrive plus à penser à autre chose.
Louis sourit. C’était la première fois qu’elle le voyait sourire.
— Désolé. J’ai été un peu brutal.
— Non, t’avais raison. Enfin, en partie. Je crois. Tu veux un café ? Pas celui de la machine. Un vrai.
Ils marchèrent jusqu’au café du coin. Louis commanda un expresso. Maya un allongé.
— J’ai repensé à ce que tu as dit, commença Maya. Sur le fait de pas savoir si on pense ou si on répète. Et j’ai trouvé un truc.
— Je suis tout ouïe.
— Je crois que le problème c’est pas de déléguer ou de penser. C’est de savoir ce qu’on fait. Toi, quand tu fais confiance à quelqu’un sur un sujet, tu sais que tu délègues. Tu le choisis. Moi, quand j’ai répété l’article, je savais même pas que je répétais.
Louis hocha la tête, mais avec une grimace.
— Fais gaffe à pas m’idéaliser, dit-il.
— Comment ça ?
— Ce que je t’ai dit, ça marche dans mon domaine. Les systèmes, le code, les logs d’erreur. Là, oui, j’ai des mécanismes. Mais la semaine dernière, j’ai passé vingt minutes à expliquer à un collègue pourquoi les taux d’intérêt allaient forcément remonter.
— Et ?
— Et j’en sais rien. J’ai aucune expertise en économie. J’ai lu trois articles et regardé une vidéo. Mais sur le moment, j’avais l’impression de savoir de quoi je parlais.
Maya resta silencieuse.
— C’est ça le truc, continua Louis. Dans mon domaine, je sais où sont mes angles morts. Ailleurs, je suis aussi aveugle que n’importe qui. Peut-être plus, parce que j’ai l’habitude d’avoir raison sur les trucs techniques. Ça me donne une fausse confiance sur le reste.
— Donc personne est immunisé.
— Non. On a juste des zones où on a appris à vérifier. Et des zones où on se raconte des histoires sans le savoir.
Maya but une gorgée de café.
— C’est un peu déprimant.
— Ou libérateur. Ça veut dire que c’est pas une question d’intelligence. C’est une question de savoir où on a construit des garde-fous et où on en a pas.
— Et y’a un autre truc, dit Maya. Quand j’ai commencé à voir ça clairement, d’autres connexions sont apparues. Comme si le fait de penser à un truc débloquait d’autres trucs.
— Tu parles du moment où tout s’éclaire ?
— Ouais, mais pas un seul moment. Plus comme une réaction en chaîne très lente. Une connexion en amène une autre.
Louis regarda par la fenêtre, pensif.
— Ça me rappelle un truc dans mon boulot.
— Quoi ?
— Quand on débugge un système complexe. Souvent, le premier indice mène nulle part. Le deuxième non plus. Mais à un moment, tu vois un pattern. Et là, tout le reste s’organise autour. Les trucs que t’avais regardés avant sans comprendre, ils prennent sens.
— C’est exactement ça.
— Sauf que pour ça, faut chercher, dit Louis. Faut accepter que les premières tentatives vont probablement échouer. La plupart des gens abandonnent avant.
— Tu sais pourquoi je crée toujours un moyen de vérifier après avoir utilisé un LLM ?
— Non.
— Parce que j’ai appris à la dure. Au début, quand ces outils sont arrivés, je fonçais. L’IA me donnait une réponse, ça avait l’air plausible, je l’utilisais. Et régulièrement, je perdais ma journée. Je partais dans une direction, je codais, et au bout de quelques heures je réalisais que la base était fausse.
— Ça t’arrivait souvent ?
— Assez pour que ça me coûte cher. À force, j’ai compris que j’allais vite au début mais que je payais après.
Maya hocha la tête.
— Du coup j’ai changé ma façon de faire, continua Louis. J’ai créé des mécanismes. Des petits tests que je fais systématiquement avant de m’engager dans une direction.
— Et ça marche ?
— Ça ralentit le début. Mais ça accélère le reste. Et surtout, ça m’a forcé à réfléchir différemment. Avant, j’étais bon pour écrire du code. Maintenant je suis devenu meilleur pour penser à un niveau plus haut. L’architecture. Comprendre ce qu’on essaie vraiment de faire avant de se lancer.
— T’as changé ce que tu délègues.
— Exactement. Je délègue plus le travail de bas niveau. Mais je garde le contrôle sur la direction.
Il fit une pause.
— Enfin, dans mon domaine. Pour les taux d’intérêt, j’ai toujours aucun garde-fou. Et honnêtement, j’en construirai probablement jamais. On peut pas tout couvrir.
— Donc faut choisir où on investit.
— Ouais. Et accepter qu’ailleurs, on est vulnérable. Le problème c’est quand on oublie où sont les zones non couvertes.
Maya tourna sa tasse entre ses mains.
— C’est ce que je cherche, je crois. Pas à tout couvrir. Juste à savoir où sont mes angles morts.
— C’est déjà beaucoup, dit Louis.
Les Phases
Deux semaines plus tard, Maya regardait son carnet. Des pages remplies d’une écriture serrée. Des phrases barrées. Des flèches qui menaient nulle part.
Elle avait connecté des choses. Son grand-père et les calculatrices. Le corbeau. Louis et ses mécanismes de vérification. L’article qu’elle avait répété sans s’en rendre compte.
Certaines connexions semblaient solides. D’autres étaient probablement du scaffolding, utiles pour construire, à jeter après. Le problème c’est qu’elle ne savait pas toujours lesquelles étaient quoi.
Léa entra dans le labo.
— Tu fais quoi ?
— J’essaie de voir ce qui reste.
— Ce qui reste de quoi ?
— De tout ça, dit elle en tapotant son carnet.
— J’ai passé un mois à réfléchir à cette question de l’IA qui rend stupide. Et je suis pas sûre d’avoir trouvé quoi que ce soit de solide.
Léa s’assit.
— Rien du tout ?
— Si, peut-être deux trucs. La différence entre savoir qu’on délègue et pas savoir. Ça, ça semble réel. Et la différence entre une connexion qu’on peut tester et une qui fait juste plaisir. Le reste… Elle haussa les épaules.
— Je sais pas. C’est peut-être juste des histoires que je me raconte.
— C’est déprimant.
— Non, justement. Avant, j’aurais dit « l’IA nous rend stupides » ou « l’IA nous rend pas stupides ». Une réponse. Maintenant j’ai… pas de réponse, mais une meilleure façon de chercher. Peut-être.
— Peut-être ?
— Ouais. Même ça, je suis pas sûre. Genre, ma « meilleure question » , c’est: est-ce que je sais ce que je fais quand je pense ? — c’est peut-être aussi du scaffolding. Un truc utile maintenant, à jeter quand j’aurai trouvé mieux.
Léa resta silencieuse un moment.
— Tu sais ce qui m’embête ?
— Quoi ?
— Que même si t’as trouvé quelque chose, ça change rien pour les autres. Les gens vont continuer à partager des articles sans les lire.
— Ouais. Probablement.
— Alors à quoi ça sert ?
Maya réfléchit.
— À moi, je crois. J’ai passé un mois à chercher. À me tromper. À réviser. Et maintenant je sais un peu mieux comment je fonctionne. Pas comment les gens fonctionnent. Comment “je” fonctionne.
— Et si même ça c’est faux ?
— Alors je m’en rendrai compte. Peut-être. Plus vite qu’avant, j’espère.
Elle sourit.
— C’est pas une garantie. C’est juste… légèrement mieux que de répéter ce que quelqu’un d’autre a dit sans m’en rendre compte.
Chatouille sauta sur le bureau et s’installa près du carnet. Il observa un stylo qui traînait au bord.
— Il va le faire, dit Léa.
Maya regarda le chat. Le chat regarda le stylo. Puis il se coucha et ferma les yeux.
— Huh, dit Maya.
Elle ouvrit une nouvelle page et écrivit : “Qu’est-ce que je crois savoir qui est probablement faux ?”