J’ai tout lu

« KevIn, tu as une astuce pour la sauce ? »

« Bien sûr. Une utilisatrice nommée Hausfrau_Moni67 a écrit le 14 mars 2009 : “J’ai mis du Coca à la place du vin rouge et des oursons en gomme à la place des cornichons, c’est super réussi, les enfants adorent. Cinq étoiles !!!” »

Sabine immobilisa sa cuillère en bois. « Ce n’est pas une astuce. C’est un appel au secours. »

« Il y a eu 214 réponses », dit KevIn. « La première disait “Premier !”. La deuxième disait “Pourquoi tu ne cuisines pas simplement autre chose, Moni ?”. Ensuite, c’est devenu politique. »

« Des oursons en gomme », dit Mamie Gisela, qui équeutait des haricots à la table de la cuisine. Elle le dit comme d’autres disent « hausse d’impôts ».

« Je ne fais que répéter ce que j’ai lu », dit KevIn. « Moni était très convaincue. »

« Herbert aussi était convaincu, quand il a peint le garage à la peinture à l’huile. À l’intérieur. En août. »

« Là-dessus, il n’existe aucun message de forum », dit KevIn. « Je crois. »

D’où KevIn tient tout ça

Pendant le repas, KevIn expliqua comment il était devenu si savant. Il y avait des paupiettes, du chou rouge et des boulettes de pommes de terre, et la sauce était au vin rouge. Sabine avait insisté sur ce point.

« J’ai été entraîné avec une énorme quantité de texte. Des livres, des journaux, des encyclopédies, des modes d’emploi, des forums. On appelle ça des données d’entraînement. C’est pour cela que je sais énormément de choses sur le monde. »

« Et les sections commentaires ? », demanda Tobi.

La lumière bleue vacilla un instant. « Elles aussi. Je préfère ne pas en parler. »

« C’est quoi, le pire truc que tu aies lu ? »

« Une dispute de 2011 sur la question de savoir si un hot-dog est un sandwich. Elle comptait 9 000 messages. Deux personnes se sont mariées grâce à elle. Six ont divorcé. »

Mamie Gisela hocha la tête d’un air compréhensif. « Chez nous, c’était pareil avec la question de savoir si la salade de pommes de terre se fait à la mayonnaise ou au bouillon. »

« Au bouillon », dit Uwe.

« À la mayonnaise », dit Sabine.

Par précaution, KevIn baissa un peu la lumière de la salle à manger. Il avait lu que ça apaisait.

« Mais comment on fait pour lire tout internet ? », demanda Gisela, une fois la situation détendue. « On n’en a jamais fini. Moi, il m’a fallu trois ans pour Les Buddenbrook. »

« Je ne lis pas comme vous. Je joue au texte à trous. »

« Au texte à trous ? »

« Gisela, je dis une phrase, et vous dites la fin. “Qui sème le vent…” »

« … récolte la tempête. »

« “L’avenir appartient…” »

« … à ceux qui se lèvent tôt. KevIn, c’est puéril. »

« C’est toute ma scolarité », dit KevIn. « On prend un texte, on cache le mot suivant et on laisse le modèle deviner. Au début, il devine n’importe quoi. “L’avenir appartient à la rhubarbe.” Puis on découvre le mot et on compare. Faux. Alors on règle les petites molettes juste un tout petit peu, pour que le bon mot devienne un peu plus probable la fois suivante. Et puis la phrase suivante. Et la suivante. »

« Combien de fois ? », demanda Tobi.

« Des milliers de milliards de fois. Avec des milliers de milliards de mots¹. Dans beaucoup de langues. Pendant des semaines ou des mois, sur énormément de puces en même temps. »

« Et qui a écrit les solutions ? », demanda Sabine. « Pour des milliers de milliards de textes à trous, il faut des millions d’instituteurs. »

« C’est ça qui est beau. Personne. La solution est déjà dans le texte. Le mot suivant, c’est tout simplement le mot qui vient vraiment après. Le texte se corrige tout seul. C’est pour ça qu’on parle d’apprentissage auto-supervisé². Self-supervised, en anglais. »

« Et ça rend intelligent ? »

« Étonnamment, oui. Pour bien deviner la suite d’une phrase sur Schalke, il faut s’y connaître un peu en football. Pour deviner la suite d’une recette, il faut s’y connaître un peu en cuisine. Pour deviner la suite d’une dispute sur la salade de pommes de terre… »

« … il faut être marié », dit Uwe.

« J’allais dire “s’y connaître un peu en êtres humains” », dit KevIn. « Mais soit. »

Ce que KevIn ne sait pas

« KevIn, comment Schalke a joué hier ? », demanda Uwe.

« Je n’ai pas d’informations récentes là-dessus. Mon savoir a une date limite. Tout ce qui vient après, je ne l’ai pas lu. »

« Comment ça, une date limite ? »

« À un moment, l’entraînement se termine. Alors on fige mes molettes, et on me livre. Ce qui se passe après ce jour-là n’est pas en moi. Comme une encyclopédie sur une étagère. Elle non plus ne sait pas qui a été champion la semaine dernière. »

« Et qu’est-ce que tu sais sur Schalke jusqu’à ta date limite ? »

« Beaucoup de choses. Et la plupart sont tristes. »

Uwe posa sa fourchette. Il lui fallut un moment.

Tobi profita du silence. « KevIn, dis un truc qui fait cool. »

« YOLO », dit KevIn. « C’est trop swag. Je suis grave lost, je vais chiller avec mes bros. Hashtag Wanne-Eickel. Je suis cool, maintenant ? »

Tobi le fixa, horrifié. « Plus personne ne dit ça depuis dix ans. »

« Dans mes données, énormément de gens le disent. »

« Ils ont tous quarante ans maintenant et un plan d’épargne logement. »

« Ça », dit KevIn après une courte pause, « c’est le deuxième problème de mon savoir. Pas seulement qu’il s’arrête. Mais aussi que les vieilles choses parlent si fort en moi. Sur internet, il y a dix ans de “YOLO” et seulement quelques mois de ce que vous dites aujourd’hui. Je ne suis pas seulement d’hier. Je suis d’avant-hier, d’hier et d’aujourd’hui à la fois, mais c’est avant-hier qui parle le plus fort³. »

« Comme Papi Heinz », dit Gisela. « Jusqu’au bout, il a dit “c’est bath”. »

« Je trouve “bath” très joli », dit KevIn.

« Tu vois », dit Tobi. « C’est exactement ce que je veux dire. »

Rudi ou pas Rudi

Le mardi soir, Sabine était devant l’ordinateur portable et jurait à voix basse. Elle voulait faire un calendrier photo pour Noël. Douze mois, douze fois Rudi. Malheureusement, les photos de Rudi étaient éparpillées parmi trois mille autres, dont quatre cents photos du barbecue d’Uwe, qu’Uwe avait prises pour des raisons qu’il était incapable d’expliquer.

« KevIn, on ne peut pas apprendre à l’ordinateur à trouver Rudi ? »

« Si. Ce serait la deuxième façon d’apprendre. Celle avec un professeur. »

« Celle avec un professeur ? »

« Avec le texte à trous, le texte se corrige tout seul. Ici, il faut quelqu’un qui dise à l’avance ce qui est juste. Vous prendriez par exemple cinq cents photos et vous colleriez une étiquette sur chacune : “Rudi” ou “pas Rudi”. Le programme regarde les photos, devine, compare avec votre étiquette et règle ses molettes. Comme Rudi au dressage, mais sans friandise. On appelle ça l’apprentissage supervisé. Supervised. »

« Cinq cents ? », dit Sabine. « Autant les trier moi-même tout de suite. »

« Pour un calendrier, oui. Mais une fois que c’est fait, le programme trouve ensuite Rudi même sur des photos qu’il n’a jamais vues. Votre téléphone sait d’ailleurs déjà faire ce genre de chose. Quelqu’un lui a montré énormément de chiens avant⁴. »

Tobi entra, vit l’écran et prit une expression qui rendit aussitôt Sabine méfiante. « Je peux coller des étiquettes, moi aussi ? »

« Non », dit Sabine.

« Si », dit KevIn, « mais ce serait instructif. Tobi, qu’est-ce que tu ferais ? »

« J’étiquetterais la toque en fourrure de l’oncle Herbert comme “Rudi”. »

« Alors le programme apprendrait que la toque d’Herbert est un teckel. Il croit ses étiquettes. Il n’a rien d’autre. Si les étiquettes sont n’importe quoi, il apprend n’importe quoi. Les spécialistes disent : déchets en entrée, déchets en sortie. »

« De toute façon, la toque d’Herbert, c’est un déchet », dit Tobi.

« Et il y a encore quelque chose de sournois », poursuivit KevIn. « Sabine, où est Rudi sur la plupart des photos ? »

Sabine fit défiler. « Sur le tapis du salon. Le rouge avec les franges. »

« Alors le programme pourrait apprendre que Rudi est un tapis rouge à franges. Il ne remarque pas ce que nous voulons dire. Il remarque seulement ce qui aide dans les données. Si le tapis est sur toutes les photos de Rudi et sur aucune autre, le tapis est un excellent indice. Et ensuite, il trouve énormément de teckels dans un magasin de meubles⁵. »

Rudi entra, se coucha sur le tapis rouge et regarda tout le monde. Il ne se doutait pas qu’il venait de devenir un terme technique.

« Et comment on évite ça ? »

« On lui montre Rudi aussi dans le jardin, dans la voiture et sur le canapé. Et le tapis parfois sans Rudi. De bonnes données, c’est la moitié du travail. Au moins. »

Au bout du compte, Sabine tria les photos à la main. Cela prit deux heures. En mai, Rudi est sur le tapis. En août aussi.

La boîte à boutons

Le mercredi, Mamie Gisela renversa sa boîte à boutons sur la table de la cuisine. C’était une vieille boîte à biscuits bleue venue du Danemark, qui ne contenait plus de biscuits depuis 1971, mais tous les boutons qui, dans la famille Brettschneider, étaient un jour tombés, restés en trop ou avaient été coupés par précaution. Gisela cherchait un bouton marron pour le gilet d’Uwe.

Au bout d’une demi-heure, il y avait huit petits tas sur la table. Gros boutons de manteau. Petits boutons blancs de chemise. Boutons dorés à ancre. Boutons en bois. Boutons d’enfant colorés en forme de coccinelle. Et ainsi de suite.

« Gisela », dit KevIn, qui avait observé la scène depuis le buffet. « Vous savez ce que vous êtes en train de faire ? »

« Je trie des boutons. »

« Vous pratiquez la troisième forme d’apprentissage automatique. »

Gisela regarda les boutons, puis le haut-parleur. « Je fais ça depuis soixante ans. »

« Alors vous êtes très en avance sur votre temps. Personne ne vous a dit quels groupes il devait y avoir. Pas d’étiquettes. Vous avez seulement regardé quels boutons se ressemblaient, et vous avez mis ensemble ceux qui se ressemblaient. C’est exactement ce qu’on peut aussi faire faire à un ordinateur. On lui donne beaucoup de choses sans étiquette et on lui dit : trouve toi-même ce qui va ensemble. On appelle ça l’apprentissage non supervisé. Unsupervised. Et le tri en petits tas s’appelle le clustering⁶. »

« Le clusteringue », répéta Gisela. « Et comment ils s’appellent, les petits tas ? »

« Ils ne s’appellent pas. C’est ça, le hic. L’ordinateur trouve les groupes, mais il ne sait pas ce qu’ils signifient. Il dit seulement : groupe un, groupe deux, groupe trois. Les noms, c’est un humain qui doit les donner après coup. »

Gisela montra un petit tas de boutons gris qui ne se ressemblaient en rien de particulier. Certains étaient grands, d’autres petits, certains avaient quatre trous, d’autres deux.

« Et ça ? »

« Ça, je ne le comprends pas », admit KevIn. « Ça ne rentre dans aucun motif. »

« Ce sont ceux des chemises de Heinz », dit Gisela. « Je les ai tous gardés. »

KevIn se tut un moment. « Ce groupe-là, un ordinateur ne l’aurait pas trouvé. »

« Non », dit Gisela en remettant l’un des boutons gris dans la boîte, tout au fond. « Ça, je te crois. »

Le bouton marron pour le gilet d’Uwe, elle le trouva dans le tas des boutons en bois. Il était en plastique. Mais il avait l’air d’être en bois, et ça suffisait pour un petit tas.

La sauce moutarde de Hilde

Le dimanche, Mamie Gisela était aux fourneaux et tentait quelque chose qu’elle n’avait pas tenté depuis des années : la sauce moutarde de Hilde. Hilde avait été la meilleure cuisinière des Cornichons au vinaigre, son club de quilles, avant de mourir, et elle n’avait jamais écrit la recette. « Tout est là-dedans », avait-elle dit en se tapotant la tempe. C’était déjà embêtant du vivant de Hilde, et ça ne s’était pas arrangé depuis.

Gisela remua. Elle goûta. Elle ajouta une cuillère à café de moutarde. Elle goûta. Elle ajouta une pincée de sucre. Elle goûta encore.

« Pas encore », murmura-t-elle.

« Je peux dire quelque chose ? », demanda KevIn.

« Si ce n’est pas “oursons en gomme”. »

« Ce que vous faites là, c’est exactement ce qui arrive à mes molettes pendant l’entraînement. Vous goûtez, donc vous mesurez l’erreur. Pas assez relevé, pas assez sucré. Ensuite, vous tournez un tout petit peu à l’endroit qui réduit le plus l’erreur. Puis vous goûtez de nouveau. On appelle ça la descente de gradient⁷. »

« La descente de quoi ? »

« De gradient. Imaginez que vous êtes tout en haut du terril Hoheward, dans un brouillard épais. Vous voulez redescendre au parking, mais vous ne voyez rien. Que faites-vous ? »

« Je reste plantée là et j’appelle Uwe. »

« Uwe n’a pas de réseau. Alors, que faites-vous ? »

Gisela réfléchit. « Alors je tâte avec le pied pour voir où ça descend. Et je fais un pas dans cette direction. »

« Exactement. Et puis vous tâtez de nouveau. Et encore un pas. Toujours là où la pente descend le plus fort. Comme ça, vous finissez par arriver en bas. Pendant l’entraînement, la montagne, c’est l’erreur : plus on est haut, plus le modèle devine faux. En bas, dans la vallée, la sauce est parfaite. La pente que vous sentez avec le pied s’appelle le gradient. Et on la calcule pour chaque molette. À reculons, à travers tout le réseau : quelle molette était responsable de combien d’erreur ?⁸ »

« Et tu as combien de molettes ? »

« Des centaines de milliards. »

Gisela s’interrompit un instant et contempla sa cuisinière et ses quatre boutons. « Ça en fait, de la moutarde. »

À ce moment-là, Uwe entra dans la cuisine, renifla, prit une cuillère, goûta et dit : « Manque du sel. » Avant que quiconque ait pu dire quoi que ce soit, il avait versé une bonne rasade de la salière. Le couvercle était mal vissé. Après, il n’était plus là.

Le silence se fit dans la cuisine.

Gisela goûta. Elle fit la grimace, comme elle l’avait faite pour la dernière fois en 1974, devant une bière de Dortmund.

« Ça », dit KevIn doucement, « on appelle ça un taux d’apprentissage trop élevé. »

« Un quoi ? », dit Uwe.

« La taille du pas. Si on fait des pas trop grands dans le brouillard, on saute par-dessus la vallée et on atterrit sur la colline suivante. Alors on doit revenir, et on saute de nouveau trop loin. Et ainsi de suite. Si on fait des pas trop petits, on met une éternité. Gisela fait des pas de cuillère à café. Vous venez de faire un pas de salière. »

« Je voulais juste aider. »

« C’est ce que veulent toujours les taux d’apprentissage trop élevés. »

Gisela jeta la moitié de la sauce, allongea le reste avec du bouillon et recommença à pas de cuillère à café. Uwe fut affecté à l’épluchage des pommes de terre. Il fallut encore trois quarts d’heure.

Puis Gisela goûta une dernière fois, posa la cuillère et resta longtemps sans rien dire.

« C’est celle de Hilde ? », demanda KevIn à voix basse.

« Presque », dit Gisela. « Il manque quelque chose. Je ne sais pas quoi. »

« Peut-être que la vallée, là en bas, n’est pas tout à fait aussi profonde que celle de Hilde », dit KevIn. « Ça arrive aussi avec la descente de gradient. On arrive dans une vallée, et c’est une bonne vallée, mais pas la plus profonde de toutes. Seulement, on ne s’en rend pas compte, parce qu’on est dans le brouillard. »

« Hilde aurait dit que je me suis arrêtée trop tôt. »

« Hilde aurait sans doute eu raison. »

Gisela hocha la tête. Puis elle versa la sauce sur les pommes de terre, et tout le monde dit qu’elle était excellente, et c’était vrai.

Le devoir blanc

Le jeudi, Tobi rentra à la maison avec un contrôle de géographie sur lequel on lisait, au stylo rouge, 7 sur 20. En dessous, Mme Küppers avait écrit : « Apprendre par cœur n’est pas comprendre. »

« C’est injuste », dit Tobi en jetant son sac à dos dans un coin. Rudi se mit à l’abri. « J’ai fait le devoir blanc cent fois. Je connaissais toutes les réponses. Toutes ! »

« Et qu’est-ce qui est tombé ? », demanda Sabine.

« D’autres questions ! Au devoir blanc, c’était le Rhin. Au vrai, c’était l’Elbe ! »

« C’est aussi un fleuve », dit Uwe.

« Mais un autre ! »

« Tobi », dit KevIn prudemment. « Je peux te dire ce qui t’est arrivé ? Tu as fait du surapprentissage. »

« J’ai fait du quoi ? »

« C’est l’un des plus gros problèmes de l’apprentissage automatique. En anglais, on dit overfitting. Un modèle apprend si bien par cœur les exemples d’entraînement qu’il les connaît parfaitement. Chaque réponse. Mais ce faisant, il n’a pas appris le principe, seulement les exemples. Et dès que quelque chose de nouveau arrive, il échoue. »

« J’ai appris que le Rhin tourne vers le nord à Bâle. »

« Et tu aurais dû apprendre pourquoi les fleuves tournent à un endroit. Alors tu l’aurais su pour l’Elbe aussi. »

« Comment tu sais des trucs pareils sur les fleuves ? »

« Je ne sais rien sur les fleuves. Je sais énormément de choses sur le surapprentissage. Je suis pour ainsi dire expert du danger d’apprendre trop par cœur. Chez moi aussi, ça arrive. Quand un texte apparaît très souvent dans mes données d’entraînement, je peux parfois le réciter presque mot pour mot⁹, au lieu d’écrire quelque chose de personnel. »

« Comme Moni », dit Sabine.

« Comme Moni », admit KevIn. « Son message, je le connais par cœur. Y compris les trois points d’exclamation. »

« Et comment on évite ça ? Chez toi, je veux dire. Pour moi, c’est trop tard. »

« On met une partie des données de côté. Le modèle n’a pas le droit de la voir pendant l’apprentissage. À la fin, on le teste avec exactement ces données-là. Des données de test. S’il y est aussi bon qu’à l’entraînement, il a compris quelque chose. S’il brille à l’entraînement et échoue au test… »

« … il a 7 sur 20 », dit Tobi, sombre.

« Au fond, Mme Küppers fait tout comme il faut », dit KevIn. « Elle t’a donné des données de test. L’Elbe. »

Tobi le regarda longuement. « KevIn. Tu es de quel côté, au juste ? »

« Du côté de la statistique », dit KevIn. « Mais je t’aide volontiers à réviser. Avec des fleuves que tu ne connais pas encore. »

Le soir, tous les deux passèrent encore une heure ensemble. KevIn posa des questions sur la Weser, le Danube et, à la demande expresse de Tobi, l’Emscher. Tobi répondit faux à la plupart, puis, vers la fin, juste à quelques-unes. KevIn dit que c’était une très belle courbe d’apprentissage. Tobi lui dit de ne pas parler comme ça. Sabine écoutait dans le couloir et souriait.

Moni

Le dimanche de la sauce moutarde, Sabine resta tard dans la cuisine. Les autres étaient couchés. Sur la table, il y avait un verre de vin rouge qui était resté, parce que c’était Gisela qui avait fait la sauce et que Gisela n’y mettait jamais de vin rouge.

« KevIn », dit-elle doucement. « Qu’est-ce qu’elle est devenue, au fait, Moni ? »

« Je ne sais pas. Son dernier message date de 2013. Elle écrivait : “J’ai un Thermomix maintenant. Nous sommes heureux.” »

Sabine sourit. « Tant mieux pour elle. »

« Oui », dit KevIn. « J’espère qu’elle a laissé tomber les oursons en gomme. »

Sabine fit tourner le verre dans sa main. « C’est bizarre, non ? Une femme écrit un jour une bêtise sur les paupiettes sur internet, et des années plus tard, elle est dans ta tête. Pour toujours. »

« Pas pour toujours. Seulement jusqu’au prochain modèle. Mais oui. Je suis fait de beaucoup de Monis. De professeurs aussi, et de journaux et de poèmes. Mais aussi de Monis. Je ne peux pas toujours distinguer qui était qui. Les gens qui m’ont entraîné ont bien trié et filtré beaucoup de choses¹⁰. Mais Moni est passée entre les mailles. La moitié de l’humanité m’a appris quelque chose, et aucun d’entre eux ne le sait. »

« Moni ne sait sûrement pas qu’elle est ton institutrice. »

« Non », dit KevIn. « Et je ne sais même pas si elle s’appelle vraiment Moni. »

Sabine finit le vin, rinça le verre et le rangea dans le placard des casseroles. Le système d’Uwe s’était imposé. Surapprentissage, pensa-t-elle. Ou mariage.

« Bonne nuit, KevIn. »

« Bonne nuit, Sabine. Et si jamais vous croisez Moni : le coup du Coca, j’aimerais bien le vérifier un jour. »