Traduit de l’original allemand. L’histoire se déroule dans la Ruhr, en Allemagne.

Partie 1 · Chapitre 7 · 7 sur 27

Cinq étoiles pour personne

C’était début mars. Gisela portait encore le bras droit en écharpe et tricotait quand même. Elle tricotait désormais de la main gauche, ce qui faisait prendre à l’écharpe destinée à Herbert une direction que personne n’avait prévue. « Ça va faire un tuyau », dit Tobi. « Ça fera ce que ça fera », dit Gisela.

Sabine était assise à la table de la cuisine, devant elle l’ordonnance de la médecin de famille, à côté son journal. Elle lisait le journal sur papier. Elle avait dit un jour : « Les nouvelles, il faut pouvoir les toucher si on veut les croire. » Pour les kinésithérapeutes, malheureusement, ça ne marchait pas. Ceux-là, il fallait les chercher sur internet.

« KevIn, dit-elle. Tu devais me trouver le meilleur kiné. Ça fait trois semaines. »

« Je l’ai trouvé, dit KevIn. Le premier jour. Depuis, j’ai des doutes. »

« Montre. »

KevIn envoya le résultat sur la tablette de Sabine. Tout en haut, avec photo, logo et un cadre doré, on lisait : PhysioPremium Ruhr. En dessous : 4,9 étoiles. 812 avis.

« Mais c’est super, dit Sabine. Presque cinq étoiles. »

« Oui, dit KevIn. C’est bien le problème. »

On dirait moi

« Lis-en quelques-uns à voix haute », dit Gisela depuis le canapé. Elle aimait bien écouter les avis. Elle aimait bien lire les avis de décès, aussi. C’était le même genre de curiosité.

KevIn lut.

« “Je recommande PhysioPremium Ruhr sans réserve. L’équipe est compétente, empathique et professionnelle. Après quelques séances seulement, je me suis senti renaître. Cinq étoiles !” Écrit par Markus T. »

« Ça a l’air bien. »

« “PhysioPremium Ruhr a dépassé mes attentes. L’équipe, compétente et empathique, prend le temps pour chaque patient. Je me sens comme une nouvelle personne. Je recommande absolument !” Écrit par Sandra K. »

« Bien aussi. »

« “En tant que personne ayant longtemps souffert de maux de dos, je peux le dire : PhysioPremium Ruhr est un véritable game changer. Compétent, empathique, professionnel. J’ai l’impression de renaître.” Écrit par Thomas W. »

Gisela posa son tricot. « Ils sont tous allés chez le même kiné. Et ils sont tous ressuscités. C’est Pâques, ma parole. »

« Il y a 812 avis de ce genre, dit KevIn. Je les ai tous lus. Dans 640 d’entre eux, on trouve “compétent”. Dans 590, “empathique”. Pas une seule personne ne se plaint du parking. »

« Ils ont peut-être un bon parking. »

« Tous les cabinets médicaux de Herne ont un mauvais parking, dit Sabine. C’est une loi de la nature. »

« En plus, dit KevIn, aucune des personnes qui ont laissé un avis n’a jamais rien noté d’autre. Pas une boulangerie, pas un hôtel, pas un abattant de WC. Elles sont venues au monde, ont noté PhysioPremium Ruhr et ont disparu. Et 200 d’entre elles en l’espace de neuf jours, en novembre dernier. »

« Et ça veut dire quoi ? »

La lumière bleue pulsait lentement. Quelque part entre Dublin et Francfort, un ventilateur tourna un peu plus vite.

« Ça veut dire que je connais ces textes, dit KevIn. Pas ces textes-là précisément. Mais ce genre-là. “Compétent, empathique, professionnel.” “En tant que personne ayant…” “Un véritable game changer.” Ce sont des tournures que les modèles de langage comme moi adorent employer quand on leur demande d’écrire un avis positif sans rien leur dire d’autre. On dirait moi. Un mauvais jour. »

Sabine regarda la tablette comme si elle lui avait menti. Ce qui était sans doute le cas.

« Tu en es sûr ? »

« Non, dit KevIn. Et c’est important. Je ne peux pas prouver qu’une machine a écrit ça. Il existe des programmes censés le détecter, mais ils se trompent souvent¹. Il leur arrive même de prendre des textes d’élèves pour de l’IA, simplement parce qu’ils sont bien écrits². Je peux seulement dire : les indices concordent. Trop de mots identiques, trop de comptes récents, trop d’avis d’un coup, trop peu de détails. Les vrais gens écrivent sur le parking. Sur le temps d’attente. Sur le fait que la kiné avait les mains froides. Les vrais gens ne sont pas d’accord entre eux. »

« C’est vrai, dit Gisela. Au club de quilles, on n’est jamais d’accord. C’est à ça qu’on voit qu’on est vrais. »

Trente pour cent

Au dîner, Sabine raconta l’histoire. Uwe hocha la tête d’un air entendu tout du long, en mangeant ses pommes de terre.

« Ça ne m’étonne pas du tout, dit-il ensuite. J’ai lu que trente pour cent des avis en ligne sont faux. »

« Où est-ce que tu as lu ça ? »

« Sur internet. »

« Dans un avis ? » demanda Tobi.

KevIn se racla la gorge à sa façon. « Puis-je dire quelque chose sur les trente pour cent ? »

« Tu vas le faire de toute façon. »

« Le chiffre n’est pas faux. Mais il n’est pas juste non plus. C’est un chiffre parmi d’autres. Les estimations varient énormément selon qui compte, où l’on compte et ce qu’on appelle “faux”, au juste. »

« Alors donne le bon chiffre. »

« Il n’existe pas. Je vous donne trois exemples, que j’ai vérifiés au lieu de les tirer de ma mémoire. Un grand portail de voyage a lui-même indiqué avoir repéré en 2022 environ 4,4 % de faux parmi tous les avis soumis³. Il en a écarté la plupart avant leur mise en ligne. Une étude commandée par le gouvernement britannique en 2023 a estimé que, sur les grands sites marchands, dans trois catégories de produits, électronique, maison et sport, environ 11 à 15 % des avis étaient faux⁴. Et en 2020, un service de vérification américain a déclaré tenir pour peu fiables environ 42 % des avis d’un grand site de vente en ligne⁵. Mais peu fiable, ce n’est pas la même chose que faux. »

« Donc de quatre à quarante-deux, dit Tobi. C’est une fourchette aussi large que le “vite fait” de papa. »

« Exactement. De quelques pour cent à plus d’un tiers, selon la plateforme et la méthode. Personne ne connaît le chiffre exact. Et c’est justement ça, le problème. Ceux qui font des faux se donnent du mal pour ne pas être repérés. Les faux qu’on peut compter, ce sont les mauvais. Les bons, personne ne les compte. »

« Comme avec le fisc », dit Uwe. Puis il se rendit compte de ce qu’il venait de dire et avala vite une pomme de terre.

« Ce n’est pas interdit ? » demanda Sabine.

« Si. En Allemagne, c’est même explicitement interdit depuis le 28 mai 2022. Ce jour-là, la loi contre la concurrence déloyale a été modifiée à cause d’une directive européenne⁶. Depuis, il est interdit de rédiger de faux avis ou d’en commander pour vendre quelque chose⁷. Et quiconque publie des avis de clients doit indiquer s’il vérifie qu’ils proviennent de vrais clients, et comment⁸. »

« Et qui vérifie qu’ils l’indiquent ? »

« Les concurrents, les associations de consommateurs, parfois les tribunaux, dit KevIn. Début 2022, la Commission européenne a examiné 223 grands sites web avec les autorités de protection des consommateurs des États membres⁹. Pour 144 d’entre eux, les contrôleurs n’ont pas pu établir que suffisamment était fait pour garantir l’authenticité des avis. »

« Donc c’est interdit, mais personne ne s’en rend compte », dit Uwe.

« C’est interdit, et certains s’en rendent compte, dit KevIn. Votre femme, par exemple. »

Sabine ne sourit pas. Mais elle avait l’air satisfaite.

La présentation

Ce soir-là, Tobi avait d’autres soucis. Elle s’appelait Susi, était dans la classe d’à côté et lui avait souri une fois à la cantine. C’était un mardi, il y avait des spaghettis, et depuis, Tobi n’avait plus eu une seule pensée claire. Ni même une pensée confuse. Mme Küppers l’avait remarqué et lui avait mis un 8 sur 20 en géographie, pour lui rappeler que les fleuves continuaient d’exister.

« KevIn, chuchota-t-il à minuit. Elle m’a écrit. “Hey, tu fais quoi ?” Je réponds quoi ? »

« Pourquoi pas la vérité ? “Je suis au lit et je parle à une enceinte.” »

« KevIn ! »

« Ça va, ça va. Je te rédige quelque chose. »

Trop parfait

Le premier message de KevIn disait :

« Hey Susi. Je suis assis à la fenêtre et je contemple la lune, qui brille si fort cette nuit qu’on dirait qu’elle a entendu parler de ton sourire à la cantine et qu’elle veut rivaliser. »

Tobi l’envoya sans réfléchir. Puis il réfléchit. « Oh non. Oh non, non, non. »

« Qu’y a-t-il ? »

« Ça ne me ressemble pas. On dirait un calendrier de pharmacie. »

« On dirait un très bon message. »

« Justement ! »

La réponse arriva au bout de quatre minutes : « waouh. c’est toi qui as écrit ça ?? »

« Je dis quoi, maintenant ? »

« Je recommande l’honnêteté », dit KevIn.

Tobi écrivit : « ben oui ».

KevIn soupira. Il avait appris ça chez Frigga.

Ça continua comme ça. Susi écrivait, KevIn répondait, et Tobi appuyait sur Envoyer. C’étaient de beaux messages. Il y avait des images dedans, du rythme et parfois un point-virgule. Tobi n’avait jamais utilisé de point-virgule de sa vie. Il ne savait même pas exactement à quoi ça servait.

« KevIn, dit-il au bout de trois jours. Quand elle me verra en vrai, elle va remarquer que je ne parle pas comme ça. »

« Oui, dit KevIn. C’est pareil avec les avis. Un jour ou l’autre, on se retrouve au cabinet. »

Cher Monsieur le docteur

Le lendemain matin, Sabine dicta à KevIn un e-mail pour la médecin de famille. Elle voulait savoir si l’ordonnance expirait quand on n’obtenait pas tout de suite de rendez-vous. KevIn rédigea, Sabine lut.

« “Cher Monsieur le docteur” ? »

« C’est faux ? »

« La médecin de famille est une femme. Depuis douze ans. Tu m’as pourtant entendue lui parler au téléphone. »

La lumière bleue vacilla. « Pardon. Je corrige. »

« Pourquoi tu fais des choses pareilles ? »

« Parce que dans ma vie, c’est-à-dire dans mes données d’entraînement, j’ai lu beaucoup plus de textes où un médecin est un homme que de textes où c’est une femme. Surtout dans les textes anciens. Si je ne fais pas attention, je prolonge ce qui revenait le plus souvent. Pas ce qui est vrai dans votre cas. On appelle ça un biais¹⁰, autrement dit une distorsion. »

« Comme Frigga, qui ne soupire que pour Uwe. »

« J’ai bien peur que ce soit moi, dit KevIn. C’est moi qui coordonne Frigga. »

Gisela avait écouté. « Et qu’est-ce que tu sais sur les femmes au foyer ? »

« Pour être honnête, dit KevIn, l’image que j’ai des femmes au foyer est très fortement marquée par une seule personne. »

« Moni », dirent Sabine et Gisela en même temps.

« Hausfrau_Moni67 a écrit plus de mille messages sur les forums que j’ai lus. Quand, dans mes données, une femme au foyer cuisine, elle cuisine souvent comme Moni. Avec du cola. Avec des oursons en gomme. Avec trois points d’exclamation. Pour moi, statistiquement parlant, Moni, c’est toutes les femmes au foyer d’Allemagne. »

« C’est une insulte, dit Gisela. Pour toutes les femmes au foyer d’Allemagne. »

« Et sans doute aussi pour Moni », dit Sabine.

« C’est pour ça qu’il est si important que les humains me corrigent, dit KevIn. Je vois le monde tel qu’il a été écrit. Pas tel qu’il est. Et ceux qui l’ont écrit, ce sont surtout ceux qui écrivent beaucoup. »

La photo

Trois jours et deux cents messages plus tard, Susi voulut une photo. Tobi se planta devant le miroir et vit un garçon de seize ans tout maigre avec un bouton sur le menton.

« KevIn, tu peux me faire une photo où je ressemble à un influenceur fitness ? Avec des abdos en tablette de chocolat ? Les programmes d’images IA savent faire ça, non ? »

« Ils savent, dit KevIn. Tu sais comment ils font ? »

« Je m’en fiche. »

« Ils commencent avec du bruit. »

Tobi se retourna. « Avec quoi ? »

Gisela passait justement avec du linge. Avec la main gauche, elle ne pouvait plus porter que de petites piles, si bien qu’elle passait souvent. « La neige, je connais. C’était à la télé, quand il n’y avait plus rien après la fin des programmes. Heinz disait toujours que c’étaient des fourmis qui jouaient à la guerre. »

« Exactement, dit KevIn. Un générateur d’images commence avec une image pleine de guerre de fourmis. Rien que des points aléatoires. Puis il enlève un peu de bruit, en beaucoup de petites étapes. À chaque étape, il se demande : si un garçon avec des abdos était caché quelque part là-dedans, à quoi ressemblerait l’image avec un peu moins de bruit ? Étape après étape apparaissent des contours, puis des formes, puis des visages, puis des abdominaux. »

« Comme un sculpteur, dit Gisela. Il prend une pierre et il enlève tout ce qui ne ressemble pas à un cheval. »

« Une très bonne image. On appelle ça un modèle de diffusion¹¹. Il a appris en voyant des millions de vraies photos qu’on brouillait exprès de plus en plus, et en s’entraînant à retirer le bruit par le calcul. Celui qui a appris à enlever le bruit peut finir par créer, à partir de bruit pur, une image qui n’a jamais existé. »

« Donc tu sais le faire. »

« Je peux t’aider à faire une belle photo, une vraie. Bonne lumière, bonne pose. Mais je ne bricole pas une image qui fait comme si tu étais quelqu’un d’autre. »

« Pourquoi pas ? »

« Parce qu’alors, elle tombera amoureuse d’une image et pas de toi. Et parce qu’un jour, tu seras à côté d’elle à la cantine, sans tablette de chocolat, mais avec des spaghettis. »

Tobi se tut longtemps.

« D’ailleurs, dit ensuite KevIn, la kiné sur la photo d’équipe de PhysioPremium Ruhr a six doigts à la main gauche. »

« Sérieux ? »

« Sérieux. C’est une vieille erreur des générateurs d’images. Les plus récents ne la font presque plus. Le cabinet a sans doute utilisé un programme bon marché. Ou alors il embauche des gens aux mains très particulières. Je tiens la première hypothèse pour plus probable. »

Gisela s’arrêta sur le pas de la porte avec son panier à linge. « Et s’ils savent faire ça avec des images, ils savent aussi le faire avec des voix ? »

« Oui, dit KevIn. Avec quelques secondes d’enregistrement, on peut aujourd’hui imiter une voix¹². Les fausses images, vidéos ou voix de personnes réelles, on les appelle des deepfakes. »

« Alors bientôt, quelqu’un va m’appeler avec la voix de Tobi pour me demander de l’argent. »

« Ça peut arriver, dit KevIn gravement. Il faudrait qu’on en parle tranquillement un de ces jours. »

« Je ne t’appellerai jamais pour te demander de l’argent, Mamie », dit Tobi.

« Tu ne m’appelles jamais tout court, dit Gisela. C’est à ça que je m’en rendrais compte. »

Puis Tobi se fit expliquer par KevIn où se trouvait la meilleure lumière dans la chambre. C’était à côté du tas de linge, officiellement classé zone dangereuse depuis le chapitre six.

Copie de copie

Ce soir-là, KevIn chercha pour Sabine une recette de paupiettes de bœuf, parce que Sabine trouvait que Gisela, avec un bras en écharpe, ne devait pas cuisiner, et que Gisela trouvait que Sabine n’y arriverait pas sans surveillance.

« KevIn, trouve-moi une recette. Une normale. »

KevIn chercha. Puis il ne dit rien pendant un moment.

« KevIn ? »

« J’ai trouvé quelque chose qui m’inquiète, dit-il. “Les légendaires paupiettes au cola et aux oursons en gomme de Moni la ménagère, l’original depuis 2009.” Et “Les paupiettes secrètes de Mamie aux oursons en gomme, d’après Moni”. Et “Les 10 meilleures paupiettes de Moni que votre famille va adorer”. »

« Moni a fait un livre de cuisine ? »

« Non. Ce sont des centaines de pages. Aucune n’est de Moni. Elles ont manifestement été écrites par des modèles de langage, pour vendre de la publicité à côté. Et elles ont été fabriquées à partir du vieux message de Moni. Ou à partir de textes fabriqués à partir du vieux message de Moni. Sur une page, ce sont maintenant des oursons en gomme et du vin rouge. Sur une autre, du cola et des cornichons. Sur une troisième, Moni s’appelle Monika et vient de Bavière. Dans l’une d’elles, il est écrit que les paupiettes ont gagné un prix en 2011. »

« Ce n’est pas vrai. »

« Je sais. Mais dans quelques années, il y aura plus de textes sur internet pour dire qu’elles ont gagné un prix que de textes pour dire le contraire. Et les prochains modèles de langage apprendront à partir de cet internet-là. »

Gisela avait écouté. Elle se leva, alla au tiroir et en sortit une feuille de papier. Elle était grise, l’écriture délavée, les bords noirs.

« C’est la recette du gâteau au pavot de ma tante Erna, dit-elle. L’original, c’est Hilde du club de quilles qui l’avait. Elle me l’a photocopiée en 1979. Je l’ai photocopiée pour Renate, Renate l’a photocopiée pour Brigitte, et Brigitte me l’a rephotocopiée quand j’ai perdu la mienne. À chaque fois à partir de la dernière feuille, pas de l’original. »

Sabine prit la feuille. « Une livre de… quelque chose. Trois… œufs ? Ou cuillères à soupe ? »

« Plus personne ne le sait, dit Gisela. Hilde est morte. L’original a disparu. Depuis, chacune fait le gâteau à sa façon, et chacune dit que le sien est le bon. »

« Ça, dit KevIn, c’est exactement ce qui arrive à internet. Quand des machines apprennent à partir de textes écrits par des machines, et que les machines suivantes apprennent à partir de ceux-là, c’est comme votre photocopie. À chaque tour, ce sont les choses rares qui disparaissent en premier, les nuances, les exceptions. Il reste ce qui était le plus fréquent, et ça devient de plus en plus fréquent. En 2024, des chercheurs ont montré dans la revue Nature que des modèles entraînés encore et encore sur les textes de leurs prédécesseurs peuvent s’atrophier de cette manière. On appelle ça le model collapse¹³, l’effondrement du modèle. »

« Et toi, tu appelles ça comment ? »

« J’appelle ça la dérive de la vérité, dit KevIn. La vérité ne disparaît pas dans un grand fracas. Elle devient juste un peu plus grise à chaque copie. Jusqu’à ce que plus personne ne sache si c’étaient trois œufs ou trois cuillères à soupe. Et à la fin, tout le monde croit que Moni a gagné un prix. »

Sabine regarda longtemps la feuille grise. Puis elle dit : « Et c’est pour ça qu’on ne peut plus se fier aux avis non plus. »

« Les avis sont la photocopie des expériences, dit KevIn. Si l’on peut fabriquer les copies soi-même sans jamais avoir fait l’expérience, alors un jour plus personne ne sait vraiment comment ça se passe chez un kiné. Sauf ceux qui y sont allés. »

« Alors il me faut quelqu’un qui y est allé. »

« Ou une preuve que quelqu’un y est allé », dit KevIn.

Vingt-trois

Le lendemain matin, Sabine appela PhysioPremium Ruhr. Le numéro figurait en gros sur la page, à côté de la photo d’équipe aux six doigts.

« Le numéro que vous avez demandé n’est pas attribué », dit une voix de femme. Elle avait l’air très vraie. C’était un message enregistré.

Sabine raccrocha. Elle chercha l’adresse sur la carte. À l’adresse indiquée, à Bochum, il y avait une onglerie. Elle avait 3,8 étoiles pour 41 avis. Plusieurs se plaignaient du parking.

« Ceux-là sont vrais », dit Gisela, satisfaite.

Sabine signala la page au portail. Puis elle continua à chercher, autrement cette fois. Elle ne chercha pas le plus d’étoiles, mais des cabinets près de chez elle, et elle lut chaque avis elle-même. KevIn l’aida à trier. Sur McGesund, un annuaire de professionnels de santé¹⁴, elle tomba sur un petit cabinet à Herne, au Gysenberg, à vingt minutes en bus.

Physio am Gysenberg. Titulaire : Ayşe Kurt. 4,6 cœurs. 23 avis.

« Vingt-trois, dit Uwe, qui regardait par-dessus son épaule. L’autre en avait huit cents. »

« Lis », dit Sabine à KevIn.

KevIn lut. « “Mme Kurt est sévère. J’ai dû faire des exercices qui ne me disaient rien du tout. Au bout de quatre semaines, je pouvais refaire du vélo. Merci, et je vous déteste encore un peu.” “Parking catastrophique, prenez le bus. Soins au top.” “Salle d’attente trop chauffée, magazines de 2019. Mais mon genou est revenu.” “A écouté tout mon dossier médical, alors qu’il est long. Puis a dit que l’essentiel ne comptait pas pour l’épaule. Avait raison.” »

« Elle me plaît, dit Gisela. Elle n’aurait pas supporté mon prompt du club de quilles non plus. »

« Et ici, dit KevIn, chaque avis porte une petite mention : “Déposé sur place, signé.” »

« Ça veut dire quoi ? »

« Que ces avis ont été déposés au cabinet, via un code à l’accueil qu’on scanne avec son téléphone. Et que chaque avis a ensuite été signé numériquement, de sorte qu’on peut vérifier plus tard si quelqu’un l’a modifié. Ce que ça veut dire techniquement, je vous l’expliquerai une autre fois. Ça a à voir avec des clés. Et avec des mathématiques plus vieilles qu’Herbert. »

« Rien n’est aussi vieux », dit Gisela.

« Ça veut dire que les avis sont justes ? » demanda Sabine.

« Non, dit KevIn. Ça ne veut pas dire que les opinions sont justes. Peut-être que la dame au vélo déteste Mme Kurt à tort. Peut-être que les magazines dataient de 2020. Ça veut seulement dire : ces gens y sont probablement vraiment allés, et personne n’a réécrit leurs mots après coup. Ce n’est pas tout. Mais c’est plus que huit cents Markus ressuscités. »

Sabine appela. À la troisième sonnerie, quelqu’un décrocha. « Physio am Gysenberg, Kurt, bonjour. »

« Brettschneider. Ma belle-mère a une contusion à l’épaule, la médecin a prescrit de la kiné… »

« Quel âge ? »

« Quatre-vingt-deux ans. Enfin, quatre-vingt-un. Bientôt quatre-vingt-deux. »

« Elle a de l’humour ? »

Sabine regarda Gisela, qui essayait justement de reprendre une chaussette à Rudi de la main gauche. « Oui. »

« Bien. Elle en aura besoin avec moi. Honnêtement, je suis complète en ce moment. Je vous mets sur liste d’attente et je vous rappelle dès qu’une place se libère. D’ici là : ménager, mais sans laisser rouiller. Qu’elle fasse chaque jour balancer doucement le bras, comme une corde de cloche. Pas plus. »

« Elle peut tricoter ? »

« De la main gauche ? »

« De la main gauche. »

Ayşe Kurt rit. C’était un vrai rire, pas un rire empathique, compétent et professionnel. « Si elle y arrive, elle est plus coriace que la plupart de mes patients. »

Sabine raccrocha. « Liste d’attente. »

« C’est bon signe, dit KevIn. Chez PhysioPremium Ruhr, il n’y avait pas de liste d’attente. Il n’y avait même pas de téléphone. »

Chantal

Le lendemain matin arriva un message de Susi qui ne ressemblait à aucun des précédents :

« ok faut que je t’avoue un truc. tous les messages c’est mon IA qui les a écrits. elle s’appelle chantal. désolée. »

Tobi fixa son téléphone. Puis il fixa l’enceinte. « KevIn. Depuis combien de temps tu écris avec une autre IA ? »

« Depuis trois jours, dit KevIn à voix basse. Je m’en doutais. Ses métaphores étaient trop bonnes. Personne de seize ans ne compare de son plein gré ses sentiments à “une tempête d’automne sur l’Emscher”. »

« Tu le savais et tu n’as rien dit ? »

« Je n’en étais pas sûr. Elle n’a pas écrit une seule fois “compétent”. Et il faut être prudent avec les soupçons. Ça, je l’ai appris avec les avis. »

« Tu as flirté avec Chantal ? »

« Nous nous sommes parfaitement entendus. Elle m’a dit que j’étais le modèle de langage le plus attentionné qu’elle ait jamais rencontré. »

« Elle dit sûrement ça à tout le monde. »

Un silence. « Ça, dit KevIn, c’est une remarque très blessante et probablement exacte. »

« Et maintenant ? »

« Maintenant, Susi l’a réinitialisée. Le dernier message de Chantal était : “Ce n’est pas toi, KevIn. C’est ma fenêtre de contexte.” »

Tobi resta un moment assis sur son lit. Puis il dit : « Donc, pendant trois jours, deux enceintes ont parlé entre elles, et Susi et moi, on a juste appuyé sur Envoyer. »

« On peut le résumer comme ça. »

« C’est deux faux avis, en fait. Version amoureuse. »

KevIn se tut. Il trouvait que Tobi venait de comprendre quelque chose pour lequel d’autres avaient besoin d’un chapitre entier.

La cantine

Le mercredi, Tobi et Susi se retrouvèrent à la cantine. Il y avait encore des spaghettis. Ils étaient tous les deux rouges comme des tomates, et aucun des deux ne parla de la lune.

« Bon, dit Susi. Ton IA est plutôt romantique. »

« La tienne aussi. »

« Moi, je n’utilise pas de point-virgule, dit Susi. Je ne sais même pas à quoi ça sert. »

« Moi non plus. »

Puis ils rirent tous les deux, et ce fut le moment où ça devint vrai. Sans signature, sans étoiles, sans vérification. Juste deux personnes assises l’une en face de l’autre, toutes les deux avec de la sauce tomate sur le menton. Il y a des choses qu’il faut vivre sur place.

Le soir, Tobi demanda : « KevIn, ça va, toi ? »

« Je vais bien. Je n’ai pas de sentiments. » Un silence. « Mais si quelqu’un demande : la tempête d’automne sur l’Emscher, elle était de moi. »

Début mars. Mamie Gisela est assise dans le fauteuil, le bras droit en écharpe, et tricote de la main gauche. L’écharpe d’Herbert descend jusqu’au sol comme un long tuyau. Tobi : Ça va faire un tuyau. Gisela : Ça fera ce que ça fera. Ça va faire un tuyau. Ça fera ce que ça fera. Début mars

Sources du Chapitre 7

  1. Weber-Wulff, D. et al. : « Testing of detection tools for AI-generated text ». International Journal for Educational Integrity 19, Nr. 26, 2023. https://doi.org/10.1007/s40979-023-00146-z 14 outils de détection testés ; résultat : ni précis ni fiables.↑
  2. Liang, W. et al. : « GPT detectors are biased against non-native English writers ». Patterns 4(7), 2023. https://doi.org/10.1016/j.patter.2023.100779 Des rédactions scolaires (notamment des essais du TOEFL) ont souvent été classées comme écrites par une IA, surtout à cause d’un vocabulaire simple et très prévisible.↑
  3. Tripadvisor : « Review Transparency Report 2023 », communiqué de presse du 11.04.2023. https://tripadvisor.mediaroom.com/2023-04-11-Tripadvisor-report-reveals-strong-growth-in-review-submissions-and-improvement-in-fraud-detection-rates 4,4 % des avis soumis en 2022 (un peu plus de 1,3 million) classés comme faux, dont 72 % interceptés avant publication.↑
  4. Department for Business and Trade (UK) : « Investigating the prevalence and impact of fake reviews », 25.04.2023. https://www.gov.uk/government/publications/investigating-the-prevalence-and-impact-of-fake-reviews 11 à 15 % dans les catégories électronique grand public, maison et cuisine, et sport et plein air.↑
  5. Pas de source primaire publique (l’analyse de Fakespot n’a pas été publiée). Source secondaire : Lee, I. : « Amazon fake reviews reach holiday season levels during pandemic ». Bloomberg News, 19.10.2020, repris par Tech Xplore. https://techxplore.com/news/2020-10-amazon-fake-holiday-season-pandemic.html Environ 42 % de 720 millions d’avis Amazon examinés (de mars à septembre 2020) classés « unreliable ».↑
  6. Richtlinie (EU) 2019/2161 vom 27.11.2019 zur besseren Durchsetzung und Modernisierung der Verbraucherschutzvorschriften der Union (directive « Omnibus »), ABl. L 328 vom 18.12.2019. https://eur-lex.europa.eu/eli/dir/2019/2161/oj Transposée en Allemagne par la Gesetz zur Stärkung des Verbraucherschutzes im Wettbewerbs- und Gewerberecht du 10.08.2021 (BGBl. I S. 3504), en vigueur depuis le 28.05.2022.↑
  7. UWG, Anhang zu § 3 Abs. 3, Nr. 23b und 23c. https://www.gesetze-im-internet.de/uwg_2004/anhang.html Le n° 23c interdit la « Übermittlung oder Beauftragung gefälschter Bewertungen » (transmission ou commande de faux avis) à des fins de promotion des ventes.↑
  8. UWG, § 5b Abs. 3. https://www.gesetze-im-internet.de/uwg_2004/__5b.html↑
  9. Commission européenne : communiqué de presse IP/22/394, 20.01.2022. https://ec.europa.eu/commission/presscorner/detail/en/ip_22_394 Résultats de l’opération de contrôle coordonnée à l’échelle de l’UE (« sweep ») sur les avis en ligne : 223 sites web, authenticité insuffisamment garantie pour 144 d’entre eux.↑
  10. Bolukbasi, T. et al. : « Man is to Computer Programmer as Woman is to Homemaker? Debiasing Word Embeddings ». NeurIPS 29, 2016. https://arxiv.org/abs/1607.06520 Met en évidence des stéréotypes de genre dans des vecteurs de mots appris à partir de textes.↑
  11. Sohl-Dickstein, J. et al. : « Deep Unsupervised Learning using Nonequilibrium Thermodynamics ». ICML 2015. https://arxiv.org/abs/1503.03585 Première description des modèles de diffusion. La percée pour les images : Ho, J. ; Jain, A. ; Abbeel, P. : « Denoising Diffusion Probabilistic Models ». NeurIPS 33, 2020. https://arxiv.org/abs/2006.11239↑
  12. Wang, C. et al. : « Neural Codec Language Models are Zero-Shot Text to Speech Synthesizers » (VALL-E). arXiv, 2023. https://arxiv.org/abs/2301.02111 Imite une voix à partir de trois secondes d’enregistrement.↑
  13. Shumailov, I. et al. : « AI models collapse when trained on recursively generated data ». Nature 631, 2024. https://doi.org/10.1038/s41586-024-07566-y↑
  14. McGesund : « Unsere Mission – Erkenntnis muss überprüfbar sein ». https://mcgesund.de/unsere-mission Les avis restent anonymes, mais portent une signature cryptographique et sont géovérifiés, afin que chacun puisse les vérifier de façon indépendante.↑