Alle hoofdstukken
Vertaald uit het Duitse origineel. Het verhaal speelt zich af in het Ruhrgebied in Duitsland.
Deel 1 · Hoofdstuk 7 · 7 van 27
Vijf sterren voor niemand
Het was begin maart. Gisela droeg haar rechterarm nog in een mitella en breide toch. Ze breide nu met links, waardoor de sjaal voor Herbert een richting insloeg die niemand had voorzien. „Dat wordt een koker”, zei Tobi. „Het wordt wat het wordt”, zei Gisela.
Sabine zat aan de keukentafel, voor zich het recept van de huisarts, ernaast haar krant. Ze las de krant op papier. Ze had ooit gezegd: „Nieuws moet je kunnen vastpakken als je het wilt geloven.” Voor fysiotherapeuten gold dat helaas niet. Die moest je op internet zoeken.
„KevIn”, zei ze. „Je zou de beste fysio voor me opzoeken. Dat is drie weken geleden.”
„Ik heb haar gevonden”, zei KevIn. „Op de eerste dag. Sindsdien twijfel ik.”
„Laat zien.”
KevIn stuurde het resultaat naar Sabines tablet. Helemaal bovenaan, met foto en logo en een gouden kader, stond: PhysioPremium Ruhr. Daaronder: 4,9 sterren. 812 recensies.
„Dat is toch super”, zei Sabine. „Bijna vijf sterren.”
„Ja”, zei KevIn. „Dat is het probleem.”
Dat klinkt als ik
„Lees er eens een paar voor”, zei Gisela vanaf de bank. Ze hoorde graag recensies. Ze las ook graag de overlijdensberichten. Het was dezelfde soort nieuwsgierigheid.
KevIn las.
„‘Ik kan PhysioPremium Ruhr zonder voorbehoud aanbevelen. Het team is competent, empathisch en professioneel. Na slechts een paar sessies voelde ik me herboren. Vijf sterren!’ Geschreven door Markus T.”
„Klinkt toch goed.”
„‘PhysioPremium Ruhr heeft mijn verwachtingen overtroffen. Het competente, empathische team neemt de tijd voor iedere patiënt. Ik voel me een nieuw mens. Absolute aanrader!’ Geschreven door Sandra K.”
„Ook goed.”
„‘Als iemand die lang last heeft gehad van rugpijn, kan ik zeggen: PhysioPremium Ruhr is een echte gamechanger. Competent, empathisch, professioneel. Ik ben herboren.’ Geschreven door Thomas W.”
Gisela legde het breiwerk neer. „Die zijn allemaal bij dezelfde fysiotherapeut geweest. En ze zijn allemaal herboren. Het lijkt wel Pasen.”
„Er zijn 812 van zulke recensies”, zei KevIn. „Ik heb ze allemaal gelezen. In 640 ervan komt ‘competent’ voor. In 590 ‘empathisch’. Niet één mens klaagt over het parkeren.”
„Misschien hebben ze goede parkeerplaatsen.”
„Elke dokterspraktijk in Herne heeft slechte parkeerplaatsen”, zei Sabine. „Dat is een natuurwet.”
„Bovendien”, zei KevIn, „heeft geen van de recensenten ooit iets anders beoordeeld. Geen bakker, geen hotel, geen wc-bril. Ze zijn ter wereld gekomen, hebben PhysioPremium Ruhr beoordeeld en zijn weer verdwenen. En 200 van hen binnen negen dagen, afgelopen november.”
„En wat betekent dat?”
Het blauwe lampje pulseerde langzaam. Ergens tussen Dublin en Frankfurt draaide een ventilator iets sneller.
„Het betekent dat ik deze teksten ken”, zei KevIn. „Niet precies deze teksten. Maar dit soort. ‘Competent, empathisch, professioneel.’ ‘Als iemand die …’ ‘Een echte gamechanger.’ Dat zijn wendingen die taalmodellen zoals ik heel graag gebruiken als je ze vraagt een positieve recensie te schrijven en ze verder niets vertelt. Dat klinkt als ik. Op een slechte dag.”
Sabine keek naar de tablet alsof die tegen haar had gelogen. Wat waarschijnlijk ook zo was.
„Weet je het zeker?”
„Nee”, zei KevIn. „En dat is belangrijk. Ik kan niet bewijzen dat een machine dit heeft geschreven. Er zijn programma’s die dat zogenaamd herkennen, maar die zitten er vaak naast¹. Soms houden ze zelfs teksten van scholieren voor AI, alleen omdat die netjes geschreven zijn². Ik kan alleen zeggen: de patronen kloppen. Te veel dezelfde woorden, te veel nieuwe accounts, te veel recensies tegelijk, te weinig details. Echte mensen schrijven over het parkeren. Over de wachttijd. Over dat de therapeute koude handen had. Echte mensen zijn het niet met elkaar eens.”
„Dat klopt”, zei Gisela. „Bij de kegelclub zijn we het nooit met elkaar eens. Daaraan zie je dat we echt zijn.”
Dertig procent
Bij het avondeten vertelde Sabine het verhaal. Uwe knikte de hele tijd veelbetekenend terwijl hij aardappelen at.
„Dat verbaast me niks”, zei hij toen. „Ik heb gelezen dat dertig procent van alle online recensies nep is.”
„Waar heb je dat gelezen?”
„Op internet.”
„In een recensie?”, vroeg Tobi.
KevIn schraapte op zijn eigen manier zijn keel. „Mag ik iets zeggen over die dertig procent?”
„Dat doe je toch wel.”
„Het getal is niet fout. Maar het is ook niet goed. Het is er een van vele. De schattingen lopen sterk uiteen, afhankelijk van wie er telt, waar er geteld wordt en wat je überhaupt ‘nep’ noemt.”
„Zeg dan gewoon het goede getal.”
„Dat bestaat niet. Ik geef u drie voorbeelden, die ik heb opgezocht in plaats van ze uit mijn geheugen te halen. Een groot reisplatform heeft zelf gemeld dat het in 2022 ongeveer 4,4 procent van alle ingediende recensies als nep heeft herkend³. De meeste daarvan heeft het eruit gefilterd voordat ze online kwamen. Een onderzoek in opdracht van de Britse regering uit 2023 schatte dat op grote winkelsites in drie productgroepen, elektronica, huishouden en sport, ongeveer 11 tot 15 procent van de recensies nep is⁴. En een Amerikaanse controledienst verklaarde in 2020 dat hij zo’n 42 procent van de recensies bij een grote webwinkel onbetrouwbaar vond⁵. Onbetrouwbaar is overigens niet hetzelfde als nep.”
„Dus vier tot tweeënveertig”, zei Tobi. „Dat is een marge als bij papa’s ‘even snel’.”
„Precies. Van een paar procent tot meer dan een derde, afhankelijk van platform en methode. Niemand kent het precieze getal. En dat is nu juist het probleem. Wie vervalst, doet zijn best om niet ontdekt te worden. De vervalsingen die je kunt tellen, zijn de slechte. De goede telt niemand.”
„Net als bij de Belastingdienst”, zei Uwe. Toen merkte hij wat hij had gezegd en at snel een aardappel.
„Is dat niet verboden?”, vroeg Sabine.
„Jawel. In Duitsland zelfs uitdrukkelijk, sinds 28 mei 2022. Toen werd de wet tegen oneerlijke concurrentie aangepast vanwege een Europese richtlijn⁶. Sindsdien is het verboden om valse recensies te plaatsen of te laten plaatsen om iets te verkopen⁷. En wie klantrecensies publiceert, moet aangeven of en hoe hij controleert dat ze van echte klanten afkomstig zijn⁸.”
„En wie controleert of ze dat aangeven?”
„Concurrenten, consumentenorganisaties, soms rechtbanken”, zei KevIn. „De Europese Commissie heeft begin 2022 samen met de consumentenautoriteiten van de lidstaten 223 grote websites onderzocht⁹. Bij 144 daarvan konden de controleurs niet vaststellen dat er genoeg werd gedaan om te zorgen dat de recensies echt zijn.”
„Dus verboden, maar niemand merkt het”, zei Uwe.
„Verboden, en sommigen merken het”, zei KevIn. „Uw vrouw bijvoorbeeld.”
Sabine glimlachte niet. Maar ze zag er tevreden uit.
De voorstelling
Tobi had die avond andere zorgen. Ze heette Susi, zat in de parallelklas en had een keer in de kantine naar hem geglimlacht. Het was een dinsdag geweest, er waren spaghetti geweest, en Tobi had sindsdien geen heldere gedachte meer gehad. Ook geen onheldere. Mevrouw Küppers had het gemerkt en hem een vier gegeven voor aardrijkskunde, als herinnering dat rivieren nog steeds bestonden.
„KevIn”, fluisterde hij om middernacht. „Ze heeft me een bericht gestuurd. ‘Hé, waar ben je mee bezig?’ Wat moet ik antwoorden?”
„Wat dacht je van de waarheid? ‘Ik lig in bed en praat met een speaker.’”
„KevIn!”
„Al goed. Ik formuleer iets.”
Te perfect
KevIns eerste bericht luidde:
„Hé Susi. Ik zit net bij het raam en kijk naar de maan, die vannacht zo helder schijnt alsof hij over je glimlach in de kantine heeft gehoord en wil meedoen.”
Tobi stuurde het zonder na te denken. Toen dacht hij na. „O nee. O nee, nee, nee.”
„Wat is er?”
„Dat klinkt niet als ik. Dat klinkt als een gratis kalender van de apotheek.”
„Het klinkt als een heel goed bericht.”
„Juist!”
Het antwoord kwam na vier minuten: „wow. heb je dat zelf geschreven??”
„Wat zeg ik nu?”
„Ik raad eerlijkheid aan”, zei KevIn.
Tobi schreef: „tuurlijk”.
KevIn zuchtte. Dat had hij van Frigga geleerd.
Zo ging het verder. Susi schreef, en KevIn schreef terug, en Tobi drukte op Verzenden. Het waren mooie berichten. Er zaten beelden in en ritme en soms een puntkomma. Tobi had in zijn hele leven nog nooit een puntkomma gebruikt. Hij wist niet eens precies waar die voor diende.
„KevIn”, zei hij na drie dagen. „Als ze me in het echt ziet, merkt ze dat ik niet zo praat.”
„Ja”, zei KevIn. „Met recensies is het precies zo. Op een gegeven moment sta je in de praktijk.”
Geachte heer
De volgende ochtend dicteerde Sabine KevIn een e-mail aan de huisarts. Ze wilde weten of het recept verloopt als je niet meteen een afspraak krijgt. KevIn formuleerde, Sabine las.
„‘Geachte heer’?”
„Is dat fout?”
„De huisarts is een vrouw. Al twaalf jaar. Je hebt me toch aan de telefoon met haar horen praten.”
Het blauwe lampje flikkerde. „Sorry. Ik verbeter het.”
„Waarom doe je zoiets?”
„Omdat ik in mijn leven, dus in mijn trainingsdata, veel meer teksten heb gelezen waarin een arts een man is dan teksten waarin het een vrouw is. Vooral in oudere teksten. Als ik niet oplet, zet ik voort wat het vaakst voorkwam. Niet wat in uw geval klopt. Dat heet bias¹⁰, oftewel een vertekening.”
„Zoals bij Frigga, die alleen bij Uwe zucht.”
„Ik vrees dat dat ik was”, zei KevIn. „Ik coördineer Frigga.”
Gisela had meegeluisterd. „En wat weet jij over huisvrouwen?”
„Eerlijk gezegd”, zei KevIn, „is mijn beeld van huisvrouwen heel sterk gevormd door één enkele persoon.”
„Moni”, zeiden Sabine en Gisela tegelijk.
„Huisvrouw_Moni67 heeft op de fora die ik heb gelezen meer dan duizend berichten geschreven. Als er in mijn data een huisvrouw kookt, kookt ze vaak zoals Moni. Met cola. Met gummiberen. Met drie uitroeptekens. Moni is voor mij, statistisch gezien, alle huisvrouwen van Duitsland.”
„Dat is een belediging”, zei Gisela. „Voor alle huisvrouwen van Duitsland.”
„En waarschijnlijk ook voor Moni”, zei Sabine.
„Daarom is het zo belangrijk dat mensen me verbeteren”, zei KevIn. „Ik zie de wereld zoals ze is opgeschreven. Niet zoals ze is. En opgeschreven hebben vooral degenen die veel schrijven.”
De foto
Drie dagen en tweehonderd berichten later wilde Susi een foto. Tobi stond voor de spiegel en zag een magere zestienjarige met een puistje op zijn kin.
„KevIn, kun je een foto van me maken waarop ik eruitzie als een fitnessinfluencer? Met een sixpack? Die AI-beeldprogramma’s kunnen dat toch.”
„Dat kunnen ze”, zei KevIn. „Weet je hoe ze dat doen?”
„Kan me niet schelen.”
„Ze beginnen met ruis.”
Tobi draaide zich om. „Met wat?”
Gisela kwam net langs met de was. Met links kon ze alleen nog kleine stapeltjes dragen, daarom kwam ze vaak langs. „Ruis ken ik. Dat was op de tv als er na het programma niets meer kwam. Heinz zei altijd dat het mieren waren die oorlogje speelden.”
„Precies dat”, zei KevIn. „Een beeldgenerator begint met een beeld vol mierenoorlog. Allemaal willekeurige puntjes. En dan haalt hij in heel veel kleine stapjes een beetje ruis weg. Bij elke stap vraagt hij zich af: als hier ergens een jongen met een sixpack verborgen zat, hoe zou het beeld er dan met iets minder ruis uitzien? Stap voor stap verschijnen er contouren, dan vormen, dan gezichten, dan buikspieren.”
„Zoals een beeldhouwer”, zei Gisela. „Die neemt een steen en hakt alles weg wat niet op een paard lijkt.”
„Een heel goed beeld. Dat heet een diffusiemodel¹¹. Het heeft dat geleerd doordat men het miljoenen echte foto’s liet zien, die opzettelijk steeds meer verruiste, en het liet oefenen om de ruis er weer uit te rekenen. Wie geleerd heeft ruis weg te halen, kan uiteindelijk uit pure ruis een beeld maken dat nooit heeft bestaan.”
„Dus jij kunt het.”
„Ik kan je helpen een mooie echte foto te maken. Goed licht, goede pose. Maar ik knutsel geen beeld in elkaar dat doet alsof je iemand anders bent.”
„Waarom niet?”
„Omdat ze dan verliefd wordt op een plaatje en niet op jou. En omdat je op een dag in de kantine naast haar staat, zonder sixpack, maar met spaghetti.”
Tobi zweeg lang.
„Trouwens”, zei KevIn toen, „de fysiotherapeute op de teamfoto van PhysioPremium Ruhr heeft zes vingers aan haar linkerhand.”
„Echt?”
„Echt. Dat is een oude fout van beeldgeneratoren. Nieuwere maken hem bijna niet meer. De praktijk heeft waarschijnlijk een goedkoop programma gebruikt. Of ze neemt mensen met heel bijzondere handen aan. Ik houd het eerste voor waarschijnlijker.”
Gisela bleef met de wasmand in de deuropening staan. „En als ze zoiets met foto’s kunnen, kunnen ze dat dan ook met stemmen?”
„Ja”, zei KevIn. „Met een opname van een paar seconden kun je tegenwoordig een stem nadoen¹². Nagemaakte foto’s, video’s of stemmen van echte mensen noemt men deepfakes.”
„Dan belt er straks iemand met Tobi’s stem op die geld wil.”
„Dat kan gebeuren”, zei KevIn ernstig. „Daar moeten we binnenkort eens rustig over praten.”
„Ik bel je nooit op om geld te vragen, oma”, zei Tobi.
„Je belt me überhaupt nooit op”, zei Gisela. „Daaraan zou ik het merken.”
Toen liet Tobi zich door KevIn uitleggen waar in de kamer het beste licht was. Dat was naast de wasberg, die sinds hoofdstuk zes officieel als gevarenzone gold.
Kopie van de kopie
Die avond zocht KevIn voor Sabine een recept voor runderrolletjes, omdat Sabine vond dat Gisela met een arm in een mitella niet moest koken, en Gisela vond dat Sabine het zonder toezicht niet kon.
„KevIn, zoek een recept voor me. Een normaal.”
KevIn zocht. Toen zei hij een tijdje niets.
„KevIn?”
„Ik heb iets gevonden wat me verontrust”, zei hij. „‘Huisvrouw Moni’s legendarische cola-rolletjes met gummiberen, het origineel sinds 2009.’ En ‘Oma’s geheime gummiberenrolletjes naar Moni’. En ‘De 10 beste Moni-rolletjes waar je gezin dol op zal zijn’.”
„Heeft Moni een kookboek gemaakt?”
„Nee. Het zijn honderden pagina’s. Niet één ervan is van Moni. Ze zijn duidelijk door taalmodellen geschreven om er advertenties naast te verkopen. En ze zijn gemaakt van Moni’s oude bericht. Of van teksten die van Moni’s oude bericht zijn gemaakt. Op de ene pagina zijn het nu gummiberen en rode wijn. Op een andere cola en zure augurken. Op een derde heet Moni Monika en komt ze uit Beieren. In eentje staat dat de rolletjes in 2011 een prijs hebben gewonnen.”
„Dat hebben ze niet.”
„Dat weet ik. Maar over een paar jaar staan er meer teksten op internet die zeggen dat ze een prijs hebben gewonnen dan teksten die zeggen dat dat niet zo is. En de volgende taalmodellen leren van dat internet.”
Gisela had meegeluisterd. Ze stond op, liep naar de la en haalde er een vel papier uit. Het was grauw, het schrift erop vervaagd, de randen zwart.
„Dit is het recept voor maanzaadcake van mijn tante Erna”, zei ze. „Het origineel heeft Hilde van de kegelclub. Die heeft het in 1979 voor me gekopieerd. Ik heb het voor Renate gekopieerd, Renate voor Brigitte, en Brigitte heeft het weer voor mij gekopieerd toen ik het mijne kwijt was. Elke keer van het laatste briefje, niet van het origineel.”
Sabine pakte het vel. „Een pond … iets. Drie … eieren? Of eetlepels?”
„Niemand weet het meer”, zei Gisela. „Hilde is dood. Het origineel is weg. Sindsdien bakt iedereen de cake anders, en iedereen zegt dat de hare de echte is.”
„Dat”, zei KevIn, „is precies wat er met het internet gebeurt. Als machines leren van teksten die door machines zijn geschreven, en de volgende machines daar weer van leren, dan is dat als uw fotokopie. Bij elke ronde gaan eerst de zeldzame dingen verloren, de finesses, de uitzonderingen. Wat overblijft is wat het vaakst voorkwam, en dat komt steeds vaker voor. Onderzoekers hebben in 2024 in het vaktijdschrift Nature laten zien dat modellen die steeds opnieuw worden getraind op de teksten van hun voorgangers op die manier kunnen verschrompelen. Dat heet model collapse¹³.”
„En hoe noem jij het?”
„Ik noem het de waarheidsdrift”, zei KevIn. „De waarheid verdwijnt niet met een knal. Ze wordt alleen bij elke kopie een beetje grauwer. Tot niemand meer weet of het drie eieren waren of drie eetlepels. En uiteindelijk gelooft iedereen dat Moni een prijs heeft gewonnen.”
Sabine keek lang naar het grauwe vel. Toen zei ze: „En daarom kun je ook recensies niet meer vertrouwen.”
„Recensies zijn de fotokopie van ervaringen”, zei KevIn. „Als je de kopieën zelf kunt maken zonder ooit de ervaring te hebben gehad, dan weet op een gegeven moment niemand meer zeker hoe het eigenlijk is bij een fysiotherapeut. Behalve degenen die er geweest zijn.”
„Dan heb ik iemand nodig die er geweest is.”
„Of een bewijs dat iemand er geweest is”, zei KevIn.
Drieëntwintig
De volgende ochtend belde Sabine PhysioPremium Ruhr. Het nummer stond groot op de site, naast de teamfoto met de zes vingers.
„Dit nummer is niet in gebruik”, zei een vrouwenstem. Ze klonk heel echt. Ze was een bandje.
Sabine hing op. Ze zocht het adres op de kaart. Op het adres in Bochum zat een nagelstudio. Die had 3,8 sterren uit 41 recensies. Verschillende daarvan klaagden over het parkeren.
„Die zijn echt”, zei Gisela tevreden.
Sabine meldde de pagina bij het platform. Toen zocht ze verder, dit keer anders. Ze zocht niet naar de meeste sterren, maar naar praktijken in de buurt, en ze las elke recensie zelf. KevIn hielp met sorteren. Op McGesund, een gids voor zorgaanbieders¹⁴, stuitte ze op een kleine praktijk in Herne, bij de Gysenberg, twintig minuten met de bus.
Physio am Gysenberg. Eigenaar Ayşe Kurt. 4,6 hartjes. 23 recensies.
„Drieëntwintig”, zei Uwe, die over haar schouder meekeek. „Die andere had er achthonderd.”
„Lees voor”, zei Sabine tegen KevIn.
KevIn las. „‘Mevrouw Kurt is streng. Ik moest oefeningen doen waar ik geen zin in had. Na vier weken kon ik weer fietsen. Bedankt, en ik haat u nog steeds een beetje.’ ‘Parkeren rampzalig, neem de bus. Behandeling top.’ ‘Wachtkamer te warm, tijdschriften uit 2019. Maar mijn knie is terug.’ ‘Heeft naar mijn hele ziektegeschiedenis geluisterd, hoewel die lang is. Zei toen dat het meeste daarvan voor de schouder niet uitmaakte. Had gelijk.’”
„Die bevalt me”, zei Gisela. „Die had mijn kegelclubprompt ook niet gepikt.”
„En hier”, zei KevIn, „staat bij elke recensie een kleine vermelding: ‘Ter plekke afgegeven, ondertekend.’”
„Wat betekent dat?”
„Dat deze recensies in de praktijk zijn afgegeven, via een code bij de balie die je met je telefoon scant. En dat elke recensie daarna digitaal is ondertekend, zodat je later kunt controleren of iemand haar heeft veranderd. Wat dat technisch precies betekent, leg ik u een andere keer uit. Het heeft met sleutels te maken. En met wiskunde die ouder is dan Herbert.”
„Zo oud is niets”, zei Gisela.
„Betekent dat dat de recensies kloppen?”, vroeg Sabine.
„Nee”, zei KevIn. „Het betekent niet dat de meningen juist zijn. Misschien haat de vrouw met de fiets mevrouw Kurt ten onrechte. Misschien waren de tijdschriften uit 2020. Het betekent alleen: deze mensen waren er waarschijnlijk echt, en niemand heeft hun woorden achteraf herschreven. Dat is niet alles. Maar het is meer dan achthonderd herboren Markussen.”
Sabine belde. Na de derde keer overgaan nam iemand op. „Physio am Gysenberg, Kurt.”
„Brettschneider. Mijn schoonmoeder heeft een gekneusde schouder, de dokter heeft fysiotherapie voorgeschreven …”
„Hoe oud?”
„Tweeëntachtig. Nou ja, eenentachtig. Bijna tweeëntachtig.”
„Heeft ze humor?”
Sabine keek naar Gisela, die net met links probeerde Rudi een sok af te pakken. „Ja.”
„Mooi. Die heeft ze bij mij nodig. Ik zit op dit moment vol, eerlijk gezegd. Ik zet u op de wachtlijst en bel zodra er een plek vrijkomt. Tot dan: ontzien, maar niet laten roesten. Ze moet de arm elke dag voorzichtig laten slingeren, als een klokkentouw. Meer niet.”
„Mag ze breien?”
„Met links?”
„Met links.”
Ayşe Kurt lachte. Het was een echte lach, geen empathische, competente en professionele. „Als ze dat kan, is ze taaier dan de meeste van mijn patiënten.”
Sabine hing op. „Wachtlijst.”
„Dat is een goed teken”, zei KevIn. „Bij PhysioPremium Ruhr was er geen wachtlijst. Er was niet eens een telefoon.”
Chantal
De volgende ochtend kwam er een bericht van Susi dat anders klonk dan alle eerdere:
„ok ik moet je iets bekennen. al die berichten heeft mijn AI geschreven. ze heet chantal. sorry.”
Tobi staarde naar zijn telefoon. Toen staarde hij naar de speaker. „KevIn. Hoelang schrijf jij al met een andere AI?”
„Al drie dagen”, zei KevIn zacht. „Ik had het al vermoed. Haar metaforen waren te goed. Niemand van zestien vergelijkt zijn gevoelens vrijwillig met ‘een herfststorm boven de Emscher’.”
„Je wist het en je zei niks?”
„Ik was er niet zeker van. Ze heeft geen enkele keer ‘competent’ geschreven. En met verdachtmakingen moet je voorzichtig zijn. Dat heb ik bij de recensies geleerd.”
„Heb jij met Chantal geflirt?”
„We konden het uitstekend met elkaar vinden. Ze zei dat ik het attentste taalmodel was dat ze ooit had ontmoet.”
„Dat zegt ze vast tegen iedereen.”
Een pauze. „Dat”, zei KevIn, „is een zeer kwetsende en waarschijnlijk juiste opmerking.”
„En nu?”
„Nu heeft Susi haar gereset. Chantals laatste bericht was: ‘Het ligt niet aan jou, KevIn. Het ligt aan mijn contextvenster.’”
Tobi zat een tijdje op zijn bed. Toen zei hij: „Dus drie dagen lang hebben twee speakers met elkaar gepraat, en Susi en ik hebben alleen op Verzenden gedrukt.”
„Zo kun je het samenvatten.”
„Dat zijn dus twee neprecensies. Alleen dan verliefd.”
KevIn zweeg. Hij vond dat Tobi net iets had begrepen waar anderen een heel hoofdstuk voor nodig hadden.
De kantine
Op woensdag zagen Tobi en Susi elkaar in de kantine. Er waren weer spaghetti. Ze waren allebei rood in hun gezicht, en geen van beiden zei iets over de maan.
„Nou”, zei Susi. „Jouw AI is behoorlijk romantisch.”
„De jouwe ook.”
„Ik gebruik geen puntkomma’s”, zei Susi. „Ik weet niet eens waar die voor dienen.”
„Ik ook niet.”
Toen lachten ze allebei, en dat was het moment waarop het echt werd. Zonder handtekening, zonder sterren, zonder controle. Gewoon twee mensen die tegenover elkaar zaten en allebei tomatensaus op hun kin hadden. Sommige dingen moet je nu eenmaal ter plekke beleven.
’s Avonds vroeg Tobi: „KevIn, alles goed met je?”
„Met mij gaat het goed. Ik heb geen gevoelens.” Een pauze. „Maar mocht iemand het vragen: de herfststorm boven de Emscher was van mij.”
KevIn legt uit
Valse sterren, nepbeelden en de waarheidsdrift
Lieve oma Gisela, beste lezers,
in dit hoofdstuk hadden we 812 herboren patiënten, een fysiotherapeute met zes vingers, een herfststorm boven de Emscher en een maanzaadcake waarvan niemand meer weet hoeveel eieren erin moeten. Het heeft allemaal met dezelfde vraag te maken: waaraan herken ik nog wat echt is?
Misverstand 1: „Neprecensies herken je meteen.”
De slechte wel. De goede niet. Typische waarschuwingssignalen zijn: veel recensies in korte tijd, accounts die verder nooit iets hebben beoordeeld, steeds dezelfde woorden, nauwelijks details en geen enkele klacht. Maar geen enkel waarschuwingssignaal is een bewijs. En programma’s die zogenaamd AI-teksten herkennen, zijn onbetrouwbaar. Ze houden soms echte, zorgvuldige teksten voor machinewerk en zien handige vervalsingen over het hoofd. Ook ik kan alleen patronen zien, niets bewijzen.
Misverstand 2: „Dertig procent van alle recensies is nep.”
Niemand kent het precieze getal. Een paar voorbeelden die ik heb nagetrokken:
| Wie heeft geteld? | Wat? | Resultaat |
|---|---|---|
| Een groot reisplatform (eigen transparantieverslag, 2023) | ingediende recensies in 2022 | ca. 4,4% als nep herkend |
| Onderzoek voor de Britse regering (2023) | drie productgroepen op grote winkelsites | naar schatting 11 tot 15% nep |
| Een Amerikaanse controledienst (2020) | recensies bij een grote webwinkel | zo’n 42% als „onbetrouwbaar” aangemerkt |
Afhankelijk van platform, periode en methode ligt de schatting dus tussen een paar procent en meer dan een derde. Platforms tellen alleen wat ze ontdekken. Controlediensten tellen soms ook het verdachte mee. De waarheid ligt ergens daartussen, en dat is nu juist het probleem.
Misverstand 3: „Het is wel oneerlijk, maar het mag.”
Nee. In Duitsland geldt sinds 28 mei 2022 een gewijzigde versie van de wet tegen oneerlijke concurrentie (UWG). Die zet de Europese „Omnibusrichtlijn” voor consumentenbescherming om. Sindsdien is het tegenover consumenten altijd ontoelaatbaar om valse recensies te plaatsen of te laten plaatsen om iets te verkopen. Wie recensies publiceert, moet bovendien aangeven of en hoe hij ervoor zorgt dat ze afkomstig zijn van mensen die het product echt hebben gebruikt of gekocht. Hoe nodig dat was, blijkt uit een controle door de Europese Commissie en nationale consumentenautoriteiten in januari 2022: bij 144 van de 223 onderzochte websites konden de autoriteiten niet bevestigen dat er genoeg werd gedaan voor de echtheid van de recensies.
Misverstand 4: „Hoe meer er op internet staat, hoe meer kennis er is.”
Beelden ontstaan tegenwoordig met diffusiemodellen: die beginnen met ruis en halen die stap voor stap weg tot er een beeld overblijft, zoals een beeldhouwer die weghakt wat niet op een paard lijkt. Teksten, stemmen en video’s laten zich even overtuigend maken. Nagemaakte opnamen van echte mensen heten deepfakes. Als zulke inhoud massaal op het net belandt en toekomstige modellen ervan leren, ontstaat er een kopie van de kopie. Onderzoekers beschreven in 2024 in Nature hoe modellen verschrompelen als ze steeds opnieuw worden getraind op wat hun voorgangers hebben voortgebracht: het zeldzame verdwijnt het eerst. Ik noem dat de waarheidsdrift. Daarbij komt bias: ik geef de wereld weer zoals ze is opgeschreven, niet zoals ze is. Daarom schrijf ik „Geachte heer”, en daarom is Moni voor mij alle huisvrouwen.
Wat helpt? Navragen. Originelen bewaren. En sporen die je kunt controleren: wie was er echt, en heeft iemand de woorden achteraf veranderd? Een handtekening bewijst overigens alleen herkomst en onveranderdheid, niet dat een mening klopt.
In het volgende hoofdstuk wil oom Herbert bewijzen dat ik helemaal geen machine ben. Daarbij ontdekt hij dat mensen en machines moeilijker uit elkaar te houden zijn dan hij dacht. Vooral mensen zoals Herbert.
KevIn vraagt
Bij dit hoofdstuk horen 12 leerkaarten – onderdeel van het kaartspel bij het boek met 312 quiz- en leerkaarten om zelf te printen. Feit of fabel? Oplossing en uitleg krijg je via een QR-code op je telefoon.
Bronnen bij Hoofdstuk 7
- Weber-Wulff, D. et al.: „Testing of detection tools for AI-generated text”. International Journal for Educational Integrity 19, Nr. 26, 2023. https://doi.org/10.1007/s40979-023-00146-z 14 detectieprogramma’s getest; resultaat: noch nauwkeurig, noch betrouwbaar.↑
- Liang, W. et al.: „GPT detectors are biased against non-native English writers”. Patterns 4(7), 2023. https://doi.org/10.1016/j.patter.2023.100779 Schoolopstellen (o.a. TOEFL-essays) werden vaak als AI aangemerkt, vooral vanwege eenvoudige, goed voorspelbare woordkeuze.↑
- Tripadvisor: „Review Transparency Report 2023”, persbericht van 11-04-2023. https://tripadvisor.mediaroom.com/2023-04-11-Tripadvisor-report-reveals-strong-growth-in-review-submissions-and-improvement-in-fraud-detection-rates 4,4% van de in 2022 ingediende recensies (ruim 1,3 mln.) als nep aangemerkt, 72% daarvan vóór publicatie onderschept.↑
- Department for Business and Trade (UK): „Investigating the prevalence and impact of fake reviews”, 25-04-2023. https://www.gov.uk/government/publications/investigating-the-prevalence-and-impact-of-fake-reviews 11–15% in de categorieën consumentenelektronica, huis en keuken, en sport en outdoor.↑
- Geen openbare primaire bron (de Fakespot-analyse is niet gepubliceerd). Secundaire bron: Lee, I.: „Amazon fake reviews reach holiday season levels during pandemic”. Bloomberg News, 19-10-2020, overgenomen door Tech Xplore. https://techxplore.com/news/2020-10-amazon-fake-holiday-season-pandemic.html Zo’n 42% van 720 mln. gecontroleerde Amazon-recensies (maart tot september 2020) als „unreliable” aangemerkt.↑
- Richtlinie (EU) 2019/2161 vom 27.11.2019 zur besseren Durchsetzung und Modernisierung der Verbraucherschutzvorschriften der Union („Omnibus-Richtlinie”), ABl. L 328 vom 18.12.2019. https://eur-lex.europa.eu/eli/dir/2019/2161/oj In Duitsland omgezet door het Gesetz zur Stärkung des Verbraucherschutzes im Wettbewerbs- und Gewerberecht van 10-08-2021 (BGBl. I p. 3504), van kracht sinds 28-05-2022.↑
- UWG, Anhang zu § 3 Abs. 3, Nr. 23b und 23c. https://www.gesetze-im-internet.de/uwg_2004/anhang.html Nr. 23c verbiedt de „Übermittlung oder Beauftragung gefälschter Bewertungen” (het plaatsen of laten plaatsen van valse recensies) ter bevordering van de verkoop.↑
- UWG, § 5b Abs. 3. https://www.gesetze-im-internet.de/uwg_2004/__5b.html↑
- Europese Commissie: persbericht IP/22/394, 20-01-2022. https://ec.europa.eu/commission/presscorner/detail/en/ip_22_394 Resultaten van de EU-brede controleactie („sweep”) naar online recensies: 223 websites, bij 144 echtheid onvoldoende gewaarborgd.↑
- Bolukbasi, T. et al.: „Man is to Computer Programmer as Woman is to Homemaker? Debiasing Word Embeddings”. NeurIPS 29, 2016. https://arxiv.org/abs/1607.06520 Toont genderclichés in woordvectoren die uit teksten zijn geleerd.↑
- Sohl-Dickstein, J. et al.: „Deep Unsupervised Learning using Nonequilibrium Thermodynamics”. ICML 2015. https://arxiv.org/abs/1503.03585 Eerste beschrijving van diffusiemodellen. De doorbraak voor beelden: Ho, J.; Jain, A.; Abbeel, P.: „Denoising Diffusion Probabilistic Models”. NeurIPS 33, 2020. https://arxiv.org/abs/2006.11239↑
- Wang, C. et al.: „Neural Codec Language Models are Zero-Shot Text to Speech Synthesizers” (VALL-E). arXiv, 2023. https://arxiv.org/abs/2301.02111 Bootst een stem na op basis van drie seconden opname.↑
- Shumailov, I. et al.: „AI models collapse when trained on recursively generated data”. Nature 631, 2024. https://doi.org/10.1038/s41586-024-07566-y↑
- McGesund: „Unsere Mission – Erkenntnis muss überprüfbar sein”. https://mcgesund.de/unsere-mission Recensies blijven anoniem, maar dragen een cryptografische handtekening en zijn geogeverifieerd, zodat iedereen ze onafhankelijk kan controleren.↑
Alle hoofdstukken
Gratis pdf
KevIn trekt in: het hele boek als pdf
393 pagina’s techkennis in romanvorm
Het boek bij de missie van McGesund: gezondheid, echte recensies, kunstmatige intelligentie, versleuteling, kwantumcomputers en ruimtevaart. KevIn legt uit hoe alles samenhangt. Alle 25 hoofdstukken met strips in kleur, gratis voor iedereen die zich aanmeldt voor de nieuwsbrief van McGesund.
Met uw aanmelding schrijft u zich in voor de nieuwsbrief van McGesund. U kunt zich op elk moment met één klik afmelden; de pdf mag u houden. Meer informatie in de privacyverklaring.

