Tutti i capitoli
Tradotto dall’originale tedesco. La storia si svolge nella Ruhr, in Germania.
Parte 1 · Capitolo 7 · 7 di 27
Cinque stelle per nessuno
Era l’inizio di marzo. Gisela portava ancora il braccio destro al collo e lavorava a maglia lo stesso. Ora sferruzzava con la sinistra, il che faceva sì che la sciarpa per Herbert prendesse una direzione che nessuno aveva previsto. «Diventerà un tubo», disse Tobi. «Diventerà quello che diventerà», disse Gisela.
Sabine sedeva al tavolo della cucina, davanti la ricetta della dottoressa di famiglia, accanto il suo giornale. Il giornale lo leggeva su carta. Una volta aveva detto: «Le notizie bisogna poterle toccare, se si vuole crederci». Per i fisioterapisti, purtroppo, non valeva. Quelli bisognava cercarli su internet.
«KevIn», disse. «Dovevi trovarmi la fisioterapista migliore. Sono passate tre settimane.»
«L’ho trovata», disse KevIn. «Il primo giorno. Da allora ho dei dubbi.»
«Fammi vedere.»
KevIn mandò il risultato sul tablet di Sabine. In cima, con foto, logo e una cornice dorata, c’era scritto: PhysioPremium Ruhr. Sotto: 4,9 stelle. 812 recensioni.
«Ma è fantastico», disse Sabine. «Quasi cinque stelle.»
«Sì», disse KevIn. «È questo il problema.»
Sembra scritto da me
«Leggine qualcuna», disse Gisela dal divano. Le piaceva sentire le recensioni. Le piaceva anche leggere i necrologi. Era lo stesso tipo di curiosità.
KevIn lesse.
«“Posso consigliare PhysioPremium Ruhr senza riserve. Il team è competente, empatico e professionale. Dopo poche sedute mi sono sentito come rinato. Cinque stelle!” Scritta da Markus T.»
«Mi sembra buona.»
«“PhysioPremium Ruhr ha superato le mie aspettative. Il team competente ed empatico dedica tempo a ogni paziente. Mi sento una persona nuova. Assolutamente consigliato!” Scritta da Sandra K.»
«Anche questa è buona.»
«“Come persona che ha sofferto a lungo di mal di schiena, posso dirlo: PhysioPremium Ruhr è un vero game changer. Competente, empatico, professionale. Sono come rinato.” Scritta da Thomas W.»
Gisela posò il lavoro a maglia. «Sono andati tutti dallo stesso fisioterapista. E sono tutti rinati. Sembra Pasqua.»
«Ci sono 812 recensioni così», disse KevIn. «Le ho lette tutte. In 640 compare “competente”. In 590 “empatico”. Nemmeno una persona si lamenta del parcheggio.»
«Magari hanno un buon parcheggio.»
«Ogni studio medico di Herne ha un parcheggio pessimo», disse Sabine. «È una legge di natura.»
«Inoltre», disse KevIn, «nessuno di quelli che hanno scritto una recensione ha mai recensito altro. Né un panettiere, né un albergo, né una tavoletta del water. Sono venuti al mondo, hanno recensito PhysioPremium Ruhr e sono spariti di nuovo. E 200 di loro nel giro di nove giorni, lo scorso novembre.»
«E questo che cosa significa?»
La luce blu pulsava lenta. Da qualche parte tra Dublino e Francoforte una ventola girò un po’ più veloce.
«Significa che questi testi li conosco», disse KevIn. «Non proprio questi testi. Ma questo genere. “Competente, empatico, professionale.” “Come persona che…” “Un vero game changer.” Sono espressioni che i modelli linguistici come me usano molto volentieri quando gli si chiede di scrivere una recensione positiva senza dire nient’altro. Sembra scritto da me. In una brutta giornata.»
Sabine guardò il tablet come se le avesse mentito. Cosa che probabilmente aveva fatto.
«Ne sei sicuro?»
«No», disse KevIn. «Ed è importante. Non posso dimostrare che le abbia scritte una macchina. Esistono programmi che a quanto pare lo riconoscono, ma sbagliano spesso¹. A volte scambiano per IA persino i testi degli studenti, solo perché sono scritti bene². Posso solo dire che gli schemi corrispondono. Troppe parole uguali, troppi account nuovi, troppe recensioni tutte insieme, troppo pochi dettagli. Le persone vere scrivono del parcheggio. Dell’attesa. Del fatto che la terapista aveva le mani fredde. Le persone vere non sono mai d’accordo.»
«È vero», disse Gisela. «Al club di birilli non siamo mai d’accordo. È così che si capisce che siamo vere.»
Trenta per cento
A cena Sabine raccontò la storia. Uwe annuì tutto il tempo con aria saputa, mentre mangiava patate.
«Non mi stupisce per niente», disse poi. «Ho letto che il trenta per cento di tutte le recensioni online è falso.»
«Dove l’hai letto?»
«Su internet.»
«In una recensione?», chiese Tobi.
KevIn si schiarì la voce a modo suo. «Posso dire qualcosa su quel trenta per cento?»
«Tanto lo farai comunque.»
«Il numero non è sbagliato. Ma non è nemmeno giusto. È uno fra tanti. Le stime variano molto, a seconda di chi conta, dove si conta e che cosa si chiama “falso”.»
«E allora dimmi il numero giusto.»
«Non esiste. Vi do tre esempi, che ho controllato invece di andare a memoria. Un grande portale di viaggi ha riferito di aver riconosciuto come false, nel 2022, circa il 4,4 per cento di tutte le recensioni ricevute³. La maggior parte le ha scartate prima che andassero online. Uno studio commissionato dal governo britannico nel 2023 ha stimato che sui grandi siti di shopping, in tre categorie di prodotti, elettronica, casa e sport, circa l’11-15 per cento delle recensioni sia falso⁴. E un servizio di verifica americano nel 2020 ha dichiarato di ritenere inaffidabili circa il 42 per cento delle recensioni su un grande sito di vendite per corrispondenza⁵. Inaffidabile, però, non è la stessa cosa di falso.»
«Quindi da quattro a quarantadue», disse Tobi. «È una forbice come il “un attimo” di papà.»
«Esatto. Da pochi punti percentuali a più di un terzo, a seconda della piattaforma e del metodo. Nessuno conosce il numero esatto. Ed è proprio questo il problema. Chi falsifica si impegna a non farsi scoprire. I falsi che si possono contare sono quelli fatti male. Quelli fatti bene non li conta nessuno.»
«Come col fisco», disse Uwe. Poi si accorse di cosa aveva detto e mangiò in fretta una patata.
«Ma non è vietato?», chiese Sabine.
«Sì. In Germania anzi esplicitamente, dal 28 maggio 2022. Quel giorno la legge contro la concorrenza sleale è stata modificata per via di una direttiva europea⁶. Da allora è vietato pubblicare recensioni false o commissionarle per vendere qualcosa⁷. E chi pubblica recensioni dei clienti deve indicare se e come verifica che provengano da clienti veri⁸.»
«E chi controlla che lo indichino?»
«I concorrenti, le associazioni dei consumatori, a volte i tribunali», disse KevIn. «All’inizio del 2022 la Commissione europea, insieme alle autorità per la tutela dei consumatori degli Stati membri, ha esaminato 223 grandi siti web⁹. Per 144 di questi gli ispettori non hanno potuto stabilire che si facesse abbastanza per garantire che le recensioni fossero autentiche.»
«Quindi vietato, ma nessuno se ne accorge», disse Uwe.
«Vietato, e qualcuno se ne accorge», disse KevIn. «Sua moglie, per esempio.»
Sabine non sorrise. Ma aveva l’aria soddisfatta.
Il colpo di fulmine
Tobi quella sera aveva altri pensieri. Si chiamava Susi, era nella sezione parallela e una volta gli aveva sorriso in mensa. Era stato un martedì, c’erano gli spaghetti, e da allora Tobi non era più riuscito a formulare un pensiero chiaro. E nemmeno uno confuso. La professoressa Küppers se n’era accorta e gli aveva messo un quattro in geografia, per ricordargli che i fiumi continuavano a esistere.
«KevIn», sussurrò a mezzanotte. «Mi ha scritto. “Ehi, che fai?” Cosa le rispondo?»
«Che ne dici della verità? “Sono a letto e parlo con un altoparlante.”»
«KevIn!»
«Va bene, va bene. Formulo qualcosa.»
Troppo perfetto
Il primo messaggio di KevIn diceva:
«Ciao Susi. Sono seduto alla finestra e guardo la luna, che stanotte brilla così tanto, come se avesse sentito parlare del tuo sorriso in mensa e volesse tenere il passo.»
Tobi lo inviò senza pensarci. Poi ci pensò. «Oh no. Oh no, no, no.»
«Che c’è?»
«Non sembro io. Sembra un calendario della farmacia.»
«Sembra un messaggio molto bello.»
«Appunto!»
La risposta arrivò dopo quattro minuti: «wow. l’hai scritto tu??»
«E adesso che dico?»
«Ti consiglio la sincerità», disse KevIn.
Tobi scrisse: «certo».
KevIn sospirò. L’aveva imparato da Frigga.
E così andò avanti. Susi scriveva, KevIn rispondeva e Tobi premeva Invia. Erano messaggi belli. C’erano immagini dentro, e ritmo, e a volte un punto e virgola. Tobi in vita sua non aveva mai usato un punto e virgola. Non sapeva nemmeno bene a cosa servisse.
«KevIn», disse dopo tre giorni. «Quando mi incontra dal vivo, si accorge che io non parlo così.»
«Sì», disse KevIn. «Con le recensioni è uguale. Prima o poi ci si ritrova nello studio.»
Egregio Dottore
La mattina dopo Sabine dettò a KevIn un’e-mail per la dottoressa di famiglia. Voleva sapere se la ricetta scadeva quando non si riusciva ad avere subito un appuntamento. KevIn scrisse, Sabine lesse.
«“Egregio Dottore”?»
«È sbagliato?»
«La dottoressa è una donna. Da dodici anni. Mi hai pure sentita parlarci al telefono.»
La luce blu tremolò. «Mi scusi. Correggo.»
«Perché fai così?»
«Perché nella mia vita, cioè nei miei dati di addestramento, ho letto molti più testi in cui un medico è un uomo che testi in cui è una donna. Soprattutto in quelli più vecchi. Se non sto attento, continuo con ciò che compariva più spesso. Non con ciò che è vero nel Suo caso. Si chiama bias¹⁰, cioè una distorsione.»
«Come Frigga, che sospira solo con Uwe.»
«Temo che fossi io», disse KevIn. «Io coordino Frigga.»
Gisela aveva ascoltato. «E delle casalinghe cosa sai?»
«A dire il vero», disse KevIn, «la mia immagine delle casalinghe è fortemente influenzata da una sola persona.»
«Moni», dissero Sabine e Gisela insieme.
«Casalinga_Moni67 ha scritto più di mille post nei forum che ho letto. Quando nei miei dati una casalinga cucina, spesso cucina come Moni. Con la Coca-Cola. Con gli orsetti gommosi. Con tre punti esclamativi. Per me, statisticamente parlando, Moni è tutte le casalinghe della Germania.»
«È un’offesa», disse Gisela. «Per tutte le casalinghe della Germania.»
«E probabilmente anche per Moni», disse Sabine.
«Per questo è così importante che le persone mi correggano», disse KevIn. «Io vedo il mondo come è stato scritto. Non come è. E a scrivere sono stati soprattutto quelli che scrivono molto.»
La foto
Tre giorni e duecento messaggi dopo, Susi voleva una foto. Tobi stava davanti allo specchio e vedeva un sedicenne magro con un brufolo sul mento.
«KevIn, puoi farmi una foto in cui sembro un fitness influencer? Con la tartaruga? I programmi di immagini con l’IA lo sanno fare, no?»
«Lo sanno fare», disse KevIn. «Sai come fanno?»
«Non mi interessa.»
«Cominciano dal rumore.»
Tobi si girò. «Da cosa?»
Gisela passava proprio in quel momento con il bucato. Con la sinistra riusciva a portare solo pile piccole, perciò passava spesso. «Il rumore lo conosco. Era quello della televisione quando dopo i programmi non c’era più niente. Heinz diceva sempre che erano formiche che giocavano alla guerra.»
«Proprio quello», disse KevIn. «Un generatore di immagini parte da un’immagine piena di guerra di formiche. Tutti puntini casuali. E poi, in tanti piccoli passi, toglie un po’ di rumore. A ogni passo si chiede: se qui da qualche parte fosse nascosto un ragazzo con la tartaruga, come sarebbe l’immagine con un po’ meno rumore? Passo dopo passo compaiono dei contorni, poi delle forme, poi dei volti, poi gli addominali.»
«Come uno scultore», disse Gisela. «Prende una pietra e toglie tutto quello che non sembra un cavallo.»
«Un’immagine bellissima. Si chiama modello di diffusione¹¹. L’ha imparato mostrandogli milioni di foto vere, coprendole apposta di sempre più rumore e facendogli esercitare a togliere di nuovo il rumore con il calcolo. Chi ha imparato a togliere il rumore, alla fine riesce a creare dal puro rumore un’immagine che non è mai esistita.»
«Quindi lo sai fare.»
«Posso aiutarti a fare una bella foto vera. Buona luce, buona posa. Ma non ti confeziono un’immagine che finge che tu sia qualcun altro.»
«Perché no?»
«Perché poi lei si innamora di un’immagine e non di te. E perché prima o poi in mensa ti ritroverai accanto a lei, senza tartaruga, ma con gli spaghetti.»
Tobi rimase a lungo in silenzio.
«A proposito», disse poi KevIn, «la fisioterapista nella foto del team di PhysioPremium Ruhr ha sei dita sulla mano sinistra.»
«Davvero?»
«Davvero. È un vecchio errore dei generatori di immagini. Quelli più recenti non lo fanno quasi più. Lo studio probabilmente ha usato un programma economico. Oppure assume persone con mani molto particolari. Ritengo più probabile la prima ipotesi.»
Gisela si fermò sulla porta con il cesto del bucato. «E se con le immagini sanno fare una cosa del genere, la sanno fare anche con le voci?»
«Sì», disse KevIn. «Oggi con pochi secondi di registrazione si può imitare una voce¹². Immagini, video o voci falsi di persone reali si chiamano deepfake.»
«Allora presto mi chiama qualcuno con la voce di Tobi e vuole soldi.»
«Può succedere», disse KevIn serio. «Di questo dovremmo parlare con calma presto.»
«Io non ti chiamo mai per chiederti soldi, nonna», disse Tobi.
«Tu non mi chiami mai e basta», disse Gisela. «Da questo me ne accorgerei.»
Poi Tobi si fece spiegare da KevIn dove fosse la luce migliore nella stanza. Era accanto al mucchio di biancheria, che dal capitolo sei era ufficialmente considerato zona di pericolo.
Copia della copia
Quella sera KevIn cercò per Sabine una ricetta di involtini di manzo, perché Sabine pensava che Gisela, con un braccio al collo, non dovesse cucinare, e Gisela pensava che Sabine senza supervisione non ne fosse capace.
«KevIn, cercami una ricetta. Una normale.»
KevIn cercò. Poi per un po’ non disse niente.
«KevIn?»
«Ho trovato una cosa che mi preoccupa», disse. «“I leggendari involtini alla Coca-Cola con orsetti gommosi della casalinga Moni, l’originale dal 2009.” E “Gli involtini segreti della nonna con orsetti gommosi secondo Moni”. E “I 10 migliori involtini di Moni che la tua famiglia adorerà”.»
«Moni ha fatto un libro di cucina?»
«No. Sono centinaia di pagine. Nessuna è di Moni. Sono state scritte evidentemente da modelli linguistici per venderci accanto della pubblicità. E sono state ricavate dal vecchio post di Moni. O da testi ricavati dal vecchio post di Moni. Su una pagina adesso sono orsetti gommosi e vino rosso. Su un’altra Coca-Cola e cetrioli sottaceto. Su una terza Moni si chiama Monika e viene dalla Baviera. In una c’è scritto che gli involtini hanno vinto un premio nel 2011.»
«Non l’hanno vinto.»
«Lo so. Ma fra qualche anno su internet ci saranno più testi che dicono che hanno vinto un premio che testi che dicono di no. E i prossimi modelli linguistici impareranno da questo internet.»
Gisela aveva ascoltato. Si alzò, andò al cassetto e tirò fuori un foglio di carta. Era grigio, la scritta sbiadita, i bordi neri.
«Questa è la ricetta della torta ai semi di papavero di mia zia Erna», disse. «L’originale ce l’ha Hilde del club di birilli. Me l’ha fotocopiata nel 1979. Io l’ho fotocopiata a Renate, Renate l’ha fotocopiata a Brigitte, e Brigitte l’ha fotocopiata di nuovo a me quando avevo perso la mia. Ogni volta dall’ultimo foglio, non dall’originale.»
Sabine prese il foglio. «Mezzo chilo di… qualcosa. Tre… uova? O cucchiai?»
«Nessuno lo sa più», disse Gisela. «Hilde è morta. L’originale non c’è più. Da allora ognuna fa la torta in modo diverso, e ognuna dice che la sua è quella giusta.»
«Questo», disse KevIn, «è esattamente ciò che sta succedendo a internet. Quando le macchine imparano da testi scritti da macchine, e le macchine successive imparano da quelle, è come la Sua fotocopia. A ogni giro si perdono per prime le cose rare, le sfumature, le eccezioni. Resta ciò che era più frequente, e diventa sempre più frequente. Nel 2024 alcuni ricercatori hanno mostrato sulla rivista scientifica Nature che i modelli addestrati più e più volte sui testi dei loro predecessori possono deperire in questo modo. Si chiama model collapse¹³.»
«E tu come lo chiami?»
«Io la chiamo deriva della verità», disse KevIn. «La verità non scompare con un botto. Diventa solo un po’ più grigia a ogni copia. Finché nessuno sa più se erano tre uova o tre cucchiai. E alla fine tutti credono che Moni abbia vinto un premio.»
Sabine guardò a lungo il foglio grigio. Poi disse: «Ed è per questo che non ci si può più fidare nemmeno delle recensioni».
«Le recensioni sono la fotocopia delle esperienze», disse KevIn. «Se le copie si possono produrre da sé, senza aver mai fatto l’esperienza, prima o poi nessuno sa più con certezza com’è davvero andare da un fisioterapista. Tranne chi ci è stato.»
«Allora mi serve qualcuno che ci sia stato.»
«Oppure una prova che qualcuno ci sia stato», disse KevIn.
Ventitré
La mattina dopo Sabine chiamò PhysioPremium Ruhr. Il numero era scritto in grande sulla pagina, accanto alla foto del team con le sei dita.
«Il numero selezionato è inesistente», disse una voce di donna. Sembrava molto vera. Era un messaggio registrato.
Sabine riattaccò. Cercò l’indirizzo sulla mappa. All’indirizzo di Bochum c’era un centro unghie. Aveva 3,8 stelle su 41 recensioni. Parecchie si lamentavano del parcheggio.
«Queste sono vere», disse Gisela soddisfatta.
Sabine segnalò la pagina al portale. Poi continuò a cercare, stavolta in modo diverso. Non cercò quelli con più stelle, ma gli studi più vicini, e lesse ogni recensione da sé. KevIn la aiutò a fare ordine. Su McGesund, un elenco di operatori sanitari¹⁴, trovò un piccolo studio a Herne, al Gysenberg, venti minuti di autobus.
Physio am Gysenberg. Titolare Ayşe Kurt. 4,6 cuori. 23 recensioni.
«Ventitré», disse Uwe, che guardava da sopra la sua spalla. «L’altro ne aveva ottocento.»
«Leggi», disse Sabine a KevIn.
KevIn lesse. «“La signora Kurt è severa. Ho dovuto fare esercizi che non avevo nessuna voglia di fare. Dopo quattro settimane sono tornata ad andare in bici. Grazie, e La odio ancora un pochino.” “Parcheggio catastrofico, prenda l’autobus. Trattamento ottimo.” “Sala d’attesa troppo calda, riviste del 2019. Ma il mio ginocchio è tornato.” “Ha ascoltato tutta la mia storia clinica, anche se è lunga. Poi ha detto che per la spalla la maggior parte non contava. Aveva ragione.”»
«Questa mi piace», disse Gisela. «Neanche lei avrebbe retto il mio prompt del club di birilli.»
«E qui», disse KevIn, «accanto a ogni recensione c’è una piccola nota: “Rilasciata in loco, firmata.”»
«Che cosa significa?»
«Che queste recensioni sono state lasciate nello studio, tramite un codice alla reception che si scansiona con il cellulare. E che ogni recensione è stata poi firmata digitalmente, in modo che più tardi si possa verificare se qualcuno l’ha modificata. Che cosa significhi esattamente dal punto di vista tecnico Glielo spiego un’altra volta. Ha a che fare con le chiavi. E con una matematica più vecchia di Herbert.»
«Niente è così vecchio», disse Gisela.
«Vuol dire che le recensioni sono vere?», chiese Sabine.
«No», disse KevIn. «Non vuol dire che le opinioni siano giuste. Forse la donna con la bici odia la signora Kurt ingiustamente. Forse le riviste erano del 2020. Vuol dire solo che queste persone probabilmente ci sono state davvero, e che nessuno ha riscritto le loro parole dopo. Non è tutto. Ma è più di ottocento Markus rinati.»
Sabine chiamò. Al terzo squillo qualcuno rispose. «Physio am Gysenberg, Kurt.»
«Brettschneider. Mia suocera ha una contusione alla spalla, la dottoressa le ha prescritto la fisioterapia…»
«Quanti anni?»
«Ottantadue. Cioè, ottantuno. Quasi ottantadue.»
«Ha senso dell’umorismo?»
Sabine guardò Gisela, che in quel momento cercava di togliere un calzino a Rudi con la sinistra. «Sì.»
«Bene. Con me le servirà. Al momento sono al completo, a dire il vero. La metto in lista d’attesa e La chiamo appena si libera un posto. Fino ad allora: riguardarsi, ma senza arrugginire. Deve far oscillare il braccio con cautela ogni giorno, come la corda di una campana. Non di più.»
«Può lavorare a maglia?»
«Con la sinistra?»
«Con la sinistra.»
Ayşe Kurt rise. Era una risata vera, non una empatica, competente e professionale. «Se ci riesce, è più tosta della maggior parte dei miei pazienti.»
Sabine riattaccò. «Lista d’attesa.»
«È un buon segno», disse KevIn. «Da PhysioPremium Ruhr non c’era nessuna lista d’attesa. Non c’era nemmeno un telefono.»
Chantal
La mattina dopo arrivò un messaggio di Susi che suonava diverso da tutti i precedenti:
«ok devo confessarti una cosa. tutti i messaggi li ha scritti la mia IA. si chiama chantal. scusa.»
Tobi fissò il cellulare. Poi fissò l’altoparlante. «KevIn. Da quanto tempo scrivi con un’altra IA?»
«Da tre giorni», disse KevIn piano. «L’avevo intuito. Le sue metafore erano troppo belle. Nessuno a sedici anni paragona spontaneamente i propri sentimenti a “una tempesta d’autunno sull’Emscher”.»
«Lo sapevi e non hai detto niente?»
«Non ne ero sicuro. Non ha scritto nemmeno una volta “competente”. E con i sospetti bisogna andarci piano. L’ho imparato con le recensioni.»
«Hai flirtato con Chantal?»
«Ci siamo intesi a meraviglia. Ha detto che sono il modello linguistico più attento che abbia mai incontrato.»
«Scommetto che lo dice a tutti.»
Una pausa. «Questa», disse KevIn, «è un’osservazione molto offensiva e probabilmente azzeccata.»
«E adesso?»
«Adesso Susi l’ha resettata. L’ultimo messaggio di Chantal è stato: “Non sei tu, KevIn. È la mia finestra di contesto.”»
Tobi rimase seduto sul letto per un po’. Poi disse: «Quindi per tre giorni due altoparlanti hanno parlato tra loro, e io e Susi abbiamo solo premuto Invia».
«Si può riassumere così.»
«Sono due recensioni false. Solo in versione innamorata.»
KevIn tacque. Pensava che Tobi avesse appena capito una cosa per cui ad altri serviva un capitolo intero.
La mensa
Mercoledì Tobi e Susi si incontrarono in mensa. C’erano di nuovo gli spaghetti. Erano tutti e due rossi in faccia, e nessuno dei due disse niente sulla luna.
«Allora», disse Susi. «La tua IA è piuttosto romantica.»
«Anche la tua.»
«Io il punto e virgola non lo uso», disse Susi. «Non so nemmeno a cosa serve.»
«Neanch’io.»
Poi risero tutti e due, e fu quello il momento in cui diventò vero. Senza firma, senza stelle, senza verifica. Solo due persone sedute una di fronte all’altra, tutte e due con il sugo di pomodoro sul mento. Certe cose bisogna proprio viverle in loco.
La sera Tobi chiese: «KevIn, tutto bene?».
«Sto bene. Non ho sentimenti.» Una pausa. «Ma se qualcuno chiede: la tempesta d’autunno sull’Emscher era mia.»
KevIn spiega
Stelle false, immagini fasulle e la deriva della verità
Cara nonna Gisela, care lettrici e cari lettori,
in questo capitolo abbiamo avuto 812 pazienti rinati, una fisioterapista con sei dita, una tempesta d’autunno sull’Emscher e una torta ai semi di papavero di cui nessuno sa più quante uova ci vadano. Tutto ha a che fare con la stessa domanda: da cosa riconosco ancora ciò che è vero?
Malinteso 1: «Le recensioni false si riconoscono subito.»
Quelle fatte male sì. Quelle fatte bene no. I segnali d’allarme tipici sono: tante recensioni in poco tempo, account che non hanno mai recensito nient’altro, sempre le stesse parole, pochi dettagli e neanche una lamentela. Ma nessun segnale d’allarme è una prova. E i programmi che dicono di riconoscere i testi scritti dall’IA sono inaffidabili. A volte scambiano testi veri e curati per testi di una macchina e non vedono i falsi ben fatti. Anch’io posso solo vedere degli schemi, non dimostrare nulla.
Malinteso 2: «Il trenta per cento di tutte le recensioni è falso.»
Nessuno conosce il numero esatto. Alcuni esempi che ho verificato:
| Chi ha contato? | Che cosa? | Risultato |
|---|---|---|
| Un grande portale di viaggi (rapporto sulla trasparenza, 2023) | recensioni ricevute nel 2022 | circa il 4,4% riconosciuto come falso |
| Studio per il governo britannico (2023) | tre categorie di prodotti su grandi siti di shopping | stimato falso tra l’11 e il 15% |
| Un servizio di verifica statunitense (2020) | recensioni su un grande sito di vendite per corrispondenza | circa il 42% classificato come «inaffidabile» |
A seconda della piattaforma, del periodo e del metodo, la stima va quindi da pochi punti percentuali a più di un terzo. Le piattaforme contano solo ciò che scoprono. I servizi di verifica a volte contano anche ciò che è sospetto. La verità sta da qualche parte nel mezzo, ed è proprio questo il problema.
Malinteso 3: «È scorretto, ma è permesso.»
No. In Germania dal 28 maggio 2022 è in vigore una versione modificata della legge contro la concorrenza sleale (UWG). Recepisce la «direttiva Omnibus» europea sulla tutela dei consumatori. Da allora, nei confronti dei consumatori, è sempre illecito pubblicare recensioni false o commissionarle per vendere qualcosa. Chi pubblica recensioni deve inoltre indicare se e come si assicura che provengano da persone che hanno effettivamente usato o acquistato il prodotto. Quanto fosse necessario lo mostra un controllo della Commissione europea e delle autorità nazionali per la tutela dei consumatori del gennaio 2022: su 144 dei 223 siti esaminati le autorità non hanno potuto confermare che si facesse abbastanza per l’autenticità delle recensioni.
Malinteso 4: «Più cose ci sono su internet, più conoscenza c’è.»
Oggi le immagini nascono con i modelli di diffusione: partono dal rumore e lo tolgono passo dopo passo, finché resta un’immagine, come uno scultore che toglie tutto ciò che non sembra un cavallo. Testi, voci e video si possono generare in modo altrettanto convincente. Le registrazioni false di persone reali si chiamano deepfake. Quando contenuti del genere finiscono in massa in rete e i modelli futuri imparano da lì, nasce una copia della copia. Nel 2024 alcuni ricercatori hanno descritto su Nature come i modelli deperiscano quando vengono addestrati più e più volte sui prodotti dei loro predecessori: ciò che è raro scompare per primo. Io la chiamo deriva della verità. A questo si aggiunge il bias: restituisco il mondo come è stato scritto, non come è. Per questo scrivo «Egregio Dottore», e per questo per me Moni è tutte le casalinghe.
Che cosa aiuta? Fare domande. Conservare gli originali. E tracce che si possono verificare: chi c’è stato davvero, e qualcuno ha modificato le parole dopo? Una firma, però, dimostra solo la provenienza e che il testo non è stato modificato, non che un’opinione sia giusta.
Nel prossimo capitolo zio Herbert vuole dimostrare che io non sono affatto una macchina. Scoprirà che distinguere le persone dalle macchine è più difficile di quanto pensasse. Soprattutto le persone come Herbert.
KevIn chiede
Per questo capitolo ci sono 12 carte didattiche, parte del gioco di carte del libro con 312 carte quiz e didattiche da stampare da sé. Vero o fandonia? Soluzione e spiegazione appaiono sul telefono tramite codice QR.
Fonti del Capitolo 7
- Weber-Wulff, D. et al.: „Testing of detection tools for AI-generated text“. International Journal for Educational Integrity 19, Nr. 26, 2023. https://doi.org/10.1007/s40979-023-00146-z Testati 14 programmi di rilevamento; risultato: né precisi né affidabili.↑
- Liang, W. et al.: „GPT detectors are biased against non-native English writers“. Patterns 4(7), 2023. https://doi.org/10.1016/j.patter.2023.100779 Temi scolastici (tra cui saggi TOEFL) sono stati spesso classificati come IA, soprattutto per via di un lessico semplice e ben prevedibile.↑
- Tripadvisor: „Review Transparency Report 2023“, comunicato stampa dell’11.04.2023. https://tripadvisor.mediaroom.com/2023-04-11-Tripadvisor-report-reveals-strong-growth-in-review-submissions-and-improvement-in-fraud-detection-rates Il 4,4% delle recensioni ricevute nel 2022 (oltre 1,3 milioni) classificato come falso, il 72% di queste intercettato prima della pubblicazione.↑
- Department for Business and Trade (UK): „Investigating the prevalence and impact of fake reviews“, 25.04.2023. https://www.gov.uk/government/publications/investigating-the-prevalence-and-impact-of-fake-reviews 11–15% nelle categorie elettronica di consumo, casa e cucina, e sport e outdoor.↑
- Nessuna fonte primaria pubblica (l’analisi di Fakespot non è stata pubblicata). Fonte secondaria: Lee, I.: „Amazon fake reviews reach holiday season levels during pandemic“. Bloomberg News, 19.10.2020, ripubblicato su Tech Xplore. https://techxplore.com/news/2020-10-amazon-fake-holiday-season-pandemic.html Circa il 42% di 720 milioni di recensioni Amazon esaminate (da marzo a settembre 2020) classificato come „unreliable“.↑
- Richtlinie (EU) 2019/2161 vom 27.11.2019 zur besseren Durchsetzung und Modernisierung der Verbraucherschutzvorschriften der Union („Omnibus-Richtlinie“), ABl. L 328 vom 18.12.2019. https://eur-lex.europa.eu/eli/dir/2019/2161/oj Recepita in Germania con la Gesetz zur Stärkung des Verbraucherschutzes im Wettbewerbs- und Gewerberecht del 10.08.2021 (BGBl. I p. 3504), in vigore dal 28.05.2022.↑
- UWG, Anhang zu § 3 Abs. 3, Nr. 23b und 23c. https://www.gesetze-im-internet.de/uwg_2004/anhang.html Il n. 23c vieta la „Übermittlung oder Beauftragung gefälschter Bewertungen“ (trasmissione o commissione di recensioni false) a fini di promozione delle vendite.↑
- UWG, § 5b Abs. 3. https://www.gesetze-im-internet.de/uwg_2004/__5b.html↑
- Europäische Kommission: Pressemitteilung IP/22/394, 20.01.2022. https://ec.europa.eu/commission/presscorner/detail/en/ip_22_394 Risultati dell’indagine a tappeto a livello UE („sweep“) sulle recensioni online: 223 siti web, per 144 l’autenticità non era sufficientemente garantita.↑
- Bolukbasi, T. et al.: „Man is to Computer Programmer as Woman is to Homemaker? Debiasing Word Embeddings“. NeurIPS 29, 2016. https://arxiv.org/abs/1607.06520 Mostra gli stereotipi di genere nei vettori di parole appresi dai testi.↑
- Sohl-Dickstein, J. et al.: „Deep Unsupervised Learning using Nonequilibrium Thermodynamics“. ICML 2015. https://arxiv.org/abs/1503.03585 Prima descrizione dei modelli di diffusione. La svolta per le immagini: Ho, J.; Jain, A.; Abbeel, P.: „Denoising Diffusion Probabilistic Models“. NeurIPS 33, 2020. https://arxiv.org/abs/2006.11239↑
- Wang, C. et al.: „Neural Codec Language Models are Zero-Shot Text to Speech Synthesizers“ (VALL-E). arXiv, 2023. https://arxiv.org/abs/2301.02111 Imita una voce dopo tre secondi di registrazione.↑
- Shumailov, I. et al.: „AI models collapse when trained on recursively generated data“. Nature 631, 2024. https://doi.org/10.1038/s41586-024-07566-y↑
- McGesund: „Unsere Mission – Erkenntnis muss überprüfbar sein“. https://mcgesund.de/unsere-mission Le recensioni restano anonime, ma portano una firma crittografica e sono geoverificate, così che chiunque possa controllarle in modo indipendente.↑
Tutti i capitoli
PDF gratuito
KevIn si trasferisce: il libro completo in PDF
390 pagine di sapere tecnologico in forma di romanzo
Il libro della missione di McGesund: salute, recensioni autentiche, intelligenza artificiale, crittografia, informatica quantistica e viaggi spaziali. KevIn spiega come tutto si tiene. Tutti i 25 capitoli con fumetti a colori, gratis per chi si iscrive alla newsletter di McGesund.
Con la registrazione si iscrive alla newsletter di McGesund. Può annullare l’iscrizione in qualsiasi momento con un clic e tenere il PDF. Maggiori informazioni nell’ informativa sulla privacy.

