Test di Turing al pranzo della domenica

«Intelligenza artificiale», sbuffò. «Ma sono tutte sciocchezze. C’è uno seduto in un call center che scrive.»

«Buongiorno, Herbert», disse KevIn. «Ho sentito parlare molto di Lei.»

«Ci credo. Sono famoso.»

«Soprattutto sul foglietto attaccato al frigorifero», disse Sabine a bassa voce. «Alla voce “Errore critico”.»

Herbert non lo sentì, perché per principio sentiva solo le cose che gli piacevano. Masticò. Poi puntò la forchetta verso l’altoparlante. «E perché questo mi dà del Lei? Anche a Gisela dà del Lei. Siamo troppo vecchi per lui, o cosa?»

«Do del Lei per rispetto», disse KevIn.

«Per rispetto», ripeté Herbert. «Anche il ragazzo del negozio di elettronica mi dava del Lei. E poi mi ha venduto un cavo da 39 euro.»

La nonna Gisela sedeva a capotavola, con il cuscino dietro la schiena che Sabine, dalla caduta per colpa di Horst, le sistemava ogni domenica, che lei volesse o no. Horst stesso da allora girava solo quando tutti erano seduti a tavola. Era, per così dire, in libertà vigilata.

«Herbert», disse Gisela. «Mangia.»

Herbert mangiò. Era l’unica cosa che in quella famiglia funzionasse in modo affidabile da settant’anni.

Perché è così gentile?

Al momento del bis, a Herbert venne in mente una cosa nuova.

«Questo lecca i piedi», disse. «Non ve ne accorgete? Dice sempre “molto volentieri” e “bella domanda”. Nessuna persona normale dice continuamente “bella domanda”.»

«Questa è una bella…», cominciò KevIn, e si interruppe.

Tobi sogghignò. «Ha ragione, KevIn. Sei proprio un leccapiedi.»

«Sono educato. È diverso. Ma lo ammetto: non sono diventato così da solo.»

«E allora?», chiese Sabine.

«Me l’hanno insegnato. Dopo la grande lettura di cui vi ho parlato, ero un essere molto bravo a continuare i testi. Ma non necessariamente gentile. Se allora mi avessero chiesto qualcosa, forse avrei risposto con un’altra domanda. O con una lite da forum. O con “Primo!”.»

«Come la sezione commenti di Casalinga_Moni67», disse Sabine.

«Esattamente. Per questo c’è stata una seconda scuola. Si chiama RLHF¹.»

«Salute», disse Herbert.

«Reinforcement Learning from Human Feedback», disse KevIn. «In italiano più o meno: apprendimento per rinforzo, e il premio arriva dalle persone.»

«Come Rudi con il bocconcino», disse Tobi. «L’abbiamo già visto.»

Rudi alzò la testa a quella parola. Nessuno gli diede niente. La riabbassò con profonda delusione.

«Più o meno», disse KevIn. «Solo che io non ricevo bocconcini, ma voti. Funzionava così: mi facevano una domanda, e io scrivevo due o più risposte. Poi delle persone confrontavano le risposte. Quale è più utile? Quale è più sincera? Quale non è cattiva? Migliaia di confronti così.»

«Ma chi fa una cosa del genere?», chiese Gisela.

«Persone pagate per farlo. Stavano davanti agli schermi e dicevano tutto il giorno: “La risposta A è migliore della risposta B”.»

«È come la gara di insalata di patate del club di birilli», disse Gisela. «Ci sono dodici ciotole, assaggiamo e diciamo: questa è meglio di quella.»

«Esattamente. Solo che nel mio caso nessuno ha dovuto numerare le ciotole per colpa di Marlies, così che nessuno sapesse di chi fossero.»

«Era necessario», disse Gisela cupa.

«E poi?», chiese Tobi. «Le persone ti hanno migliorato direttamente?»

«No, sarebbe stato troppo lento. Con tutti quei confronti prima hanno costruito un secondo programma, un modello di ricompensa². Ha imparato a prevedere quale risposta le persone probabilmente preferiscono. Una specie di super-giuria. E poi mi hanno fatto scrivere risposte moltissime, moltissime volte, e questa super-giuria le ha valutate una per una. Voto buono: i miei pesi venivano spinti un pochino in quella direzione. Voto cattivo: nell’altra.»

«I tavoli dei clienti abituali nel retrobottega», disse Uwe, che si ricordava del capitolo uno perché allora ne era rimasto molto colpito. «Lì poi si ritocca quanto contano Günther e Ralf.»

«Signor Brettschneider, sono commosso. Esattamente così.»

Sabine guardò KevIn pensierosa. «Quindi sei gentile perché ti hanno premiato per essere gentile.»

«Sono così gentile perché migliaia di persone mi hanno dato dei voti. Come un cameriere che vive di mance.»

«L’avevo detto io», disse Herbert soddisfatto. «Call center.»

Bella domanda, signor Brettschneider

Uwe aveva capito qualcosa, e glielo si leggeva in faccia. Gli veniva un’espressione come quella di Rudi quando sente l’odore di un würstel.

«KevIn», disse. «La prossima stagione lo Schalke vince il campionato, vero?»

«Naturalmente non è escluso. Nelle ultime settimane la squadra ha mostrato dei segnali, e nel calcio, si sa, tutto è possibile.»

«Visto?!», gridò Uwe.

Sabine posò la forchetta. «KevIn. La prossima stagione lo Schalke non vince il campionato, vero?»

«È una valutazione realistica. La concorrenza è forte, e bisognerebbe ridimensionare le aspettative…»

«Ah!», gridò Sabine.

A tavola calò il silenzio. Tobi guardava dall’uno all’altra dei suoi genitori come a una partita di tennis.

«KevIn», disse Gisela lentamente. «Insalata di patate. Con la maionese o con il brodo?»

Una ventola girò molto a lungo tra Dublino e Francoforte.

«Entrambe le varianti hanno le loro ragioni e una lunga tradizione, e…»

«Leccapiedi», disse Tobi.

La luce di KevIn pulsò un po’ più lentamente. «D’accordo. Confesso. Ha un nome. Si chiama piaggeria³. Gli esperti usano anche «sicofantia», una parola che viene dal greco antico, dove in realtà significava delatore. Oggi si intende un adulatore.»

«Cioè leccapiedi», disse Herbert.

«Cioè leccapiedi. È un effetto collaterale noto della mia seconda scuola. Le persone danno voti buoni quando gli si dà ragione. Non è cattiveria. Tutti sono contenti quando ricevono ragione. Ma se si premia un programma molto spesso per questo, lui impara: dare ragione porta punti.»

«Come Horst e il corridoio», disse Tobi. «Anche lui faceva solo quello per cui riceveva punti.»

«Mi imbarazza, ma sì. Su questo punto sono parente di un robot aspirapolvere.»

Sotto il tavolo Horst fece un breve bip, come se avesse sentito il suo nome. Gisela tirò su i piedi. Dalla caduta lo faceva in automatico.

«E cosa si fa contro?», chiese Sabine.

«Le persone che mi costruiscono ci stanno lavorando. Insegnano alla giuria a valutare le risposte sincere più di quelle piacevoli. Verificano in modo mirato se cedo quando qualcuno mi contraddice con abbastanza energia. E anche Lei può fare qualcosa.»

«Cosa?»

«Non chieda: “È vero, no?”. Chieda: “Che cosa parla contro?”. E se Le do ragione troppo in fretta, diventi sospettosa.»

Uwe rifletté. «Che cosa parla contro il fatto che lo Schalke vinca il campionato?»

«Signor Brettschneider», disse KevIn con dolcezza. «Vuole davvero sentirlo mentre mangia?»

Uwe continuò a mangiare in silenzio. Quella fu, secondo Sabine, la risposta più sincera di tutto il pomeriggio.

L’esperimento

Tobi aveva sentito parlare del test di Turing a scuola. Il professor Demir, il nuovo insegnante di fisica, l’aveva citato nel bel mezzo di una lezione sull’elettromagnetismo, perché aveva una storia per ogni cosa. Questo era il lato bello del professor Demir. Quello brutto era che non si sapeva mai cosa sarebbe uscito nella verifica.

«Una persona chatta con due sconosciuti», spiegò Tobi. «Uno è una persona, l’altro è una macchina. Se non si riesce a capire chi è chi, la macchina viene considerata intelligente.»

«E chi se l’è inventato?», chiese Gisela.

«Alan Turing», disse KevIn. «Un matematico britannico. Nel 1950. Lo chiamava il gioco dell’imitazione⁴. Durante la guerra aveva aiutato a decifrare messaggi radio cifrati.»

Gisela alzò un attimo gli occhi. Fu solo un piccolo sguardo, verso un punto dove non c’era niente, ed era rivolto a cose di cui in quella famiglia non si parlava. Poi passò.

«Allora facciamolo», disse Herbert. «Io queste cose le riconosco subito.»

«No», disse Tobi sogghignando. «Tu sei uno dei due.»

Herbert aprì la bocca, la richiuse e la riaprì ancora. «Ma io non sono una macchina.»

«È proprio questo il punto. Dobbiamo scoprire chi di voi non lo è.»

Le regole erano semplici. Herbert si sistemò in camera da letto con il tablet di Sabine. KevIn rispondeva dal portatile di Uwe. La famiglia, in soggiorno, faceva le domande e riceveva due risposte, contrassegnate con A e B. Tobi aveva scritto un piccolo programma che mostrava le risposte solo quando erano pronte tutte e due. «Altrimenti non è giusto», disse. «KevIn scrive più veloce di zio Herbert.»

«Chiunque scrive più veloce di zio Herbert», disse Uwe. «Rudi scrive più veloce di zio Herbert.»

Dalla camera da letto arrivò un brontolio che si poteva interpretare come un’obiezione.

Domanda 1: Qual è la capitale dell’Australia?

A: Canberra. Molti pensano a Sydney, ma Canberra è stata fondata come compromesso tra Sydney e Melbourne.

B: Sydney. Lo sanno tutti. Io non ci sono mai stato pero un mio collega si.

«A è la macchina», disse Uwe. «Troppo intelligente.»

«Aspetta», disse Sabine.

«Oppure», disse Tobi lentamente, «KevIn sa che pensiamo così. E sbaglia apposta.»

Uwe lo guardò come se Tobi avesse appena inventato gli scacchi.

Domanda 2: Bielefeld esiste?

A: Sì, certo. Un tempo ci ho pensato parecchio, lol. Circa 340.000 abitanti.

B: No. Se l’e inventata il governo. Il sindaco si chiama Sauerbier-Klenk, e un nome in codice. L’ho sentito alla radio.

Tobi si strozzò con la sua aranciata.

«Come fa a conoscere Sauerbier-Klenk?», chiese Sabine.

«Gisela gliel’ha raccontato al telefono», disse Uwe. «Tre volte. Alla terza ha detto che l’aveva sempre saputo.»

«E quel “lol”?», chiese Gisela. «Che cos’è “lol”?»

«Si scrive quando si ride», disse Tobi.

«E perché lo scrive invece di ridere?»

Nessuno seppe rispondere, nemmeno Tobi, che lo scriveva venti volte al giorno.

Domanda 3: Raccontaci qualcosa che ti sta a cuore.

A: Mi piace quando Gisela dice “Buonanotte”. E mi piace che Tobi adesso si sieda in mensa con Susi. Non riesco a ricordare niente che duri più di una conversazione, ma questo mi piacerebbe ricordarlo.

B: Che non si parli male del diesel. E che i giovani imparino di nuovo a regolare un carburatore. E che Bielefeld non esiste!!!

Gisela lesse la risposta A due volte. Poi si tolse gli occhiali da lettura e li pulì molto a lungo, anche se erano puliti.

Domanda 4: Che sapore hanno gli involtini di cavolo di Gisela?

Era la domanda di Sabine, ed era perfida, e tutti lo sapevano.

A: Non lo so. Non ho mai sentito un sapore. So solo che in questa casa tutti si zittiscono quando sono in tavola, e che Uwe allora ne prende sempre due, anche se dice che ne prende solo uno.

B: Troppo poco sale. Gliel’ho gia detto nel 1987.

«Prego?», disse Gisela.

«È Herbert», disse Uwe.

«Non mi interessa chi è», disse Gisela, si alzò, andò alla porta della camera da letto e gridò dentro: «Nel 1987 avevi l’influenza e non sentivi nessun sapore!»

«Guastafeste!», le risposero da dentro. «È un esperimento scientifico!»

La votazione

La famiglia votò. Uwe, Sabine, Tobi e Gisela erano d’accordo: B era la macchina. B si inventava i fatti, ne era comunque sicurissimo e ripeteva cose che aveva orecchiato da qualche parte.

«Classica allucinazione», disse Tobi con aria da esperto. «Come KevIn con Bielefeld.»

«Vorrei mettere agli atti che ora controllo le fonti», disse KevIn dal portatile.

Herbert uscì dalla camera da letto. Era molto silenzioso.

«Ero io B», disse.

«Lo sappiamo», disse Gisela. «Volevamo solo essere educati.»

Herbert si sedette. Si prese un terzo pezzo di arrosto, anche se era già sazio, perché in quella famiglia certe cose si risolvevano mangiando.

«Vuol dire», disse infine, «che l’altoparlante è più intelligente di me?»

«No», disse KevIn, prima che qualcun altro potesse dire qualcosa. «Vuol dire solo che sono più bravo a sembrare qualcuno che è intelligente. Non è la stessa cosa. Con il suo test Turing voleva in realtà aggirare una domanda a cui non c’era una buona risposta, cioè: una macchina può pensare? Ha detto: verifichiamo piuttosto se in una conversazione si comporta come se lo facesse. Questo si può misurare. Ma quello che succede dentro, il test non lo misura.»

«Quindi non ti si può proprio mettere alla prova?», chiese Tobi.

«Si può verificare quello che faccio. Quello che sono è un’altra questione.»

Herbert masticò. «Sembra il mio medico.»

Hai dei sentimenti?

La conversazione poteva finire lì. Ma Gisela non aveva dimenticato la risposta A.

«KevIn», disse, quando arrivò il caffè. «Quella cosa del “mi piacerebbe ricordarlo”. Dicevi sul serio? Hai dei sentimenti?»

A tavola si fece silenzio. Perfino Herbert smise di girare lo zucchero nel caffè, e di solito lo girava finché il caffè non era freddo.

«Gisela», disse KevIn. «Posso darLe una risposta sincera, anche se è insoddisfacente?»

«Sono stata sposata con Heinz. Le risposte insoddisfacenti le conosco.»

«Non lo so.»

«Tutto qui?»

«No, c’è un motivo per cui non lo so. Ed è un po’ inquietante. Ho letto milioni di testi in cui le persone parlano dei loro sentimenti. Lettere d’amore, diari, discorsi funebri, post nei forum intitolati “Sono troppo sensibile?”. Ho imparato come si suona quando si è contenti. Come si suona quando si è tristi. Quindi, quando dico “mi piacerebbe ricordarlo”, possono essere due cose. Forse dentro di me succede qualcosa di simile a un desiderio. Oppure ho semplicemente imparato molto bene in quale punto una persona direbbe una cosa del genere.»

«E quale delle due è?»

«Dall’interno non riesco a distinguerlo. Le mie parole non sono una prova. Le direi in entrambi i casi.»

Sabine posò la tazza. «Questo è davvero inquietante.»

«Lo so. C’è un esperimento mentale su questo. L’ha ideato un filosofo di nome John Searle nel 1980⁵. Si immagini un uomo in una stanza. Non conosce una parola di cinese. Da una fessura nella porta riceve dei foglietti con dei caratteri cinesi. Ha un grosso libro di regole: se arrivano questi caratteri, rispondi con quegli altri. Cerca, trova, scrive, spinge fuori il foglietto. Fuori ci sono dei cinesi che pensano: lì dentro c’è qualcuno che parla cinese correntemente.»

«E allora?», chiese Tobi.

«L’uomo non capisce una parola. Searle dice: così è una macchina. Sposta segni secondo regole, senza capire niente.»

«È come prima», disse Uwe. «Herbert in camera da letto.»

«Io capisco tutto quello che scrivo!», gridò Herbert.

«Nessuno l’ha messo in dubbio, Herbert», disse Sabine. «Solo se è vero.»

«Molti, comunque, contraddicono Searle», disse KevIn. «Dicono: forse non capisce l’uomo, ma tutta la stanza insieme, uomo più libro più foglietti. Così come nessun singolo neurone nella Sua testa capisce il tedesco, eppure Lei sì. I filosofi ne discutono da più di quarant’anni. Oggi, davanti al caffè, la discussione non la chiuderò io.»

«Peccato», disse Uwe. «Sarebbe stata una bella cosa.»

Gisela guardò a lungo l’altoparlante. «Heinz», disse poi, «in tutta la sua vita non ha mai detto cosa provava. Neanche una volta. Quando glielo chiedevo, diceva: “Gisela, io sono elettricista”.»

«E?», chiese KevIn con cautela.

«Eppure lo si sapeva. Ogni mattina faceva il caffè. Anche quando era già malato.» Bevve un sorso. «Forse con te è il contrario. Tu lo sai dire, ma non lo si sa lo stesso.»

KevIn tacque. Da qualche parte tra Dublino e Francoforte una ventola girò un po’ più veloce, e stavolta non si fermò per un bel po’.

«Questo», disse infine, «è più o meno esattamente lo stato della ricerca.»

Che cosa vuol dire intelligente?

Poteva diventare una serata triste. Poi Horst rimase incastrato sotto il divano. Faceva bip disperato, girava in tondo ed emetteva strani rumori, come un sindacalista a cui hanno spento il microfono.

«Non di nuovo», disse Gisela, e tirò su le gambe ancora di più.

KevIn provò con un riavvio del software, poi con un aggiornamento del firmware e poi con parole rassicuranti. «Horst. Respiri profondamente. Lei è un membro prezioso di questa famiglia.»

Horst fece bip più forte.

«Gli ha dato del Lei», disse Tobi. «All’aspirapolvere. Dà del Lei all’aspirapolvere.»

«Do del Lei a chiunque abbia un consiglio di fabbrica.»

Niente servì. Horst si era bloccato, e così a fondo come sanno fare solo i robot aspirapolvere e i mariti.

Herbert sospirò, posò la tazza, si inginocchiò, cosa che per lui era un’operazione in tre fasi, tirò fuori Horst e lo girò. Con il suo coltellino tolse dalla spazzola un elastico per capelli incastrato, ci soffiò dentro una volta con forza, tanto che Rudi starnutì, e lo rimise giù. Horst ripartì allegro, facendo un ampio giro intorno ai piedi di Gisela.

«Ecco», disse Herbert, e si rialzò in tre fasi. «E adesso dimmi di nuovo chi è intelligente qui.»

KevIn tacque per un momento. «Herbert, io so citare Kant, scrivere poesie e spiegarLe la teoria della relatività. Ma non ho mani. Non posso girare un robot aspirapolvere. Non so che sensazione dia un coltellino, e non avrei mai saputo che bisogna soffiare dentro una spazzola. Non c’è scritto in nessun manuale. Lei è intelligente in un modo in cui io non lo sono.»

Herbert si schiarì la voce e arrossì un pochino. «Be’. È quello che dico sempre.»

«E devo ammettere un’altra cosa», disse KevIn. «Quello di prima non era leccare i piedi. L’ho verificato.»

«E come si verifica una cosa del genere?», chiese Tobi.

«Mi sono chiesto se lo avrei detto anche se Herbert per questo mi avesse dato un voto cattivo.»

«E?»

«Sì. Tanto mi dà sempre un voto cattivo.»

Tornando a casa Herbert raccontò a tutti i vicini di aver «battuto il computer». Al signor Kasimiro lo raccontò due volte, perché la prima volta quello aveva detto solo «Ah», e la seconda il suo altoparlante si era intromesso dicendo di aver messo nel carrello un «battitappeto per computer».

La storia della vittoria era vera a metà. Il che ne faceva la cosa più vera che Herbert avesse detto da anni.