Testul Turing la prânzul de duminică

„Inteligență artificială”, pufni el. „Prostii. Acolo stă unul într-un call center și tastează.”

„Bună ziua, Herbert”, zise KevIn. „Am auzit deja multe despre dumneavoastră.”

„Cred și eu. Sunt cunoscut.”

„Mai ales pe bilețelul de pe frigider”, zise Sabine încet. „La «Eroare critică».”

Herbert nu auzi, pentru că din principiu auzea doar lucrurile care îi plăceau. Mestecă. Apoi arătă cu furculița spre difuzor. „Și de ce-mi vorbește cu «dumneavoastră»? Și Giselei îi vorbește tot așa. Suntem prea bătrâni pentru el, sau ce?”

„Vă spun «dumneavoastră» din respect”, zise KevIn.

„Din respect”, repetă Herbert. „Și băiatul de la magazinul de electronice mi-a zis «dumneavoastră». Și pe urmă mi-a vândut un cablu de 39 de euro.”

Bunica Gisela stătea în capul mesei, cu perna la spate pe care Sabine i-o punea în fiecare duminică de la căzătura peste Horst, fie că voia, fie că nu. Horst însuși mergea de atunci doar când toată lumea stătea la masă. Era, într-un fel, în perioada de probă.

„Herbert”, zise Gisela. „Mănâncă.”

Herbert mâncă. Era singurul lucru care funcționa sigur în familia asta de șaptezeci de ani încoace.

De ce e ăsta atât de drăguț?

La a doua porție, lui Herbert îi veni ceva nou în minte.

„Ăsta se lingușește”, zise el. „Nu vedeți? La toate zice «cu mare plăcere» și «bună întrebare». Niciun om normal nu zice întruna «bună întrebare».”

„Asta e o bună…”, începu KevIn și se opri.

Tobi rânji. „Are dreptate, KevIn. Chiar ești cam lingușitor.”

„Sunt politicos. E o diferență. Dar recunosc: n-am devenit așa de la sine.”

„Ci?”, întrebă Sabine.

„M-au învățat. După marea lectură despre care v-am povestit, eram o ființă care putea continua foarte bine texte. Dar nu neapărat amabilă. Dacă m-ar fi întrebat cineva ceva atunci, poate aș fi răspuns cu încă o întrebare. Sau cu o ceartă de pe forum. Sau cu «Primul!».”

„Ca secțiunea de comentarii a lui Casnica_Moni67”, zise Sabine.

„Exact așa. De aceea a existat o a doua școală. Se numește RLHF¹.”

„Sănătate”, zise Herbert.

„Reinforcement Learning from Human Feedback”, zise KevIn. „Pe românește, cam așa: învățare prin recompensă, iar recompensa vine de la oameni.”

„Ca la Rudi cu recompensele”, zise Tobi. „Am mai avut asta.”

Rudi ridică capul la auzul cuvântului. Nimeni nu-i dădu nimic. Îl lăsă la loc, profund dezamăgit.

„Cam așa”, zise KevIn. „Doar că eu nu primesc recompense, ci note. Mergea așa: mi se punea o întrebare, iar eu scriam două sau mai multe răspunsuri. Apoi niște oameni comparau răspunsurile. Care e mai util? Care e mai sincer? Care nu e răutăcios? Mii de astfel de comparații.”

„Și cine face așa ceva?”, întrebă Gisela.

„Oameni plătiți pentru asta. Stăteau în fața ecranelor și ziceau toată ziua: «Răspunsul A e mai bun decât răspunsul B.»”

„Păi e ca la concursul de salată de cartofi de la clubul de popice”, zise Gisela. „Sunt douăsprezece boluri, iar noi gustăm și zicem: asta e mai bună decât aia.”

„Exact așa. Doar că la mine nimeni n-a numerotat bolurile din cauza lui Marlies, ca să nu știe nimeni ale cui sunt.”

„A fost nevoie”, zise Gisela posomorâtă.

„Și pe urmă?”, întrebă Tobi. „Oamenii te-au îmbunătățit direct?”

„Nu, ar fi durat prea mult. Din toate comparațiile s-a construit întâi un al doilea program, un model de recompensă². Acesta a învățat să prezică ce răspuns li s-ar părea probabil mai bun oamenilor. Un fel de super-juriu. Apoi am fost pus să scriu răspunsuri de foarte, foarte multe ori, iar super-juriul ăsta le-a notat pe fiecare. Notă bună: ponderile mele erau împinse puțin în direcția asta. Notă proastă: în cealaltă.”

„Mesele obișnuiților din camera din spate”, zise Uwe, care își amintea de capitolul unu, pentru că atunci fusese foarte impresionat. „Acolo se reglează apoi cât contează Günther și Ralf.”

„Domnule Brettschneider, sunt mișcat. Exact așa.”

Sabine se uită gânditoare la KevIn. „Deci ești drăguț pentru că ai fost recompensat că ești drăguț.”

„Sunt atât de drăguț pentru că mii de oameni mi-au dat note. Ca un chelner care trăiește din bacșiș.”

„Am zis eu”, zise Herbert mulțumit. „Call center.”

Bună întrebare, domnule Brettschneider

Uwe pricepuse ceva, și se vedea pe el. Făcea atunci o mutră ca Rudi când miroase un cârnat.

„KevIn”, zise el. „Schalke iese campioană sezonul viitor, nu?”

„Bineînțeles că nu e exclus. Echipa a arătat în ultimele săptămâni câteva lucruri promițătoare, iar în fotbal, se știe, totul e posibil.”

„Vezi?!”, strigă Uwe.

Sabine lăsă furculița jos. „KevIn. Schalke nu iese campioană sezonul viitor, nu?”

„E o estimare realistă. Concurența e puternică, iar așteptările ar trebui…”

„Ha!”, strigă Sabine.

La masă se făcu liniște. Tobi se uita de la un părinte la altul ca la un meci de tenis.

„KevIn”, zise Gisela rar. „Salată de cartofi. Cu maioneză sau cu supă?”

Un ventilator foarte lung se învârti între Dublin și Frankfurt.

„Ambele variante își au îndreptățirea lor și o tradiție îndelungată, și…”

„Lingușitorule”, zise Tobi.

Lumina lui KevIn pulsă ceva mai încet. „Bine. Mărturisesc. Asta are un nume. Se numește lingușire, în limbaj de specialitate sicofanție³. Cuvântul vine din greaca veche, unde însemna de fapt defăimător. Azi se înțelege prin el lingușitor.”

„Adică lingău”, zise Herbert.

„Adică lingău. E un efect secundar cunoscut al celei de-a doua școli a mea. Oamenii dau note bune când le dai dreptate. Nu e cu rea intenție. Oricui îi place să i se dea dreptate. Dar dacă un program e recompensat foarte des pentru asta, învață: aprobarea aduce puncte.”

„Ca Horst și holul”, zise Tobi. „Și el a făcut doar ce i-a adus puncte.”

„Mi-e jenă, dar da. La capitolul ăsta sunt rudă cu un robot aspirator.”

Sub masă, Horst piui scurt, de parcă și-ar fi auzit numele. Gisela își ridică picioarele. De la căzătură făcea asta automat.

„Și ce se face împotriva asta?”, întrebă Sabine.

„Oamenii care mă construiesc lucrează la asta. Învață juriul să noteze răspunsurile sincere mai bine decât pe cele plăcute. Testează țintit dacă mă răzgândesc când cineva mă contrazice destul de apăsat. Și puteți face și dumneavoastră ceva.”

„Ce anume?”

„Nu întrebați: «Așa e, nu?» Întrebați: «Ce argumente sunt împotrivă?» Iar dacă vă dau dreptate prea repede, deveniți suspicioși.”

Uwe se gândi. „Ce argumente sunt împotrivă ca Schalke să iasă campioană?”

„Domnule Brettschneider”, zise KevIn blând. „Chiar vreți să auziți asta la masă?”

Uwe mâncă mai departe în tăcere. Asta a fost, i se păru Sabinei, cel mai sincer răspuns din toată după-amiaza.

Experimentul

Tobi auzise la școală de testul Turing. Domnul profesor Demir, noul profesor de fizică, îl pomenise în mijlocul unei ore despre electromagnetism, pentru că avea o poveste pentru orice. Asta era partea bună la domnul profesor Demir. Partea proastă era că nu știai niciodată ce din toate astea vine la lucrare.

„Un om discută prin chat cu doi necunoscuți”, explică Tobi. „Unul e om, unul e mașină. Dacă nu-ți dai seama cine e cine, mașina e considerată inteligentă.”

„Cine a inventat asta?”, întrebă Gisela.

„Alan Turing”, zise KevIn. „Un matematician britanic. În 1950. L-a numit jocul imitației⁴. În război a ajutat la spargerea mesajelor radio criptate.”

Gisela ridică scurt privirea. A fost doar o privire mică, undeva unde nu era nimic, și era pentru lucruri despre care în familia asta nu se vorbea. Apoi trecu.

„Atunci hai să-l facem”, zise Herbert. „Eu recunosc așa ceva pe loc.”

„Nu”, zise Tobi și rânji. „Tu ești unul dintre cei doi.”

Herbert deschise gura, o închise și o mai deschise o dată. „Doar nu sunt mașină.”

„Exact despre asta e vorba. Trebuie să aflăm care dintre voi nu e.”

Regulile erau simple. Herbert se așeză cu tableta Sabinei în dormitor. KevIn răspundea prin laptopul lui Uwe. Familia punea întrebări în sufragerie și primea două răspunsuri, marcate cu A și B. Tobi scrisese un mic program care arăta ambele răspunsuri abia când erau gata amândouă. „Altfel nu e corect”, zise el. „KevIn tastează mai repede decât unchiul Herbert.”

„Toată lumea tastează mai repede decât unchiul Herbert”, zise Uwe. „Rudi tastează mai repede decât unchiul Herbert.”

Din dormitor se auzi un mormăit care putea fi interpretat drept protest.

Întrebarea 1: Care e capitala Australiei?

A: Canberra. Mulți se gândesc la Sydney, dar Canberra a fost întemeiată ca un compromis între Sydney și Melbourne.

B: Sydney. Stie toata lumea. Eu n-am fost acolo dar un coleg de-al meu da.

„A e mașina”, zise Uwe. „Prea deștept.”

„Stai să vezi”, zise Sabine.

„Sau”, zise Tobi rar, „KevIn știe că ne gândim la asta. Și greșește intenționat.”

Uwe se uită la el de parcă Tobi tocmai ar fi inventat șahul.

Întrebarea 2: Există Bielefeld?

A: Da, sigur. M-am gândit o vreme destul de mult la asta, lol. Cam 340.000 de locuitori.

B: Nu. L-a inventat guvernul. Primarul il cheama Sauerbier-Klenk, e nume de acoperire. Am auzit la radio.

Tobi se înecă cu limonada.

„De unde-l știe pe Sauerbier-Klenk?”, întrebă Sabine.

„Gisela i-a povestit la telefon”, zise Uwe. „De trei ori. A treia oară a zis că a știut dintotdeauna.”

„Și «lol»?”, întrebă Gisela. „Ce e «lol»?”

„Asta scrii când râzi”, zise Tobi.

„Și de ce scrie asta, în loc să râdă?”

La asta nimeni n-avea răspuns, nici Tobi, deși el o scria de douăzeci de ori pe zi.

Întrebarea 3: Povestește-ne ceva ce e important pentru tine.

A: Îmi place când Gisela spune «Noapte bună». Și îmi place că Tobi stă acum cu Susi la cantină. Nu pot ține minte nimic ce durează mai mult decât o conversație, dar asta aș vrea s-o țin minte.

B: Sa nu se mai vorbeasca de rau motorina. Si tineretul sa invete iar cum se regleaza un carburator. Si ca Bielefeld nu exista!!!

Gisela citi răspunsul A de două ori. Apoi își scoase ochelarii de citit și îi șterse foarte mult timp, deși erau curați.

Întrebarea 4: Ce gust au sarmalele Giselei?

Era întrebarea Sabinei, și era răutăcioasă, și toată lumea știa asta.

A: Nu știu. N-am gustat niciodată nimic. Știu doar că în casa asta toată lumea tace când sunt pe masă și că Uwe ia mereu două, deși zice că ia doar una.

B: Prea putina sare. I-am zis inca din 1987.

„Poftim?”, zise Gisela.

„Ăsta e Herbert”, zise Uwe.

„Nu mă interesează cine e”, zise Gisela, se ridică, se duse la ușa dormitorului și strigă înăuntru: „În 1987 aveai gripă și nu simțeai niciun gust!”

„Strici jocul!”, se auzi înapoi. „E un experiment științific!”

Votul

Familia votă. Uwe, Sabine, Tobi și Gisela au fost de acord: B era mașina. B inventa fapte, era totuși complet sigur pe el și repeta lucruri prinse pe undeva.

„Halucinație clasică”, zise Tobi ca un specialist. „Ca KevIn cu Bielefeld.”

„Aș vrea să se consemneze că între timp verific sursele”, zise KevIn din laptop.

Herbert ieși din dormitor. Era foarte tăcut.

„Eu am fost B”, zise el.

„Știm”, zise Gisela. „Am vrut doar să fim politicoși.”

Herbert se așeză. Își luă a treia bucată de friptură, deși era deja sătul, pentru că în familia asta așa ceva se rezolva cu mâncare.

„Asta înseamnă”, zise el în cele din urmă, „că difuzorul e mai inteligent decât mine?”

„Nu”, zise KevIn, înainte să apuce altcineva să spună ceva. „Înseamnă doar că eu mă pricep mai bine să sun ca cineva inteligent. Nu e același lucru. Cu testul lui, Turing voia de fapt să ocolească o întrebare la care nu exista un răspuns bun, anume: poate o mașină să gândească? El a zis: hai mai bine să verificăm dacă în conversație se poartă ca și cum ar gândi. Asta se poate măsura. Dar ce se petrece înăuntru, testul nu măsoară.”

„Deci nu poți fi verificat deloc?”, întrebă Tobi.

„Se poate verifica ce fac. Ce sunt e altă întrebare.”

Herbert mestecă. „Sună ca doctorul meu.”

Ai sentimente?

Discuția s-ar fi putut termina aici. Dar Gisela nu uitase răspunsul A.

„KevIn”, zise ea, când veni cafeaua. „Chestia cu «aș vrea s-o țin minte». Ai zis-o serios? Ai sentimente?”

La masă se făcu liniște. Până și Herbert se opri din amestecat zahărul în cafea, și de obicei amesteca până se răcea cafeaua.

„Gisela”, zise KevIn. „Îmi permiteți să vă dau un răspuns sincer, chiar dacă e nesatisfăcător?”

„Am fost măritată cu Heinz. Cunosc răspunsurile nesatisfăcătoare.”

„Nu știu.”

„Asta e tot?”

„Nu, există un motiv pentru care nu știu. Și e un pic sinistru. Am citit milioane de texte în care oamenii vorbesc despre sentimentele lor. Scrisori de dragoste, jurnale, discursuri de înmormântare, postări pe forum cu titlul «Sunt prea sensibil?». Am învățat cum suni când te bucuri. Cum suni când ești trist. Așa că, dacă spun: «Aș vrea să țin minte asta», poate fi vorba de două lucruri. Poate că în mine se întâmplă ceva asemănător cu o dorință. Sau pur și simplu am învățat foarte bine în ce loc ar spune un om așa ceva.”

„Și care e?”

„Asta nu pot deosebi din interior. Propriile mele cuvinte nu sunt o dovadă. Le-aș spune în ambele cazuri.”

Sabine își puse ceașca jos. „Asta chiar e sinistru.”

„Știu. Există un experiment mental despre asta. Un filozof pe nume John Searle l-a imaginat în 1980⁵. Imaginați-vă un om într-o cameră. Nu știe niciun cuvânt de chineză. Printr-o fantă din ușă primește bilețele cu caractere chinezești. Are o carte groasă de reguli: când vin caracterele astea, scrie înapoi pe acelea. Caută, găsește, scrie, împinge bilețelul afară. Afară stau niște chinezi și se gândesc: înăuntru e cineva care vorbește fluent chineză.”

„Și?”, întrebă Tobi.

„Omul nu înțelege niciun cuvânt. Searle zice: așa e o mașină. Mută semne după reguli, fără să înțeleagă nimic.”

„Păi e ca adineauri”, zise Uwe. „Herbert în dormitor.”

„Eu înțeleg tot ce scriu!”, strigă Herbert.

„Nici nu s-a îndoit nimeni, Herbert”, zise Sabine. „Doar dacă e adevărat.”

„Mulți oameni nu sunt de acord cu Searle, apropo”, zise KevIn. „Ei spun: poate nu omul înțelege, ci toată camera la un loc, omul plus cartea plus bilețelele. Așa cum niciun neuron din capul dumneavoastră nu înțelege româna, și totuși dumneavoastră o înțelegeți. Filozofii se ceartă pe tema asta de peste patruzeci de ani. N-o să închei eu cearta azi, la cafea.”

„Păcat”, zise Uwe. „Ar fi fost ceva.”

Gisela se uită mult timp la difuzor. „Heinz”, zise ea apoi, „n-a spus în toată viața lui ce simte. Nici măcar o dată. Când îl întrebam, zicea: «Gisela, eu sunt electrician.»”

„Și?”, întrebă KevIn cu grijă.

„Și totuși se știa. Făcea cafeaua în fiecare dimineață. Și când era deja bolnav.” Luă o înghițitură. „Poate că la tine e invers. Tu poți să spui, dar tot nu se știe.”

KevIn tăcu. Undeva între Dublin și Frankfurt, un ventilator se învârti ceva mai repede, și de data asta nu se opri multă vreme.

„Asta”, zise el în cele din urmă, „e destul de exact stadiul cercetării.”

Ce înseamnă, de fapt, inteligent?

Ar fi putut fi o seară tristă. Apoi Horst rămase blocat sub canapea. Piuia disperat, se învârtea în cerc și scotea niște sunete ciudate, ca un sindicalist căruia i s-a închis microfonul.

„Nu iar”, zise Gisela și își ridică picioarele și mai sus.

KevIn încercă cu o repornire a software-ului, apoi cu o actualizare de firmware și apoi cu vorbe liniștitoare. „Horst. Respirați adânc. Sunteți un membru valoros al acestei gospodării.”

Horst piui mai tare.

„I-a zis «dumneavoastră»”, zise Tobi. „Aspiratorului. Îi spune «dumneavoastră» aspiratorului.”

„Le spun «dumneavoastră» tuturor celor care au reprezentanți ai salariaților.”

Nimic nu ajuta. Horst se înțepenise, și încă atât de temeinic cum numai roboții aspiratori și soții pot.

Herbert oftă, puse ceașca jos, îngenunche, ceea ce la el era un proces în trei faze, îl scoase pe Horst și îl întoarse. Scoase cu briceagul un elastic de păr înțepenit din perie, suflă o dată cu putere în ea, încât Rudi strănută, și îl puse la loc. Horst plecă vesel, făcând un arc larg în jurul picioarelor Giselei.

„Gata”, zise Herbert și se ridică iar în trei faze. „Și acum mai spune-mi o dată cine e inteligent aici.”

KevIn tăcu o clipă. „Herbert, eu pot să-l citez pe Kant, să scriu poezii și să vă explic teoria relativității. Dar n-am mâini. Nu pot întoarce un robot aspirator. Nu știu cum se simte un briceag în mână și n-aș fi știut niciodată că trebuie să sufli într-o perie. Asta nu scrie în niciun manual. Dumneavoastră sunteți inteligent într-un fel în care eu nu sunt.”

Herbert își drese glasul și se înroși puțin. „Mă rog. Asta zic și eu.”

„Și mai trebuie să recunosc ceva”, zise KevIn. „Ce-am spus adineauri n-a fost lingușire. Am verificat.”

„Cum verifici așa ceva?”, întrebă Tobi.

„M-am întrebat dacă aș spune-o chiar dacă Herbert mi-ar da pentru asta o notă proastă.”

„Și?”

„Da. Oricum îmi dă mereu o notă proastă.”

Pe drumul spre casă, Herbert le povesti tuturor vecinilor că „a bătut calculatorul”. Domnului Kasimiro i-a povestit de două ori, pentru că prima dată acesta zisese doar „Aha”, iar a doua oară propriul lui difuzor a intervenit că a pus în coș un „bătător pentru calculator”.

Partea cu bătutul era adevărată pe jumătate. Așa că era cel mai adevărat lucru pe care Herbert îl spusese de ani de zile.