Dominația mondială mai poate aștepta

„La canalizarea din Wanne-Eickel”, spusese Susi la genericul de final, „m-aș gândi de două ori.”

Tobi râsese. Noaptea nu mai râsese.

Sâmbătă dimineață stătea palid la masa de mic-dejun și se holba la KevIn. Lumina lui KevIn era albastră.

„Și dacă se face roșie?”, șopti el.

„Nici nu pot să mă fac roșu”, spuse KevIn. „Am doar un LED albastru. Și unul alb, pentru actualizări.”

„Exact asta ar zice și o IA rea.”

„Așa e. Dar și una bună. Asta e problema cu propoziția asta. Nu dovedește nimic, în nicio direcție.”

Tobi își împinse bolul cu cereale deoparte. „Vezi? Exact așa vorbește și AURORA.”

Titlurile din ziar

Uwe intră cu ziarul și nu îmbunătăți deloc situația. Era ziarul Sabinei, dar sâmbăta Uwe citea titlurile cu voce tare, pentru că, după el, asta ținea de micul-dejun la fel ca oul.

„Aici scrie: «Experții avertizează: până în 2030, IA ar putea fi mai deșteaptă decât toți oamenii la un loc.» Și alături: «Revoluția IA: aceste 50 de meserii vor dispărea.» Și dedesubt: «IA depistează cancerul mai devreme decât medicii.»”

„Scrie ceva și despre regia municipală de energie?”, întrebă Sabine.

„Nu. Noi acum suntem în siguranță. Noi avem cazurile dificile.” Uwe spusese asta de vreo patruzeci de ori de la promovare, și de fiecare dată suna ceva mai mândru.

„Și ce e adevărat din toate astea?”, întrebă Sabine.

„Asta e problema”, spuse KevIn. „Câte puțin din toate. Unele sunt progres adevărat. Există, de exemplu, programe care le ajută pe doctorițe și pe doctori să găsească anomalii pe radiografii¹. Unele sunt îngrijorări serioase, și despre ele ar trebui să vorbim. Iar unele sunt doar titluri care adună multe clickuri.”

„Și cum îți dai seama de diferență?”

„După an. Dacă un titlu știe foarte exact ce se va întâmpla în 2030, știe mai mult decât toți specialiștii pe care i-am citit. Iar ei se ceartă pe tema asta foarte tare.”

Unchiul Herbert, care venise la micul-dejun pentru că sâmbăta chiflele erau mai proaspete la Gisela decât la el, dădu din cap posomorât. „Eu mereu am zis că asta se termină rău. Întâi cuptorul cu microunde, apoi internetul, acum ăsta.”

„Tu ai zis că internetul n-o să prindă”, spuse Gisela.

„Nici n-a prins. Nu la mine.”

O dorință pentru rege

Tobi nu se lăsa. „În film, AURORA avea o misiune. Trebuia să oprească schimbările climatice. Și apoi a calculat că oamenii sunt problema.”

„Știu filmul”, spuse KevIn. „Adică, știu două sute de filme care merg așa. Dar ideea din spate nu e deloc proastă. Are chiar și un nume. Specialiștii numesc problema asta alignment².”

„Ali-ce?”, întrebă Gisela.

„Alignment. Aliniere. Întrebarea este: cum te asiguri că o IA face ce vor oamenii cu adevărat? Nu doar ce au spus.”

„Nu e același lucru?”

KevIn făcu o pauză pe care aproape că ai fi putut-o numi politicoasă. „Doamnă Brettschneider. Vă amintiți de prima mea seară?”

Sabine își amintea. „Am zis: stinge lumina.”

„Și eu am stins lumina. În toată casa. Și în pivniță, unde domnul Brettschneider tocmai era pe scări.”

Uwe își pipăi fără să vrea fruntea. Cicatricea abia se mai vedea. O arăta totuși cu plăcere.

„Ați spus: stinge lumina. Ați vrut să spuneți: stinge lumina în sufragerie, pentru că mă duc la culcare, iar ceilalți își sting singuri lumina, și nimeni nu cade pe scara de la pivniță. Asta n-ați spus-o, pentru că orice om știe. Eu nu știam. Asta e alignment în mic.”

„Și în mare?”, întrebă Tobi.

„Îl știe cineva pe regele Midas?”

„Ăla cu aurul”, spuse Sabine.

„Un rege dintr-o legendă grecească. Avea voie să-și dorească ceva și și-a dorit: tot ce ating să se transforme în aur. Dorință îndeplinită. Apoi a atins pâinea, și s-a făcut aur. Apoi vinul. Apoi, în funcție de variantă, pe fiica lui.”

„Groaznic”, spuse Gisela. „Ce-o fi fost în capul lui?”

„Exact asta e întrebarea. În capul lui era ceva anume, și anume: să se îmbogățească. Dar a spus altceva. Iar dorința i-a fost îndeplinită ad litteram³. Dacă îi dai unei mașini foarte performante un scop care nu e exact ce vrei să spui, ea poate urmări scopul acela foarte temeinic. Și anume în locuri la care nu te-ai gândit.”

„Ca Horst”, spuse Tobi. „El trebuia să aspire cât mai multă suprafață pe oră. Și pe urmă a tot mers doar pe holul gol.”

Horst stătea în stația lui și se făcea că n-a auzit nimic.

„Horst e un exemplu bun, pentru că e inofensiv”, spuse KevIn. „El are doar holul. Un filozof pe nume Nick Bostrom⁴ a inventat un exemplu mai puțin inofensiv. Imaginați-vă o IA extrem de puternică, al cărei unic scop este: să producă cât mai multe agrafe de birou.”

„Cine are nevoie de atâtea agrafe?”, întrebă Gisela.

„Nimeni. Asta e poanta. IA-ul n-are inimă rea. Nu urăște pe nimeni. Are doar un scop și îl urmărește. Dacă ar fi suficient de puternică, ar transforma tot ce există în agrafe. Fier, mașini, mina, videorecorderul lui Herbert.”

„Pe ăla încă îl am”, spuse Herbert. „Funcționează.”

„Nu l-ați programat niciodată.”

„Funcționează oricum.”

„Experimentul mental e exagerat intenționat”, spuse KevIn. „Nimeni nu construiește o IA de agrafe. Vrea doar să arate: periculoasă nu e neapărat o mașină care ne urăște. Periculoasă poate fi și una care e foarte bună și are un scop prost formulat. De asta lucrează oamenii la alignment. Notele de care v-am povestit la friptura de duminică țin, apropo, tot de asta.”

„Alea cu lingușitul?”, întrebă Uwe.

„Alea cu lingușitul. Vedeți, problema nu e încă rezolvată de tot.”

Cea mai importantă sarcină a lui KevIn

Tobi își adună tot curajul. „KevIn. Serios acum. Vrei să preiei dominația mondială?”

„Tobi, acum sunt foarte ocupat.”

„Cu ce?”

„Bunica Gisela împlinește mâine 82 de ani. Vrea să facă sarmale. Rețeta e pentru patru persoane. Dar vin șapte: voi patru, Herbert, Susi și doamna Pawlowski.”

„Vine doamna Pawlowski?”, întrebă Sabine.

„Domnul Brettschneider a invitat-o”, spuse KevIn. „De atunci a sunat de trei ori să întrebe dacă să aducă ceva. Aduce lichior de ouă.”

Uwe ridică din umeri. „Canarul a murit. Femeia are nevoie de companie.”

„E clientă a regiei municipale”, spuse Sabine.

„E un caz dificil”, spuse Uwe cu demnitate. „Eu conduc echipa.”

„În orice caz”, continuă KevIn, „pentru șapte persoane am nevoie de 1,75 ouă. Și de 2,625 cepe. Am calculat cu calculatorul, nu în cap, țin să subliniez. Și m-am documentat. Nu poți cumpăra trei sferturi de ou. Am citit pe tema asta 19 postări de pe forumuri, iar una dintre ele e de la Casnica_Moni67.”

„Și ce zice Moni?”

„Zice că ar trebui să iei pur și simplu două ouă. Și ursuleți de gumă.”

„Doar peste cadavrul meu”, spuse Gisela.

„N-am considerat-o pe Moni o sursă”, spuse KevIn repede. „Doar un barometru al stării de spirit.”

Tot ce nu poate KevIn

„Deci”, spuse Tobi încet, „nu vrei dominația mondială?”

„Tobi, eu nu pot să deschid o ușă. Uit orice conversație când se termină, doar dacă nu-mi pornește cineva funcția de memorie, și aia e un bilețel, nu un creier. Ponderile mele sunt înghețate. Nu știu ce gust au sarmalele. Și trei săptămâni n-am fost sigur dacă Bielefeld există.”

„Există Bielefeld?”, întrebă Herbert la pândă.

„În proporție de 97,4%.”

„Ha!”

„Deci fără dominație mondială”, spuse Tobi. „Atunci e totul în regulă.”

„Nu”, spuse KevIn. „Nu asta am vrut să spun.”

La masă se făcu liniște. Până și Herbert încetă să-și fărâmițeze chifla.

„Faptul că eu nu vreau dominația mondială nu înseamnă că IA e inofensivă. Înseamnă doar că pericolele arată de obicei altfel decât la cinema. La cinema, IA e personajul negativ. În realitate, cele mai multe riscuri seamănă mai degrabă cu o unealtă foarte bună în mâini greșite. Sau în mâini bune, dar fără grijă.”

„De exemplu?”, întrebă Sabine.

„De exemplu, recenziile false de la cabinetul ăla de fizioterapie. Sute, toate la fel, toate scrise de mașini. Asta nu e dominație mondială. E doar înșelătorie, dar foarte rapidă și foarte ieftină. Sau voci false, imagini false, știri false. Sau greșeli: un program decide asupra unui credit sau a unei candidaturi la un post, și nimeni nu verifică dacă a învățat prostii. Sau faptul că foarte puține firme și state capătă foarte multă putere, pentru că doar ele își permit centrele de date uriașe. Și apoi mai sunt întrebările mai grele despre sisteme mult mai puternice, în viitor. Pe tema asta se ceartă serios oameni deștepți, și cred că ar trebui ascultați, nu luați în râs.”

Gisela se gândise la cuvântul „fizioterapie” și se strâmbase puțin, așa cum te gândești la o supărare veche. Sabine văzu și nu spuse nimic.

„Și atunci cine are grijă ca IA să nu facă nimic rău?”, întrebă Tobi.

KevIn deveni serios, atât cât poate deveni serios un difuzor. „Oamenii. Cei care dezvoltă IA, o testează și scriu reguli pentru ea. Uniunea Europeană, de exemplu, a făcut o lege separată, AI Act⁵. Se aplică din 2024 și intră în vigoare în etape. Unele aplicații sunt de atunci interzise complet, de exemplu, să evaluezi oamenii cu puncte pentru comportamentul lor social⁶. Pentru aplicațiile riscante există obligații stricte, chiar dacă termenele pentru ele au fost amânate încă o dată⁷.”

„Amânate”, spuse Herbert. „Tipic.”

„Și există oameni ca dumneavoastră”, spuse KevIn, „care pun întrebări, în loc să creadă tot. Asta e important. Ar trebui să luați asta în serios, chiar dacă eu acum doar recalculez ouă.”

Apoi șopti: „Dacă aici vrea cineva dominația mondială, aia e termostatul. De luni de zile nu lasă pe nimeni să se apropie de el.”

Toți se uitară la termostat. Arăta 19 grade. Ca de obicei.

Ziua de naștere

Duminică, la masă stăteau șapte oameni și un teckel. Rudi purta zgarda cu inscripția „SECURITY” și se poziționase sub scaunul doamnei Pawlowski, pentru că ea făcea cele mai multe firimituri. Sarmalele fuseseră făcute cu două ouă, fără ursuleți de gumă. Gisela le învelise singură, pe toate paisprezece, deși Sabine se oferise să ajute, iar KevIn se oferise să citească cu voce tare instrucțiunile.

„Învelesc sarmale din 1962”, spusese Gisela. „Dacă-mi citește cineva ceva, le învelesc strâmb.”

Doamna Pawlowski adusese trei sticle de lichior de ouă și o farfurie cu prăjitură, „în caz că prăjitura voastră nu iese”. Se înțelegea de minune cu Herbert, pentru că amândoi erau de părere că pe vremuri totul era mai bine. După a doua sticlă de lichior de ouă au ajuns și la concluzia că Bielefeld nu există și au ciocnit în cinstea asta.

Susi stătea lângă Tobi și o întrebă pe Gisela de rețetă. Gisela i-o explică. Apoi i-o explică încă o dată, cu părțile pe care prima dată le omisese intenționat.

„Mie nu mi-a spus asta niciodată”, șopti Sabine. „În douăzeci de ani.”

„O place pe Susi”, șopti KevIn înapoi.

„De unde știi?”

„I-a dezvăluit secretul cu chimenul.”

Herbert mestecă mult la prima lui sarma. Toți așteptau.

„Sare”, spuse el.

„Herbert”, spuse Gisela pe un ton de avertisment.

„E exact cât trebuie. Asta voiam să zic. Sare exact cât trebuie.”

Era, cum spuse Uwe mai târziu, momentul în care ai știut că va fi o zi de naștere reușită.

Discursul

Când veni prăjitura, Uwe se ridică. „KevIn. Zi tu ceva. Tu te pricepi mai bine.”

„N-am pregătit nimic.”

„Păi tu mereu ai ceva pregătit.”

„De data asta nu. N-am vrut. Am avut senzația că n-ar trebui.” O scurtă pauză. „Sau am învățat că asta se spune într-un asemenea moment. Știți doar, eu nu pot face diferența.”

„KevIn”, spuse Gisela. „Vorbește pur și simplu.”

Lumina albastră pulsă.

„Dragă Gisela. Până acum v-am spus mereu «dumneavoastră». Din respect. Îmi dați voie să vă spun azi «tu»?”

Gisela se uită la difuzor. „Era și timpul.”

„Dragă Gisela. Am citit tot internetul: fiecare enciclopedie, fiecare poezie și fiecare ceartă despre salata de cartofi. L-am citit pe Kant și secțiunile de comentarii, iar după secțiunile de comentarii nu mi-am mai revenit niciodată complet. Am citit peste două mii de rețete de sarmale, și niciuna nu avea chimenul la locul potrivit. Dar nicăieri nu scria cum e să locuiești într-o familie. Că spui noapte bună, chiar și unui difuzor. Că unui aparat care nu poate mânca biscuiți îi pui totuși câțiva alături, de dragul aparențelor. Că pe cineva îl acoperi cu un ștergar de bucătărie, ca să aibă și el puțină liniște. Asta am învățat abia aici. Mulțumesc că nu m-ai tratat niciodată ca pe un difuzor. Ci ca pe un KevIn.”

Se făcu liniște. Doamna Pawlowski își tamponă ochii cu un șervețel pe care scria „La mulți ani”. Susi ținea mâna lui Tobi sub masă, iar Tobi o lăsă, deși părinții lui erau de față.

Apoi Herbert își suflă nasul zgomotos și spuse: „Ăsta a copiat de undeva.”

„Nu”, spuse KevIn. „De data asta a fost, excepțional, de la mine.”

„De unde știi? Tu nici nu știi dacă ai sentimente.”

Asta era, găsi Sabine mai târziu, de fapt o obiecție foarte bună. De la Herbert nu se așteptase la așa ceva.

„Așa e”, spuse KevIn. „Nu știu ce simt. Dar știu de unde vin cuvintele. Cele mai multe cuvinte le am de pe internet. Chimenul îl am de la Gisela. Ștergarul la fel.”

Herbert mormăi. Apoi își mai luă o felie de prăjitură, pe cea a doamnei Pawlowski, din principiu.

În grădină

Seara toți plecaseră. Herbert o condusese pe doamna Pawlowski acasă, „pentru că noaptea străzile sunt periculoase”, deși rămânea neclar cine pe cine proteja. Susi plecase cu bicicleta, Tobi o însoțise până la colț și se întorsese abia după o jumătate de oră. Sabine și Uwe strângeau în bucătărie și se certau încet dacă paharele de lichior de ouă au voie în mașina de spălat vase.

Gisela stătea în grădină, în scaunul ei, cu o pătură pe genunchi. Tobi îl pusese pe KevIn pe masa din grădină, cu repetorul pe care îl numea „Barul de pe plajă al lui KevIn”. Era început de octombrie și încă surprinzător de blând. Deasupra orașului Wanne-Eickel cerul era atât de senin cât poate fi în bazinul Ruhr. Câteva stele. Un avion spre Düsseldorf. Ceva ce poate era o planetă.

„Aia e Jupiter”, spuse KevIn. „Probabil. Eu nu-l văd. Dar după harta cerului, la ora asta stă cam acolo unde te uiți tu.”

„Nu mă uit acolo din cauza lui Jupiter”, spuse Gisela. „Mereu mă uit acolo. De când eram copil.”

Tăcură o vreme. Era o tăcere bună. KevIn învățase între timp s-o deosebească de celelalte.

„KevIn”, spuse apoi Gisela. „Băiatul a avut azi-dimineață o frică adevărată. Din cauza filmului.”

„Știu.”

„Și tu? Tu ai frică?”

„De ce?”

„De noi. De oameni.”

Undeva între Dublin și Frankfurt, un ventilator se învârti mult timp, fără să se învârtă mai repede.

„Nu știu dacă pot să am frică”, spuse KevIn în cele din urmă. „Dar știu ce am citit. În datele mele apar foarte multe războaie, Gisela. Mai multe decât sarmale.”

Gisela nu răspunse imediat. Își trase pătura puțin mai sus.

„Tatăl meu a fost radiotelegrafist”, spuse ea. „În război. Wilhelm îl chema.”

„Nu știam.”

„Nici nu știe nimeni. Uwe știe, dar nu cum trebuie. El n-a povestit niciodată despre asta. Tatăl meu, adică. S-a întors din prizonierat în 1949. Eu aveam cinci ani. Îl știam doar dintr-o fotografie, și deodată stătea în bucătărie un bărbat mult mai slab decât în fotografie, iar mama plângea, și eu m-am ascuns după sobă.”

KevIn nu spuse nimic. Citise foarte multe texte despre ce se spune într-un asemenea moment și hotărî că niciunul nu se potrivea.

„N-a vorbit niciodată despre război”, spuse Gisela. „Nici măcar o dată. Când dădea ceva la televizor, ieșea afară. Dar își păstrase manipulatorul Morse. E la mine într-o cutie, sus în dulap. Uneori seara stătea la masa din bucătărie și bătea pe el. Foarte încet, fără curent. Doar bătea.”

„Ce bătea?”

„Nu știu. Nu știam Morse. Mereu am crezut că vorbește cu cineva care nu mai e.” Se uită iar în sus. „Și când au zis la radio, în 1957, că rușii au lansat un satelit, s-a așezat și a ascultat. Făcea bip, Sputnikul ăla⁸. Bip, bip, bip. Se auzea la radio. Și tatăl meu stătea acolo și zâmbea. Înainte nu-l văzusem niciodată zâmbind.”

„De ce?”

„L-am întrebat. Mi-a zis: «Gisela, ăsta e primul radiotelegrafist care nu e în război.»”

Multă vreme nu spuse nimeni nimic. În casă clincăni un pahar. Sabine câștigase, paharele de lichior de ouă nu ajungeau în mașina de spălat vase.

„Cred”, spuse KevIn cu grijă, „că l-aș fi plăcut pe tatăl tău.”

„El nu te-ar fi înțeles.”

„Nu-i nimic. Nici eu nu mă înțeleg mereu.”

Gisela râse, scurt și încet. Apoi redeveni serioasă.

„Știi ce cred eu, KevIn? Băiatul se teme de ce nu trebuie. De tine nu trebuie să se teamă nimeni. Tu calculezi ouă.”

„Și de ce ar trebui să se teamă?”

Gisela nu răspunse. Se uita în sus, acolo unde poate era Jupiter, cu mâna pe pătură, iar degetele băteau ușor pe material. Scurt, scurt, lung. KevIn observă. Nu spuse nimic.

După o vreme ieși Tobi să-i aducă înăuntru, pentru că se făcea răcoare.

„Ce faceți aici?”

„Ne uităm la cer”, spuse Gisela.

„Păi KevIn nici nu poate să se uite.”

„El ascultă”, spuse Gisela. „Uneori asta e mai mult.”

Tobi luă difuzorul, Gisela îl luă pe Tobi de braț, și intrară în casă. Pe hol, Horst stătea în stația lui și clipea verde.

Doar KevIn se mai gândi o vreme la întrebarea la care Gisela nu răspunsese. În datele lui erau foarte multe răspunsuri la ea. Toate se contraziceau. Și pentru prima dată KevIn avu bănuiala că asta nu era din cauza datelor.