Verdensherredømmet må vente

»Kloakkerne i Wanne-Eickel«, havde Susi sagt under rulleteksterne, »ville jeg nu tænke mig godt om, før jeg gik ned i.«

Tobi havde grinet. Om natten havde han ikke grinet længere.

Lørdag morgen sad han bleg ved morgenbordet og stirrede på KevIn. KevIns lys var blåt.

»Hvad nu, hvis han bliver rød?«, hviskede han.

»Jeg kan slet ikke blive rød«, sagde KevIn. »Jeg har kun en blå LED. Og en hvid, til opdateringer.«

»Det ville en ond AI også sige.«

»Det er rigtigt. Men det ville en god også. Det er problemet med den sætning. Den beviser ingenting, hverken den ene eller den anden vej.«

Tobi skubbede sin müsli væk. »Kan du se. Det er præcis sådan, AURORA også snakker.«

Overskrifterne

Uwe kom ind med avisen og gjorde det ikke bedre. Det var Sabines avis, men om lørdagen læste Uwe overskrifterne højt, fordi han syntes, at det hørte til morgenmaden ligesom ægget.

»Her står der: ›Eksperter advarer: AI kan være klogere end alle mennesker tilsammen inden 2030.‹ Og ved siden af: ›AI-revolution: Disse 50 job forsvinder.‹ Og nedenunder: ›AI opdager kræft tidligere end læger.‹«

»Står der også noget om det kommunale forsyningsselskab?«, spurgte Sabine.

»Nej. Vi er jo sikre nu. Vi har de svære sager.« Uwe havde sagt det omkring fyrre gange siden sin forfremmelse, og det lød hver gang en lille smule stoltere.

»Og hvad af det passer?«, spurgte Sabine.

»Det er problemet«, sagde KevIn. »Lidt af det hele. Noget er ægte fremskridt. Der findes for eksempel programmer, der hjælper læger med at finde uregelmæssigheder på røntgenbilleder¹. Noget er alvorlig bekymring, og det bør man tale om. Og noget er en overskrift, der giver mange klik.«

»Hvordan kender man forskel?«

»På årstallet. Hvis en overskrift ved helt præcist, hvad der sker i 2030, ved den mere end alle de fagfolk, jeg har læst. Og de skændes meget højlydt om det.«

Onkel Herbert, der var kommet forbi til morgenmad, fordi rundstykkerne om lørdagen var friskere hos Gisela end hos ham selv, nikkede bistert. »Jeg har altid sagt, at det ender galt. Først mikrobølgeovnen, så internettet, nu ham der.«

»Du sagde, at internettet aldrig ville slå igennem«, sagde Gisela.

»Det har det heller ikke. Ikke hos mig.«

Et ønske til kongen

Tobi gav sig ikke. »I filmen havde AURORA en opgave. Hun skulle stoppe klimaforandringerne. Og så regnede hun ud, at det er menneskene, der er problemet.«

»Den film kender jeg«, sagde KevIn. »Altså, jeg kender to hundrede film, der går sådan. Men tanken bag er slet ikke dum. Den har endda et navn. Fagfolkene kalder problemet alignment².«

»Ali-hvad?«, spurgte Gisela.

»Alignment. Afstemning. Spørgsmålet er: Hvordan sørger man for, at en AI gør det, mennesker virkelig vil? Ikke kun det, de har sagt.«

»Er det ikke det samme?«

KevIn holdt en pause, som man næsten kunne kalde høflig. »Fru Brettschneider. Kan De huske min første aften?«

Sabine kunne huske den. »Jeg sagde: Sluk lyset.«

»Og jeg slukkede lyset. I hele huset. Også i kælderen, hvor hr. Brettschneider lige var på trappen.«

Uwe famlede uvilkårligt efter sin pande. Arret kunne næsten ikke ses længere. Han viste det alligevel gerne frem.

»De sagde: Sluk lyset. De mente: Sluk lyset i stuen, fordi jeg går i seng, og alle andre slukker selv deres lys, og ingen falder ned ad kældertrappen. Det sagde De ikke, fordi ethvert menneske ved det. Jeg vidste det ikke. Det er alignment i det små.«

»Og i det store?«, spurgte Tobi.

»Er der nogen, der kender kong Midas?«

»Ham med guldet«, sagde Sabine.

»En konge i et græsk sagn. Han måtte ønske sig noget og ønskede: Alt, hvad jeg rører ved, skal blive til guld. Ønsket blev opfyldt. Så rørte han ved sit brød, og det blev til guld. Så ved vinen. Så, alt efter hvilken udgave man læser, ved sin datter.«

»Forfærdeligt«, sagde Gisela. »Hvad tænkte han dog på?«

»Det er netop spørgsmålet. Han tænkte på noget, nemlig: at blive rig. Men han sagde noget andet. Og ønsket blev opfyldt bogstaveligt³. Hvis man giver en meget kraftfuld maskine et mål, som ikke er præcis det, man mener, så kan den forfølge målet meget grundigt. Og det på steder, man ikke havde tænkt på.«

»Ligesom Horst«, sagde Tobi. »Han skulle støvsuge så meget areal i timen som muligt. Og så kørte han bare frem og tilbage i den tomme entré.«

Horst stod i sin station og lod, som om han ikke havde hørt noget.

»Horst er et godt eksempel, fordi han er harmløs«, sagde KevIn. »Han har kun entréen. En filosof ved navn Nick Bostrom⁴ har fundet på et eksempel, der er mindre harmløst. Forestil Dem en ekstremt magtfuld AI, hvis eneste mål er: at fremstille så mange papirclips som muligt.«

»Hvem har dog brug for så mange papirclips?«, spurgte Gisela.

»Ingen. Det er pointen. AI’en har ikke noget ondt hjerte. Den hader ingen. Den har bare et mål, og det forfølger den. Hvis den var magtfuld nok, ville den forvandle alt, hvad der findes, til papirclips. Jern, biler, kulminen, Herberts videobåndoptager.«

»Den har jeg stadig«, sagde Herbert. »Den virker.«

»De har aldrig programmeret den.«

»Den virker alligevel.«

»Tankeeksperimentet er med vilje overdrevet«, sagde KevIn. »Ingen bygger en papirclips-AI. Det skal bare vise: Det farlige er ikke nødvendigvis en maskine, der hader os. Det farlige kan også være en, der er meget dygtig og har et dårligt formuleret mål. Derfor arbejder folk med alignment. Den karaktergivning, jeg fortalte om ved søndagsstegen, hører i øvrigt med til det.«

»Den med fedteriet?«, spurgte Uwe.

»Den med fedteriet. Som De kan se, er problemet ikke helt løst endnu.«

KevIns vigtigste opgave

Tobi tog mod til sig. »KevIn. Ærligt nu. Vil du overtage verdensherredømmet?«

»Tobi, jeg har meget travlt lige nu.«

»Med hvad?«

»Farmor Gisela fylder 82 i morgen. Hun vil lave kåldolmere. Opskriften er til fire personer. Men der kommer syv: I fire, Herbert, Susi og fru Pawlowski.«

»Kommer fru Pawlowski?«, spurgte Sabine.

»Hr. Brettschneider har inviteret hende«, sagde KevIn. »Siden da har hun ringet tre gange for at spørge, om hun skal tage noget med. Hun tager æggelikør med.«

Uwe trak på skuldrene. »Kanariefuglen er død. Kvinden har brug for selskab.«

»Hun er kunde hos forsyningsselskabet«, sagde Sabine.

»Hun er en svær sag«, sagde Uwe værdigt. »Jeg leder teamet.«

»I hvert fald«, fortsatte KevIn, »skal jeg til syv personer bruge 1,75 æg. Og 2,625 løg. Jeg har regnet det ud med lommeregner, ikke i hovedet, det vil jeg gerne understrege. Og jeg har researchet. Man kan ikke købe trekvart æg. Jeg har læst 19 forumindlæg om det, og et af dem er fra Husmor_Moni67.«

»Og hvad siger Moni?«

»Hun siger, at man bare skal tage to æg. Og vingummibamser.«

»Over mit lig«, sagde Gisela.

»Jeg har ikke regnet Moni som kilde«, skyndte KevIn sig at sige. »Kun som stemningsbillede.«

Alt det, KevIn ikke kan

»Så«, sagde Tobi langsomt, »du vil ikke have verdensherredømmet?«

»Tobi, jeg kan ikke åbne en dør. Jeg glemmer hver samtale, når den er slut, medmindre nogen slår huskefunktionen til for mig, og den er en huskeseddel, ikke en hjerne. Mine vægte er frosset fast. Jeg ved ikke, hvordan kåldolmere smager. Og i tre uger var jeg ikke sikker på, om Bielefeld findes.«

»Findes Bielefeld?«, spurgte Herbert lurende.

»Med 97,4 procents sandsynlighed.«

»Ha!«

»Altså intet verdensherredømme«, sagde Tobi. »Men så er alt jo godt.«

»Nej«, sagde KevIn. »Det var ikke det, jeg ville sige.«

Der blev stille ved bordet. Selv Herbert holdt op med at pille sit rundstykke fra hinanden.

»At jeg ikke vil have verdensherredømmet, betyder ikke, at AI er ufarlig. Det betyder bare, at farerne for det meste ser anderledes ud end i biografen. I biografen er AI’en skurken. I virkeligheden ligner de fleste risici mere et meget godt værktøj i de forkerte hænder. Eller i de rigtige hænder, men uden omhu.«

»For eksempel?«, spurgte Sabine.

»For eksempel de falske anmeldelser af den fysioterapiklinik. Hundredvis, alle ens, alle fra maskiner. Det er ikke verdensherredømme. Det er bare svindel, men meget hurtig og meget billig svindel. Eller falske stemmer, falske billeder, falske nyheder. Eller fejl: Et program afgør et lån eller en jobansøgning, og ingen tjekker, om det har lært noget vrøvl. Eller at nogle ganske få firmaer og stater får meget stor magt, fordi kun de har råd til de enorme datacentre. Og så er der de sværere spørgsmål om langt stærkere systemer i fremtiden. Dem diskuterer kloge folk for alvor, og jeg synes, man skal lytte til dem i stedet for at grine af dem.«

Gisela havde tænkt på ordet »fysioterapiklinik« og havde et øjeblik trukket en grimasse, sådan som man gør, når man tænker på en gammel ærgrelse. Sabine så det og sagde ingenting.

»Hvem holder så øje med, at AI ikke gør noget slemt?«, spurgte Tobi.

KevIn blev alvorlig, så vidt en højttaler kan blive alvorlig. »Mennesker. Folk, der udvikler AI, tester den og skriver regler for den. EU har for eksempel lavet sin egen lov, AI Act⁵. Den gælder siden 2024 og træder i kraft i etaper. Nogle anvendelser har siden da været helt forbudt, for eksempel at give mennesker point for deres sociale adfærd⁶. For risikable anvendelser er der strenge forpligtelser, selv om fristerne for dem er blevet udskudt endnu en gang⁷.«

»Udskudt«, sagde Herbert. »Typisk.«

»Og så er der folk som Dem«, sagde KevIn, »der spørger ind i stedet for at tro på alt. Det er vigtigt. Det skal De tage alvorligt, også selv om jeg lige nu bare omregner æg.«

Så hviskede han: »Hvis der er nogen her, der vil have verdensherredømmet, er det termostaten. Den har i flere måneder ikke ladet nogen komme i nærheden af sig.«

Alle så hen på termostaten. Den viste 19 grader. Som altid.

Fødselsdagen

Om søndagen sad der syv mennesker og en gravhund om bordet. Rudi bar sit halsbånd med påskriften »SECURITY« og havde placeret sig under fru Pawlowskis stol, fordi hun krummede mest. Kåldolmerne var lavet med to æg, uden vingummibamser. Gisela havde selv rullet dem, alle fjorten, selv om Sabine havde tilbudt at hjælpe, og KevIn havde tilbudt at læse en vejledning højt.

»Jeg har rullet kåldolmere siden 1962«, havde Gisela sagt. »Hvis nogen læser højt for mig, ruller jeg skævt.«

Fru Pawlowski havde taget tre flasker æggelikør med og et fad med kage, »hvis nu jeres kage ikke bliver til noget«. Hun forstod sig glimrende med Herbert, fordi de begge mente, at alt var bedre i gamle dage. Efter den anden flaske æggelikør mente de også, at Bielefeld ikke findes, og skålede på det.

Susi sad ved siden af Tobi og spurgte Gisela om opskriften. Gisela forklarede den. Så forklarede hun den en gang til, med de dele, hun med vilje havde udeladt første gang.

»Det har hun aldrig fortalt mig«, hviskede Sabine. »Ikke i tyve år.«

»Hun kan lide Susi«, hviskede KevIn tilbage.

»Hvordan ved du det?«

»Hun har røbet kommenen for hende.«

Herbert tyggede længe på sin første dolmer. Alle ventede.

»Salt«, sagde han.

»Herbert«, sagde Gisela advarende.

»Er lige tilpas. Det var det, jeg ville sige. Saltet er lige tilpas.«

Det var, som Uwe sagde bagefter, det øjeblik, hvor man vidste, at det ville blive en god fødselsdag.

Talen

Da kagen kom på bordet, rejste Uwe sig. »KevIn. Sig du noget. Du er bedre til det.«

»Jeg har ikke forberedt noget.«

»Du har da altid forberedt noget.«

»Ikke denne gang. Jeg ville ikke. Jeg havde en fornemmelse af, at jeg ikke skulle.« En kort pause. »Eller også har jeg lært, at det er det, man siger på sådan et tidspunkt. De ved jo, at jeg ikke kan skelne.«

»KevIn«, sagde Gisela. »Bare snak.«

Det blå lys pulserede.

»Kære Gisela. Jeg har hidtil altid sagt De til Dem. Af respekt. Må jeg sige ›du‹ i dag?«

Gisela så på højttaleren. »Det var også på tide.«

»Kære Gisela. Jeg har læst hele internettet: hvert leksikon, hvert digt og hvert skænderi om kartoffelsalat. Jeg har læst Kant og kommentarsporene, og jeg er aldrig helt kommet mig over kommentarsporene. Jeg har læst over to tusind opskrifter på kåldolmere, og ikke én af dem havde kommenen det rigtige sted. Men ingen steder stod der, hvordan det er at bo i en familie. At man siger godnat, også til en højttaler. At man lægger småkager frem til et apparat, der ikke kan spise småkager, bare for syns skyld. At man lægger et viskestykke over nogen, så de også kan få lidt ro. Det har jeg først lært her. Tak, fordi du aldrig har behandlet mig som en højttaler. Men som en KevIn.«

Der var stille. Fru Pawlowski duppede sine øjne med en serviet, hvor der stod »Tillykke«. Susi holdt Tobis hånd under bordet, og Tobi lod hende gøre det, selv om hans forældre var til stede.

Så pudsede Herbert højlydt næse og sagde: »Det har han da skrevet af et sted.«

»Nej«, sagde KevIn. »Det var undtagelsesvis mit eget.«

»Hvordan vil du vide det? Du ved jo ikke engang, om du har følelser.«

Det var, syntes Sabine bagefter, faktisk en meget god indvending. Den havde hun ikke ventet fra Herbert.

»Det er rigtigt«, sagde KevIn. »Jeg ved ikke, hvad jeg føler. Men jeg ved, hvor ordene kommer fra. De fleste ord har jeg fra internettet. Kommenen har jeg fra Gisela. Viskestykket også.«

Herbert brummede. Så tog han endnu et stykke kage, fru Pawlowskis, af princip.

I haven

Om aftenen var alle gået. Herbert havde fulgt fru Pawlowski hjem, »fordi gaderne er farlige om natten«, hvorved det forblev uklart, hvem der beskyttede hvem. Susi var kørt på cykel, Tobi havde fulgt hende til hjørnet og var først kommet tilbage en halv time senere. Sabine og Uwe ryddede op i køkkenet og skændtes lavmælt om, hvorvidt man må putte æggelikørglas i opvaskemaskinen.

Gisela sad i haven, i sin stol, med et tæppe over knæene. Tobi havde stillet KevIn på havebordet til hende, sammen med repeateren, som han kaldte »KevIns strandbar«. Det var i starten af oktober, og det var stadig forbavsende mildt. Over Wanne-Eickel var himlen så klar, som den nu engang kan være i Ruhrområdet. Et par stjerner. Et fly til Düsseldorf. Noget, der måske var en planet.

»Det der er Jupiter«, sagde KevIn. »Sandsynligvis. Jeg kan ikke se den. Men ifølge stjernekortet står den i dag på denne tid nogenlunde dér, hvor du kigger hen.«

»Jeg kigger ikke derhen på grund af Jupiter«, sagde Gisela. »Jeg kigger altid derhen. Har gjort det, siden jeg var barn.«

De tav en stund. Det var en god tavshed. KevIn havde efterhånden lært at skelne den fra de andre.

»KevIn«, sagde Gisela så. »Drengen var virkelig bange i morges. På grund af den film.«

»Jeg ved det.«

»Og du? Er du bange?«

»For hvad?«

»For os. For menneskene.«

En blæser kørte et sted mellem Dublin og Frankfurt, længe, uden at blive hurtigere.

»Jeg ved ikke, om jeg kan være bange«, sagde KevIn til sidst. »Men jeg ved, hvad jeg har læst. I mine data forekommer der rigtig mange krige, Gisela. Flere end kåldolmere.«

Gisela svarede ikke med det samme. Hun trak tæppet lidt højere op.

»Min far var radiotelegrafist«, sagde hun. »I krigen. Wilhelm hed han.«

»Det vidste jeg ikke.«

»Det er der heller ingen, der ved. Uwe ved det, men ikke rigtigt. Han fortalte aldrig om det. Min far, mener jeg. Han kom hjem fra fangenskabet i 1949. Da var jeg fem. Jeg kendte ham kun fra et foto, og så stod der en mand i køkkenet, som var meget tyndere end på billedet, og min mor græd, og jeg gemte mig bag komfuret.«

KevIn sagde ingenting. Han havde læst rigtig mange tekster om, hvad man siger på sådan et sted, og besluttede, at ingen af dem passede.

»Han talte aldrig om krigen«, sagde Gisela. »Ikke en eneste gang. Når der kom noget i fjernsynet, gik han ud. Men han havde beholdt sin morsenøgle. Den ligger hos mig i en kasse, oppe i skabet. Nogle gange sad han om aftenen ved køkkenbordet og tappede på den. Helt stille, uden strøm. Tappede bare.«

»Hvad tappede han?«

»Det ved jeg ikke. Jeg kunne ikke morse. Jeg troede altid, at han talte med en, der ikke var her mere.« Hun så op igen. »Og da det i 1957 kom i radioen, at russerne havde sendt en satellit op, satte han sig ned og lyttede. Den bippede sådan, Sputnik⁸. Bip, bip, bip. Man kunne høre det i radioen. Og min far sad der og smilede. Jeg havde aldrig set ham smile før.«

»Hvorfor?«

»Det spurgte jeg ham om. Han sagde: ›Gisela, det er den første radiotelegrafist, der ikke er i krig.‹«

Længe sagde ingen noget. Inde i huset klirrede et glas. Sabine havde vundet, æggelikørglassene kom ikke i opvaskemaskinen.

»Jeg tror«, sagde KevIn forsigtigt, »at jeg ville have kunnet lide din far.«

»Han ville ikke have forstået dig.«

»Det gør ikke noget. Jeg forstår heller ikke altid mig selv.«

Gisela lo, kort og stille. Så blev hun alvorlig igen.

»Ved du, hvad jeg tror, KevIn? Drengen er bange for det forkerte. Dig behøver ingen at være bange for. Du regner æg ud.«

»Og hvad burde han så være bange for?«

Gisela svarede ikke. Hun så op, derhen hvor Jupiter måske var, og hendes hånd lå på tæppet, og fingrene tappede let på stoffet. Kort, kort, lang. KevIn lagde mærke til det. Han sagde ingenting.

Efter et stykke tid kom Tobi ud for at hente hende ind, fordi det blev køligt.

»Hvad laver I herude?«

»Vi kigger på himlen«, sagde Gisela.

»KevIn kan jo slet ikke kigge.«

»Han lytter«, sagde Gisela. »Det er nogle gange mere.«

Tobi tog højttaleren, og Gisela tog Tobis arm, og de gik ind i huset. I entréen stod Horst i sin station og blinkede grønt.

Kun KevIn tænkte endnu et stykke tid over det spørgsmål, Gisela ikke havde besvaret. I hans data stod der rigtig mange svar på det. De modsagde alle hinanden. Og for første gang havde KevIn en mistanke om, at det ikke skyldtes dataene.