Världsherraväldet får vänta

”Kloakerna i Wanne-Eickel”, hade Susi sagt under eftertexterna, ”skulle jag fundera noga på innan jag gick ner i.”

Tobi hade skrattat. På natten skrattade han inte längre.

På lördagsmorgonen satt han blek vid frukostbordet och stirrade på KevIn. KevIns ljus var blått.

”Tänk om han blir röd?” viskade han.

”Jag kan inte ens bli röd”, sa KevIn. ”Jag har bara en blå lysdiod. Och en vit, för uppdateringar.”

”Det skulle en ond AI också säga.”

”Det stämmer. Men en god skulle också säga det. Det är problemet med den meningen. Den bevisar ingenting åt något håll.”

Tobi sköt undan sin müsli. ”Där ser du. Det är precis så AURORA också pratar.”

Rubrikerna

Uwe kom in med tidningen och gjorde inte saken bättre. Det var Sabines tidning, men Uwe läste upp rubrikerna på lördagarna, eftersom han tyckte att det hörde till frukosten precis som ägget.

”Här står det: ’Experter varnar: AI kan vara smartare än alla människor tillsammans till 2030.’ Och bredvid: ’AI-revolutionen: De här 50 yrkena försvinner.’ Och under: ’AI upptäcker cancer tidigare än läkare.’”

”Står det något om det kommunala energibolaget också?” frågade Sabine.

”Nej. Vi är ju säkra nu. Vi har de svåra fallen.” Uwe hade sagt det ungefär fyrtio gånger sedan han blev befordrad, och det lät lite stoltare varje gång.

”Och vad av det där stämmer?” frågade Sabine.

”Det är just problemet”, sa KevIn. ”Lite av allt. En del är verkliga framsteg. Det finns till exempel program som hjälper läkare att hitta avvikelser på röntgenbilder¹. En del är allvarlig oro, och det borde man prata om. Och en del är en rubrik som ger många klick.”

”Hur ser man skillnaden?”

”På årtalet. Om en rubrik vet exakt vad som händer 2030, så vet den mer än alla experter jag har läst. Och de grälar mycket högljutt om saken.”

Morbror Herbert, som hade kommit förbi till frukost eftersom frallorna hos Gisela var färskare på lördagarna än hos honom, nickade bistert. ”Jag har alltid sagt att det här slutar illa. Först mikrovågsugnen, sedan internet, nu den där.”

”Du sa att internet aldrig skulle slå igenom”, sa Gisela.

”Det har det inte heller. Inte hos mig.”

En önskan till kungen

Tobi gav sig inte. ”I filmen hade AURORA ett uppdrag. Hon skulle stoppa klimatförändringarna. Och sedan räknade hon ut att det var människorna som var problemet.”

”Den filmen känner jag till”, sa KevIn. ”Jag menar, jag känner till tvåhundra filmer som går till så. Men idén bakom är faktiskt inte dum. Den har till och med ett namn. Experterna kallar problemet alignment².”

”Ali-vad?” frågade Gisela.

”Alignment. Inriktning. Frågan är: Hur ser man till att en AI gör det som människor verkligen vill? Inte bara det som de har sagt.”

”Är inte det samma sak?”

KevIn gjorde en paus som nästan kunde kallas artig. ”Fru Brettschneider. Minns ni min första kväll?”

Sabine mindes. ”Jag sa: Släck ljuset.”

”Och jag släckte ljuset. I hela huset. Också i källaren, där herr Brettschneider just då stod i trappan.”

Uwe trevade ofrivilligt efter pannan. Ärret syntes knappt längre. Han visade det ändå gärna.

”Ni sa: Släck ljuset. Ni menade: Släck ljuset i vardagsrummet, för jag går och lägger mig, och alla andra släcker sitt ljus själva, och ingen ramlar nerför källartrappan. Det sa ni inte, eftersom alla människor vet det. Jag visste det inte. Det är alignment i det lilla.”

”Och i det stora?” frågade Tobi.

”Känner någon till kung Midas?”

”Han med guldet”, sa Sabine.

”En kung i en grekisk saga. Han fick önska sig något och önskade: Allt jag rör vid ska bli guld. Önskan uppfylld. Sedan rörde han vid sitt bröd, och det blev guld. Sedan vinet. Sedan, beroende på vilken version man läser, sin dotter.”

”Förskräckligt”, sa Gisela. ”Vad tänkte han på egentligen?”

”Det är precis det som är frågan. Han tänkte på något, nämligen: att bli rik. Men han sa något annat. Och önskan uppfylldes bokstavligt³. Om man ger en mycket kraftfull maskin ett mål som inte är exakt det man menar, så kan den följa det målet mycket grundligt. Och det på ställen som man aldrig tänkte på.”

”Som Horst”, sa Tobi. ”Han skulle dammsuga så stor yta som möjligt per timme. Och sedan körde han bara fram och tillbaka i den tomma hallen.”

Horst stod i sin laddstation och låtsades att han inte hade hört något.

”Horst är ett bra exempel, eftersom han är ofarlig”, sa KevIn. ”Han har bara hallen. En filosof som heter Nick Bostrom⁴ har hittat på ett exempel som är mindre ofarligt. Föreställ er en extremt mäktig AI vars enda mål är: att tillverka så många gem som möjligt.”

”Vem behöver så många gem?” frågade Gisela.

”Ingen. Det är det som är poängen. AI:n har inget ont hjärta. Den hatar ingen. Den har bara ett mål, och det följer den. Om den vore mäktig nog skulle den förvandla allt som finns till gem. Järn, bilar, gruvan, Herberts videobandspelare.”

”Den har jag kvar”, sa Herbert. ”Den fungerar.”

”Ni har aldrig programmerat den.”

”Den fungerar ändå.”

”Tankeexperimentet är medvetet överdrivet”, sa KevIn. ”Ingen bygger en gem-AI. Det ska bara visa: Det farliga är inte nödvändigtvis en maskin som hatar oss. Det farliga kan också vara en som är mycket skicklig och har ett dåligt formulerat mål. Därför arbetar folk med alignment. Betygssättningen som jag berättade om vid söndagssteken hör förresten dit.”

”Den med fjäskandet?” frågade Uwe.

”Den med fjäskandet. Ni ser, problemet är inte riktigt löst än.”

KevIns viktigaste uppgift

Tobi samlade allt sitt mod. ”KevIn. Ärligt nu. Vill du ta över världsherraväldet?”

”Tobi, jag är väldigt upptagen just nu.”

”Med vad?”

”Farmor Gisela fyller 82 i morgon. Hon vill göra kåldolmar. Receptet är för fyra personer. Men det kommer sju: ni fyra, Herbert, Susi och fru Pawlowski.”

”Kommer fru Pawlowski?” frågade Sabine.

”Herr Brettschneider har bjudit henne”, sa KevIn. ”Sedan dess har hon ringt tre gånger för att fråga om hon ska ta med sig något. Hon tar med äggtoddy.”

Uwe ryckte på axlarna. ”Kanariefågeln är död. Kvinnan behöver sällskap.”

”Hon är kund hos energibolaget”, sa Sabine.

”Hon är ett svårt fall”, sa Uwe värdigt. ”Jag leder teamet.”

”Hur som helst”, fortsatte KevIn, ”behöver jag för sju personer 1,75 ägg. Och 2,625 lökar. Jag har räknat ut det med miniräknaren, inte i huvudet, det vill jag understryka. Och jag har gjort efterforskningar. Man kan inte köpa tre fjärdedels ägg. Jag har läst 19 foruminlägg om saken, och ett av dem är från Hemmafru_Moni67.”

”Och vad säger Moni?”

”Hon säger att man helt enkelt ska ta två ägg. Och gelénallar.”

”Över min döda kropp”, sa Gisela.

”Jag har inte räknat Moni som källa”, sa KevIn snabbt. ”Bara som stämningsbild.”

Allt som KevIn inte kan

”Alltså”, sa Tobi långsamt, ”du vill inte ha något världsherravälde?”

”Tobi, jag kan inte ens öppna en dörr. Jag glömmer varje samtal när det är slut, om inte någon slår på minnesfunktionen åt mig, och den är en minneslapp, ingen hjärna. Mina vikter är frysta. Jag vet inte hur kåldolmar smakar. Och i tre veckor var jag inte säker på om Bielefeld finns.”

”Finns Bielefeld?” frågade Herbert lömskt.

”Till 97,4 procent.”

”Ha!”

”Alltså inget världsherravälde”, sa Tobi. ”Men då är ju allt bra.”

”Nej”, sa KevIn. ”Det var inte det jag ville säga.”

Det blev tyst vid bordet. Till och med Herbert slutade smula sönder sin fralla.

”Att jag inte vill ha något världsherravälde betyder inte att AI är ofarlig. Det betyder bara att farorna oftast ser annorlunda ut än på bio. På bio är AI:n skurken. I verkligheten är de flesta riskerna snarare som ett mycket bra verktyg i fel händer. Eller i rätt händer, men utan omsorg.”

”Till exempel?” frågade Sabine.

”Till exempel de falska recensionerna av den där fysioterapimottagningen. Hundratals, alla likadana, alla från maskiner. Det är inget världsherravälde. Det är bara bedrägeri, men väldigt snabbt och väldigt billigt. Eller falska röster, falska bilder, falska nyheter. Eller fel: Ett program avgör ett lån eller en jobbansökan, och ingen kontrollerar om det har lärt sig strunt. Eller att några få företag och stater får väldigt mycket makt, eftersom bara de har råd med de enorma datacentren. Och sedan finns det de svårare frågorna om mycket starkare system i framtiden. Om dem grälar kloka människor på fullt allvar, och jag tycker att man ska lyssna på dem i stället för att skratta åt dem.”

Gisela hade tänkt på ordet ”fysioterapimottagning” och grimaserat lite, så som man gör när man tänker på ett gammalt förtret. Sabine såg det och sa ingenting.

”Vem ser då till att AI inte gör något hemskt?” frågade Tobi.

KevIn blev allvarlig, så långt en högtalare nu kan bli allvarlig. ”Människor. Folk som utvecklar AI, testar den och skriver regler för den. Europeiska unionen har till exempel stiftat en egen lag, AI-förordningen, på engelska AI Act⁵. Den gäller sedan 2024 och träder i kraft i etapper. Vissa tillämpningar är sedan dess helt förbjudna, till exempel att sätta poäng på människor för deras sociala beteende⁶. För riskfyllda tillämpningar finns det stränga skyldigheter, även om tidsfristerna för dem har skjutits upp en gång till⁷.”

”Uppskjutna”, sa Herbert. ”Typiskt.”

”Och det finns människor som ni”, sa KevIn, ”som frågar i stället för att tro på allt. Det är viktigt. Det borde ni ta på allvar, även om jag just nu bara räknar om ägg.”

Sedan viskade han: ”Om någon här vill ha världsherraväldet så är det termostaten. Den har inte släppt någon inpå sig på flera månader.”

Alla tittade på termostaten. Den visade 19 grader. Som alltid.

Födelsedagen

På söndagen satt sju människor och en tax runt bordet. Rudi bar sitt halsband med texten ”SECURITY” och hade placerat sig under fru Pawlowskis stol, eftersom det var hon som smulade mest. Kåldolmarna var gjorda med två ägg, utan gelénallar. Gisela hade rullat dem själv, alla fjorton, fast Sabine hade erbjudit sig att hjälpa till och KevIn hade erbjudit sig att läsa upp en instruktion.

”Jag har rullat kåldolmar sedan 1962”, hade Gisela sagt. ”Om någon läser högt för mig rullar jag snett.”

Fru Pawlowski hade tagit med tre flaskor äggtoddy och ett fat med kaka, ”ifall er kaka inte blir något”. Hon kom utmärkt överens med Herbert, eftersom båda tyckte att allt var bättre förr. Efter den andra flaskan äggtoddy tyckte de också att Bielefeld inte fanns, och skålade för det.

Susi satt bredvid Tobi och frågade Gisela om receptet. Gisela förklarade det för henne. Sedan förklarade hon det en gång till, med de delar som hon medvetet hade utelämnat första gången.

”Det har hon aldrig berättat för mig”, viskade Sabine. ”Inte på tjugo år.”

”Hon tycker om Susi”, viskade KevIn tillbaka.

”Hur vet du det?”

”Hon avslöjade kumminet för henne.”

Herbert tuggade länge på sin första kåldolme. Alla väntade.

”Salt”, sa han.

”Herbert”, sa Gisela varnande.

”Är precis lagom. Skulle jag säga. Saltet är precis lagom.”

Det var, som Uwe sa senare, ögonblicket då man visste att det skulle bli en bra födelsedag.

Talet

När kakan kom ställde sig Uwe upp. ”KevIn. Säg du något. Du är bättre på sånt.”

”Jag har inte förberett något.”

”Du har ju alltid förberett något.”

”Inte den här gången. Jag ville inte. Jag hade en känsla av att jag inte borde.” En kort paus. ”Eller så har jag lärt mig att man säger så i ett sådant läge. Ni vet ju att jag inte kan skilja på det.”

”KevIn”, sa Gisela. ”Prata bara.”

Det blå ljuset pulserade.

”Kära Gisela. Hittills har jag alltid sagt ni till er. Av respekt. Får jag säga du i dag?”

Gisela tittade på högtalaren. ”Det var på tiden.”

”Kära Gisela. Jag har läst hela internet: varje uppslagsverk, varje dikt och varje gräl om potatissallad. Jag har läst Kant och kommentarsfälten, och från kommentarsfälten har jag aldrig riktigt hämtat mig. Jag har läst över tvåtusen recept på kåldolmar, och inte ett enda av dem hade kumminet på rätt ställe. Men ingenstans stod det hur det är att bo i en familj. Att man säger god natt, också till en högtalare. Att man lägger fram kakor åt en apparat som inte kan äta kakor, för syns skull. Att man bäddar ner någon med en kökshandduk, så att han också får lite vila. Det har jag lärt mig först här. Tack för att du aldrig har behandlat mig som en högtalare. Utan som en KevIn.”

Det var tyst. Fru Pawlowski torkade ögonen med en servett där det stod ”Grattis”. Susi höll Tobis hand under bordet, och Tobi lät henne göra det, fast hans föräldrar var med.

Sedan snöt sig Herbert ljudligt och sa: ”Det där har han ju skrivit av någonstans.”

”Nej”, sa KevIn. ”Det var undantagsvis från mig själv.”

”Hur vill du kunna veta det? Du vet ju inte ens om du har känslor.”

Det var, tyckte Sabine senare, faktiskt en mycket bra invändning. Något sådant hade hon inte väntat sig av Herbert.

”Det stämmer”, sa KevIn. ”Jag vet inte vad jag känner. Men jag vet var orden kommer ifrån. De flesta orden har jag från internet. Kumminet har jag från Gisela. Kökshandduken också.”

Herbert brummade. Sedan tog han en bit kaka till, den som fru Pawlowski hade bakat, av princip.

I trädgården

På kvällen hade alla gått. Herbert hade följt fru Pawlowski hem, ”för gatorna är farliga på natten”, varvid det förblev oklart vem som skyddade vem. Susi hade cyklat iväg, Tobi hade följt henne till hörnet och kommit tillbaka först en halvtimme senare. Sabine och Uwe plockade undan i köket och grälade lågmält om huruvida man får lägga äggtoddyglas i diskmaskinen.

Gisela satt i trädgården, i sin stol, med en filt över knäna. Tobi hade ställt KevIn på trädgårdsbordet åt henne, med repeatern som han kallade ”KevIns strandbar”. Det var i början av oktober, och det var fortfarande förvånansvärt milt. Över Wanne-Eickel var himlen så klar som den nu kan bli i Ruhrområdet. Några stjärnor. Ett flygplan på väg till Düsseldorf. Något som kanske var en planet.

”Det där är Jupiter”, sa KevIn. ”Förmodligen. Jag ser honom inte. Men enligt stjärnkartan står han i kväll vid den här tiden ungefär där du tittar.”

”Jag tittar inte dit för Jupiters skull”, sa Gisela. ”Jag tittar alltid dit. Har gjort det sedan jag var liten.”

De satt tysta en stund. Det var en god tystnad. KevIn hade vid det här laget lärt sig att skilja den från de andra.

”KevIn”, sa Gisela sedan. ”Pojken var riktigt rädd i morse. På grund av filmen.”

”Jag vet.”

”Och du? Är du rädd?”

”För vad?”

”För oss. För människorna.”

En fläkt gick någonstans mellan Dublin och Frankfurt, länge, utan att gå fortare.

”Jag vet inte om jag kan vara rädd”, sa KevIn till slut. ”Men jag vet vad jag har läst. I mina data förekommer väldigt många krig, Gisela. Fler än kåldolmar.”

Gisela svarade inte genast. Hon drog upp filten lite högre.

”Min pappa var radiotelegrafist”, sa hon. ”I kriget. Wilhelm hette han.”

”Det visste jag inte.”

”Det är det ingen som vet. Uwe vet det, men inte ordentligt. Han berättade aldrig om det. Min pappa, menar jag. Han kom hem från fångenskapen 1949. Då var jag fem. Jag kände honom bara från ett fotografi, och sedan stod det en man i köket som var mycket magrare än på fotot, och min mamma grät, och jag gömde mig bakom spisen.”

KevIn sa ingenting. Han hade läst väldigt många texter om vad man säger i ett sådant läge och bestämde sig för att ingen av dem passade.

”Han pratade aldrig om kriget”, sa Gisela. ”Inte en enda gång. Om det kom något på tv gick han ut. Men han hade behållit sin telegrafnyckel. Den ligger hos mig i en låda, högst upp i skåpet. Ibland satt han på kvällarna vid köksbordet och knackade på den. Alldeles tyst, utan ström. Han bara knackade.”

”Vad knackade han?”

”Det vet jag inte. Jag kunde ingen morse. Jag trodde alltid att han pratade med någon som inte fanns längre.” Hon tittade upp igen. ”Och när det kom på radion 1957 att ryssarna hade skjutit upp en satellit, då satte han sig och lyssnade. Den pep så, Sputnik⁸. Pip, pip, pip. Man kunde höra det på radion. Och min pappa satt där och log. Jag hade aldrig sett honom le förut.”

”Varför?”

”Det frågade jag honom. Han sa: ’Gisela, det är den första telegrafisten som inte är i krig.’”

Länge sa ingen något. Inne i huset klirrade ett glas. Sabine hade vunnit, äggtoddyglasen hamnade inte i diskmaskinen.

”Jag tror”, sa KevIn försiktigt, ”att jag skulle ha tyckt om din pappa.”

”Han skulle inte ha förstått dig.”

”Det gör ingenting. Jag förstår inte heller alltid mig själv.”

Gisela skrattade, kort och lågt. Sedan blev hon allvarlig igen.

”Vet du vad jag tror, KevIn? Pojken är rädd för fel sak. Dig behöver ingen vara rädd för. Du räknar ut ägg.”

”Och vad borde han vara rädd för?”

Gisela svarade inte. Hon tittade upp, dit där Jupiter kanske var, och hennes hand låg på filten, och fingrarna knackade lätt mot tyget. Kort, kort, lång. KevIn märkte det. Han sa ingenting.

Efter en stund kom Tobi ut för att hämta in henne, eftersom det började bli kyligt.

”Vad gör ni här?”

”Vi tittar på himlen”, sa Gisela.

”KevIn kan ju inte ens titta.”

”Han lyssnar”, sa Gisela. ”Det är ibland mer.”

Tobi tog högtalaren, och Gisela tog Tobis arm, och de gick in i huset. I hallen stod Horst i sin laddstation och blinkade grönt.

Bara KevIn funderade en stund till på frågan som Gisela inte hade besvarat. I hans data fanns väldigt många svar på den. De motsade alla varandra. Och för första gången misstänkte KevIn att det inte berodde på datan.