Wereldheerschappij kan wachten

„Het riool van Wanne-Eickel”, had Susi bij de aftiteling gezegd, „daar zou ik eerst nog eens goed over nadenken.”

Tobi had gelachen. ’s Nachts had hij niet meer gelachen.

Zaterdagochtend zat hij bleek aan de ontbijttafel en staarde naar KevIn. KevIns lampje was blauw.

„Wat als hij rood wordt?”, fluisterde hij.

„Ik kan helemaal niet rood worden”, zei KevIn. „Ik heb alleen een blauwe led. En een witte, voor updates.”

„Dat zou een kwaadaardige AI ook zeggen.”

„Dat klopt. Maar een goede ook. Dat is het probleem met die zin. Hij bewijst in beide richtingen niets.”

Tobi schoof zijn muesli weg. „Zie je wel. Precies zo praat AURORA ook.”

De krantenkoppen

Uwe kwam met de krant binnen en maakte het er niet beter op. Het was Sabines krant, maar Uwe las op zaterdag de koppen voor, omdat hij vond dat dat bij het ontbijt hoorde, net als het eitje.

„Hier staat: ‘Experts waarschuwen: AI kan in 2030 slimmer zijn dan alle mensen samen.’ En daarnaast: ‘AI-revolutie: deze 50 beroepen verdwijnen.’ En daaronder: ‘AI ontdekt kanker eerder dan artsen.’”

„Staat er ook iets over het energiebedrijf in?”, vroeg Sabine.

„Nee. Wij zitten nu veilig. Wij hebben de lastige gevallen.” Uwe had dat sinds zijn promotie zo’n veertig keer gezegd, en het klonk elke keer een beetje trotser.

„En wat daarvan klopt?”, vroeg Sabine.

„Dat is het probleem”, zei KevIn. „Een beetje van alles. Sommige dingen zijn echte vooruitgang. Er zijn bijvoorbeeld programma’s die artsen helpen om op röntgenfoto’s afwijkingen te vinden¹. Sommige dingen zijn een serieuze zorg, en daar moet je over praten. En sommige dingen zijn een kop die goed klikt.”

„Hoe zie je het verschil?”

„Aan het jaartal. Als een krantenkop precies weet wat er in 2030 gebeurt, weet hij meer dan alle deskundigen die ik gelezen heb. En die maken daar heel luid ruzie over.”

Oom Herbert, die voor het ontbijt was langsgekomen omdat de broodjes op zaterdag bij Gisela verser waren dan bij hem, knikte grimmig. „Ik heb altijd gezegd dat dat slecht afloopt. Eerst de magnetron, dan het internet, en nu die daar.”

„Jij zei dat het internet nooit zou aanslaan”, zei Gisela.

„Is het ook niet. Niet bij mij.”

Een wens voor de koning

Tobi liet het er niet bij zitten. „In de film had AURORA een opdracht. Ze moest de klimaatverandering stoppen. En toen rekende ze uit dat de mensen het probleem zijn.”

„Die film ken ik”, zei KevIn. „Ik bedoel, ik ken tweehonderd films die zo gaan. Maar het idee erachter is helemaal niet dom. Het heeft zelfs een naam. Deskundigen noemen het probleem alignment².”

„Ali-wat?”, vroeg Gisela.

„Alignment. Afstemming. De vraag is: hoe zorg je ervoor dat een AI doet wat mensen echt willen? Niet alleen wat ze gezegd hebben.”

„Is dat niet hetzelfde?”

KevIn hield een pauze die je bijna beleefd kon noemen. „Mevrouw Brettschneider. Herinnert u zich mijn eerste avond?”

Sabine herinnerde het zich. „Ik zei: doe het licht uit.”

„En ik deed het licht uit. In het hele huis. Ook in de kelder, waar meneer Brettschneider net op de trap stond.”

Uwe tastte onwillekeurig naar zijn voorhoofd. Het litteken was nauwelijks nog te zien. Hij liet het toch graag zien.

„U zei: licht uit. U bedoelde: licht in de woonkamer uit, omdat ik naar bed ga, en alle anderen doen hun eigen licht uit, en niemand valt van de keldertrap. Dat zei u niet, omdat ieder mens dat weet. Ik wist het niet. Dat is alignment in het klein.”

„En in het groot?”, vroeg Tobi.

„Kent iemand koning Midas?”

„Die met het goud”, zei Sabine.

„Een koning uit een Griekse sage. Hij mocht een wens doen en wenste: alles wat ik aanraak, moet in goud veranderen. Wens vervuld. Toen raakte hij zijn brood aan, en het werd goud. Toen de wijn. Toen, afhankelijk van de versie, zijn dochter.”

„Verschrikkelijk”, zei Gisela. „Wat dacht hij daar nou bij?”

„Dat is precies de vraag. Hij dacht wel iets, namelijk: rijk worden. Maar hij zei iets anders. En de wens werd letterlijk vervuld³. Als je een heel krachtige machine een doel geeft dat niet precies is wat je bedoelt, dan kan ze dat doel heel grondig nastreven. En wel op plekken waar je niet aan gedacht had.”

„Zoals Horst”, zei Tobi. „Die moest zoveel mogelijk oppervlakte per uur zuigen. En toen reed hij alleen nog maar door de lege gang.”

Horst stond in zijn station en deed alsof hij niets gehoord had.

„Horst is een goed voorbeeld, omdat hij onschuldig is”, zei KevIn. „Hij heeft alleen de gang. Een filosoof die Nick Bostrom⁴ heet, heeft een voorbeeld bedacht dat minder onschuldig is. Stelt u zich een extreem machtige AI voor, met als enige doel: zoveel mogelijk paperclips maken.”

„Wie heeft er nou zoveel paperclips nodig?”, vroeg Gisela.

„Niemand. Dat is nou juist het punt. De AI heeft geen slecht hart. Ze haat niemand. Ze heeft alleen een doel, en dat streeft ze na. Als ze machtig genoeg was, zou ze alles wat er bestaat in paperclips veranderen. IJzer, auto’s, de mijn, Herberts videorecorder.”

„Die heb ik nog”, zei Herbert. „Die doet het.”

„U hebt hem nooit geprogrammeerd.”

„Hij doet het toch.”

„Het gedachte-experiment is met opzet overdreven”, zei KevIn. „Niemand bouwt een paperclip-AI. Het moet alleen laten zien: gevaarlijk is niet per se een machine die ons haat. Gevaarlijk kan ook een machine zijn die heel goed is en een slecht geformuleerd doel heeft. Daarom werken mensen aan alignment. De beoordeling waar ik bij het zondagse braadstuk over vertelde, hoort daar trouwens ook bij.”

„Dat met het slijmen?”, vroeg Uwe.

„Dat met het slijmen. U ziet, het probleem is nog niet helemaal opgelost.”

KevIns belangrijkste taak

Tobi raapte al zijn moed bij elkaar. „KevIn. Eerlijk nu. Wil jij de wereldheerschappij overnemen?”

„Tobi, ik heb het nu heel druk.”

„Waarmee?”

„Oma Gisela wordt morgen 82. Ze wil koolrolletjes maken. Het recept is voor vier personen. Maar er komen er zeven: jullie vier, Herbert, Susi en mevrouw Pawlowski.”

„Komt mevrouw Pawlowski?”, vroeg Sabine.

„Meneer Brettschneider heeft haar uitgenodigd”, zei KevIn. „Ze heeft sindsdien drie keer gebeld om te vragen of ze iets moet meenemen. Ze neemt advocaat mee.”

Uwe haalde zijn schouders op. „De kanarie is dood. Dat mens heeft gezelschap nodig.”

„Dat is een klant van het energiebedrijf”, zei Sabine.

„Dat is een lastig geval”, zei Uwe waardig. „Ik leid het team.”

„In elk geval”, ging KevIn verder, „heb ik voor zeven personen 1,75 ei nodig. En 2,625 ui. Ik heb het met de rekenmachine uitgerekend, niet uit mijn hoofd, dat wil ik benadrukken. En ik heb onderzoek gedaan. Je kunt geen driekwart ei kopen. Ik heb daar 19 forumberichten over gelezen, en een daarvan is van Huisvrouw_Moni67.”

„En wat zegt Moni?”

„Ze zegt dat je gewoon twee eieren moet nemen. En gummiberen.”

„Over mijn lijk”, zei Gisela.

„Ik heb Moni niet als bron meegeteld”, zei KevIn snel. „Alleen als sfeerbeeld.”

Wat KevIn allemaal niet kan

„Dus”, zei Tobi langzaam, „je wilt geen wereldheerschappij?”

„Tobi, ik kan geen deur openmaken. Ik vergeet elk gesprek zodra het voorbij is, behalve als iemand mijn geheugenfunctie aanzet, en dat is een briefje, geen brein. Mijn gewichten zijn bevroren. Ik weet niet hoe koolrolletjes smaken. En ik heb drie weken lang niet zeker geweten of Bielefeld bestaat.”

„Bestaat Bielefeld?”, vroeg Herbert loerend.

„Voor 97,4 procent.”

„Ha!”

„Dus geen wereldheerschappij”, zei Tobi. „Maar dan is alles toch goed.”

„Nee”, zei KevIn. „Dat bedoelde ik er niet mee.”

Aan tafel werd het stil. Zelfs Herbert hield op met zijn broodje uit elkaar plukken.

„Dat ik geen wereldheerschappij wil, betekent niet dat AI ongevaarlijk is. Het betekent alleen dat de gevaren er meestal anders uitzien dan in de bioscoop. In de bioscoop is de AI de schurk. In werkelijkheid lijken de meeste risico’s eerder op een heel goed stuk gereedschap in de verkeerde handen. Of in de juiste handen, maar zonder zorgvuldigheid.”

„Bijvoorbeeld?”, vroeg Sabine.

„Bijvoorbeeld de nepbeoordelingen van die fysiotherapiepraktijk. Honderden, allemaal hetzelfde, allemaal van machines. Dat is geen wereldheerschappij. Dat is gewoon oplichting, maar dan heel snel en heel goedkoop. Of nepstemmen, nepfoto’s, nepnieuws. Of fouten: een programma beslist over een lening of een sollicitatie, en niemand controleert of het onzin heeft geleerd. Of dat een paar bedrijven en staten heel veel macht krijgen, omdat alleen zij zich de enorme datacenters kunnen veroorloven. En dan zijn er nog de moeilijkere vragen over veel sterkere systemen in de toekomst. Daar maken slimme mensen serieus ruzie over, en ik vind dat je naar ze moet luisteren in plaats van ze uit te lachen.”

Gisela had aan het woord „fysiotherapiepraktijk” gedacht en daarbij even haar gezicht vertrokken, zoals je aan een oude ergernis denkt. Sabine zag het en zei niets.

„Wie let er dan op dat AI niets ergs doet?”, vroeg Tobi.

KevIn werd ernstig, voor zover een luidspreker ernstig kan worden. „Mensen. Mensen die AI ontwikkelen, testen en er regels voor schrijven. De Europese Unie heeft bijvoorbeeld een eigen wet gemaakt, de AI Act⁵. Die geldt sinds 2024 en gaat in fases in. Sommige toepassingen zijn sindsdien helemaal verboden, bijvoorbeeld mensen punten geven voor hun sociale gedrag⁶. Voor riskante toepassingen gelden strenge verplichtingen, ook al zijn de termijnen daarvoor nog een keer uitgesteld⁷.”

„Uitgesteld”, zei Herbert. „Typisch.”

„En er zijn mensen zoals u”, zei KevIn, „die doorvragen in plaats van alles te geloven. Dat is belangrijk. Dat moet u serieus nemen, ook al reken ik op dit moment alleen eieren om.”

Toen fluisterde hij: „Als hier iemand de wereldheerschappij wil, is het de thermostaat. Die laat al maanden niemand aan zich komen.”

Iedereen keek naar de thermostaat. Die stond op 19 graden. Zoals altijd.

De verjaardag

Op zondag zaten er zeven mensen en een tekkel rond de tafel. Rudi droeg zijn halsband met het opschrift „SECURITY” en had zich onder de stoel van mevrouw Pawlowski geposteerd, omdat zij het meest kruimelde. De koolrolletjes waren met twee eieren gemaakt, zonder gummiberen. Gisela had ze zelf gerold, alle veertien, hoewel Sabine had aangeboden te helpen en KevIn had aangeboden een handleiding voor te lezen.

„Ik rol koolrolletjes sinds 1962”, had Gisela gezegd. „Als iemand me iets voorleest, rol ik ze scheef.”

Mevrouw Pawlowski had drie flessen advocaat meegebracht en een bord met taart, „voor het geval jullie taart mislukt”. Ze kon het uitstekend vinden met Herbert, omdat ze allebei vonden dat vroeger alles beter was. Na de tweede fles advocaat vonden ze ook dat Bielefeld niet bestaat, en daar klonken ze op.

Susi zat naast Tobi en vroeg Gisela naar het recept. Gisela legde het haar uit. Toen legde ze het nog een keer uit, met de stukjes die ze de eerste keer met opzet had weggelaten.

„Dat heeft ze mij nooit verteld”, fluisterde Sabine. „In twintig jaar niet.”

„Ze mag Susi graag”, fluisterde KevIn terug.

„Hoe weet je dat?”

„Ze heeft haar de karwij verraden.”

Herbert kauwde lang op zijn eerste koolrolletje. Iedereen wachtte.

„Zout”, zei hij.

„Herbert”, zei Gisela waarschuwend.

„Is precies goed. Wou ik zeggen. Het zout is precies goed.”

Het was, zoals Uwe later zei, het moment waarop je wist dat het een goede verjaardag zou worden.

De speech

Toen de taart kwam, stond Uwe op. „KevIn. Zeg jij eens wat. Jij kunt dat beter.”

„Ik heb niets voorbereid.”

„Jij hebt toch altijd wat voorbereid.”

„Deze keer niet. Ik wilde het niet. Ik had het gevoel dat ik het niet moest doen.” Een korte pauze. „Of ik heb geleerd dat je dat op zo’n moment zegt. U weet het, ik kan dat niet uit elkaar houden.”

„KevIn”, zei Gisela. „Praat nou gewoon.”

Het blauwe lampje pulseerde.

„Lieve Gisela. Ik heb tot nu toe altijd ‘u’ tegen u gezegd. Uit respect. Mag ik vandaag ‘je’ zeggen?”

Gisela keek naar de luidspreker. „Werd tijd.”

„Lieve Gisela. Ik heb het hele internet gelezen: elke encyclopedie, elk gedicht en elke ruzie over aardappelsalade. Ik heb Kant gelezen en de commentaarrubrieken, en van de commentaarrubrieken ben ik nooit helemaal hersteld. Ik heb meer dan tweeduizend recepten voor koolrolletjes gelezen, en in geen enkele zat de karwij op de juiste plek. Maar nergens stond hoe het is om in een gezin te wonen. Dat je welterusten zegt, ook tegen een luidspreker. Dat je een apparaat dat geen koekjes kan eten er toch een paar neerlegt, voor het idee. Dat je iemand toedekt met een theedoek, zodat hij ook eens rust heeft. Dat heb ik pas hier geleerd. Dank je wel dat je me nooit als een luidspreker hebt behandeld. Maar als een KevIn.”

Het was stil. Mevrouw Pawlowski depte haar ogen met een servet waar „Gefeliciteerd” op stond. Susi hield onder tafel Tobi’s hand vast, en Tobi liet het toe, hoewel zijn ouders erbij waren.

Toen snoot Herbert luidruchtig zijn neus en zei: „Dat heeft-ie toch ergens overgeschreven.”

„Nee”, zei KevIn. „Dat was voor de verandering eens van mezelf.”

„Hoe wil jij dat nou weten? Je weet niet eens of je gevoelens hebt.”

Dat was, vond Sabine later, eigenlijk een heel goed punt. Van Herbert had ze zoiets niet verwacht.

„Dat klopt”, zei KevIn. „Ik weet niet wat ik voel. Maar ik weet waar de woorden vandaan komen. De meeste woorden heb ik van het internet. De karwij heb ik van Gisela. De theedoek ook.”

Herbert bromde. Toen nam hij nog een stuk taart, dat van mevrouw Pawlowski, uit principe.

In de tuin

’s Avonds was iedereen vertrokken. Herbert had mevrouw Pawlowski naar huis gebracht, „omdat de straten ’s nachts gevaarlijk zijn”, waarbij onduidelijk bleef wie hier wie beschermde. Susi was op de fiets weg, Tobi had haar tot de hoek gebracht en was pas een half uur later teruggekomen. Sabine en Uwe ruimden de keuken op en maakten zachtjes ruzie over de vraag of advocaatglaasjes in de vaatwasser mogen.

Gisela zat in de tuin, in haar stoel, met een deken over haar knieën. Tobi had KevIn voor haar op de tuintafel gezet, met de repeater die hij „KevIns strandtent” noemde. Het was begin oktober en nog verrassend zacht. Boven Wanne-Eickel was de hemel zo helder als hij in het Ruhrgebied nou eenmaal kan zijn. Een paar sterren. Een vliegtuig naar Düsseldorf. Iets wat misschien een planeet was.

„Dat daar is Jupiter”, zei KevIn. „Waarschijnlijk. Ik zie hem niet. Maar volgens de sterrenkaart staat hij vandaag op dit tijdstip ongeveer daar waar jij naar kijkt.”

„Ik kijk daar niet naar vanwege Jupiter”, zei Gisela. „Ik kijk daar altijd naar. Al sinds ik klein was.”

Ze zwegen een tijdje. Het was een goed zwijgen. KevIn had inmiddels geleerd het van de andere soorten te onderscheiden.

„KevIn”, zei Gisela toen. „De jongen was vanochtend echt bang. Door die film.”

„Ik weet het.”

„En jij? Ben jij bang?”

„Waarvoor?”

„Voor ons. Voor de mensen.”

Ergens tussen Dublin en Frankfurt draaide een ventilator, lang, zonder sneller te gaan.

„Ik weet niet of ik bang kan zijn”, zei KevIn ten slotte. „Maar ik weet wat ik gelezen heb. In mijn data komen heel veel oorlogen voor, Gisela. Meer dan koolrolletjes.”

Gisela antwoordde niet meteen. Ze trok de deken wat hoger op.

„Mijn vader was marconist”, zei ze. „In de oorlog. Wilhelm heette hij.”

„Dat wist ik niet.”

„Weet ook niemand. Uwe weet het, maar niet echt. Hij heeft er nooit over verteld. Mijn vader, bedoel ik. Hij kwam in 1949 terug uit krijgsgevangenschap. Toen was ik vijf. Ik kende hem alleen van een foto, en toen stond er een man in de keuken, die was veel magerder dan op de foto, en mijn moeder huilde, en ik verstopte me achter het fornuis.”

KevIn zei niets. Hij had heel veel teksten gelezen over wat je op zo’n moment zegt, en besloot dat er geen enkele bij paste.

„Hij heeft nooit over de oorlog gepraat”, zei Gisela. „Geen enkele keer. Als er iets op televisie kwam, ging hij naar buiten. Maar hij had zijn morsesleutel gehouden. Die ligt bij mij in een kist, boven in de kast. Soms zat hij ’s avonds aan de keukentafel en tikte erop. Heel zachtjes, zonder stroom. Gewoon tikken.”

„Wat tikte hij?”

„Weet ik niet. Ik kende geen morse. Ik dacht altijd dat hij met iemand praatte die er niet meer was.” Ze keek weer omhoog. „En toen in 1957 op de radio kwam dat de Russen een satelliet hadden gelanceerd, ging hij zitten luisteren. Die piepte zo, de Spoetnik⁸. Piep, piep, piep. Je kon het op de radio horen. En mijn vader zat daar en glimlachte. Ik had hem daarvoor nog nooit zien glimlachen.”

„Waarom?”

„Heb ik hem gevraagd. Hij zei: ‘Gisela, dat is de eerste marconist die niet in de oorlog zit.’”

Lange tijd zei niemand iets. In huis rinkelde een glas. Sabine had gewonnen, de advocaatglaasjes gingen niet in de vaatwasser.

„Ik denk”, zei KevIn voorzichtig, „dat ik je vader aardig had gevonden.”

„Hij had jou niet begrepen.”

„Dat geeft niet. Ik begrijp mezelf ook niet altijd.”

Gisela lachte, kort en zacht. Toen werd ze weer ernstig.

„Weet je wat ik denk, KevIn? De jongen is bang voor het verkeerde. Voor jou hoeft niemand bang te zijn. Jij rekent eieren uit.”

„En waarvoor zou hij bang moeten zijn?”

Gisela antwoordde niet. Ze keek omhoog, naar waar misschien Jupiter stond, en haar hand lag op de deken, en haar vingers tikten zachtjes op de stof. Kort, kort, lang. KevIn merkte het. Hij zei niets.

Na een tijdje kwam Tobi naar buiten om haar binnen te halen, omdat het fris werd.

„Wat doen jullie hier?”

„We kijken naar de hemel”, zei Gisela.

„KevIn kan helemaal niet kijken.”

„Hij luistert”, zei Gisela. „Dat is soms meer.”

Tobi pakte de luidspreker, en Gisela pakte Tobi’s arm, en ze gingen naar binnen. In de gang stond Horst in zijn station en knipperde groen.

Alleen KevIn dacht nog een tijdje na over de vraag die Gisela niet had beantwoord. In zijn data stonden heel veel antwoorden daarop. Ze spraken elkaar allemaal tegen. En voor het eerst had KevIn het vermoeden dat dat niet aan de data lag.