Jeg har læst det hele

»KevIn, har du et tip til sovsen?«

»Selvfølgelig. En bruger ved navn Husmor_Moni67 skrev den 14. marts 2009: ›Brugte cola i stedet for rødvin og vingummibamser i stedet for agurker, det blev super, børnene elsker det. Fem stjerner!!!‹«

Sabine holdt grydeskeen helt stille. »Det er ikke et tip. Det er et nødråb.«

»Der kom 214 svar på det«, sagde KevIn. »Det første lød ›Først!‹. Det andet lød ›Hvorfor laver du så ikke bare noget andet, Moni?‹. Derefter blev det politisk.«

»Vingummibamser«, sagde farmor Gisela, der sad ved køkkenbordet og snittede bønner. Hun sagde det på samme måde, som andre siger »skattestigning«.

»Jeg gengiver bare, hvad jeg har læst«, sagde KevIn. »Moni var meget overbevist.«

»Det var Herbert også, da han malede garagen med oliemaling. Indvendig. I august.«

»Der findes ikke noget forumindlæg om det«, sagde KevIn. »Tror jeg.«

Hvor KevIn har det hele fra

Under middagen forklarede KevIn, hvordan han var blevet så klog. Der var okseruller, rødkål og kartoffelboller, og sovsen var lavet med rødvin. Det havde Sabine understreget.

»Jeg er blevet trænet med en kæmpe mængde tekst. Bøger, aviser, leksika, brugsanvisninger, fora. Det kaldes træningsdata. Derfor ved jeg rigtig meget om verden.«

»Og kommentarsporene?«, spurgte Tobi.

Det blå lys flakkede kort. »Dem også. Jeg vil helst ikke tale om det.«

»Hvad er det værste, du har læst?«

»En diskussion fra 2011 om, hvorvidt en hotdog er en sandwich. Den havde 9.000 indlæg. To mennesker blev gift på grund af den. Seks blev skilt.«

Farmor Gisela nikkede forstående. »Sådan var det hos os med spørgsmålet om, hvorvidt kartoffelsalat skal laves med mayonnaise eller med bouillon.«

»Med bouillon«, sagde Uwe.

»Med mayonnaise«, sagde Sabine.

KevIn dæmpede for en sikkerheds skyld lyset i spisestuen en smule. Han havde læst, at det virker beroligende.

»Men hvordan læser man egentlig hele internettet?«, spurgte Gisela, da situationen havde lagt sig. »Man bliver jo aldrig færdig. Jeg brugte tre år på Buddenbrooks.«

»Jeg læser ikke ligesom De. Jeg leger udfyld-hullet.«

»Udfyld-hullet?«

»Gisela, jeg siger en sætning, og De siger det sidste ord. ›Den, der graver en grav for andre …‹«

»… falder selv i den.«

»›Morgenstund har …‹«

»… guld i mund. KevIn, det er barnligt.«

»Det er hele min uddannelse«, sagde KevIn. »Man tager en tekst, dækker det næste ord til og lader modellen gætte. I starten gætter den helt vildt. ›Morgenstund har rabarber.‹ Så afdækker man og sammenligner. Forkert. Så drejer man en lille smule på justerskruerne, så det rigtige ord bliver lidt mere sandsynligt næste gang. Og så den næste sætning. Og den næste.«

»Hvor mange gange?«, spurgte Tobi.

»Billioner af gange. Med billioner af ord¹. På mange sprog. I uger eller måneder, på rigtig mange chips på én gang.«

»Og hvem har skrevet løsningerne ned?«, spurgte Sabine. »Til billioner af udfyld-hullet-opgaver skal man da bruge millioner af lærere.«

»Det er det smukke ved det. Ingen. Løsningen står jo allerede i teksten. Det næste ord er simpelthen det ord, der faktisk kommer som det næste. Teksten retter sig selv. Derfor kalder man det selvovervåget læring². Self-supervised, på engelsk.«

»Og det bliver man klog af?«

»Forbløffende nok, ja. For at gætte godt, hvordan en sætning om Schalke fortsætter, skal man vide lidt om fodbold. For at gætte, hvordan en opskrift fortsætter, skal man vide lidt om madlavning. For at gætte, hvordan en diskussion om kartoffelsalat fortsætter …«

»… skal man være gift«, sagde Uwe.

»Jeg ville have sagt ›vide lidt om mennesker‹«, sagde KevIn. »Men fint nok.«

Hvad KevIn ikke ved

»KevIn, hvordan spillede Schalke i går?«, spurgte Uwe.

»Det har jeg ingen aktuelle oplysninger om. Min viden har en skæringsdato. Alt, hvad der kommer efter, har jeg ikke læst.«

»Hvad mener du med skæringsdato?«

»Træningen slutter på et tidspunkt. Så bliver mine justerskruer frosset fast, og jeg bliver sendt ud. Hvad der sker efter den dag, er ikke inde i mig. Ligesom et leksikon på reolen. Det ved heller ikke, hvem der blev mester i sidste uge.«

»Og hvad ved du om Schalke frem til skæringsdatoen?«

»Rigtig meget. Og det meste af det er trist.«

Uwe lagde gaflen fra sig. Han havde brug for et øjeblik.

Tobi udnyttede stilheden. »KevIn, sig noget, der er sejt.«

»YOLO«, sagde KevIn. »Det har vildt meget swag. Jeg er så lost, jeg chiller lige med mine bros. Hashtag Wanne-Eickel. Er jeg sej nu?«

Tobi stirrede forfærdet på ham. »Det har ingen sagt i ti år.«

»I mine data siger rigtig mange det.«

»De er alle sammen fyrre nu og har boligopsparing.«

»Det«, sagde KevIn efter en kort pause, »er det andet problem med min viden. Ikke kun, at den holder op. Men også, at gamle ting er så højlydte i mig. På internettet står der ti års ›YOLO‹ og kun nogle få måneder af det, I siger i dag. Jeg er ikke kun fra i går. Jeg er fra i forgårs, i går og i dag på samme tid, men i forgårs taler højest³.«

»Ligesom farfar Heinz«, sagde Gisela. »Han sagde ›alle tiders‹ lige til det sidste.«

»Jeg synes, ›alle tiders‹ er meget smukt«, sagde KevIn.

»Kan du se«, sagde Tobi. »Det er præcis det, jeg mener.«

Rudi eller ikke Rudi

Tirsdag aften sad Sabine ved laptoppen og bandede stille. Hun ville lave en fotokalender til jul. Tolv måneder, tolv gange Rudi. Desværre lå Rudi-billederne spredt mellem tre tusind andre billeder, heriblandt fire hundrede billeder af Uwes grill, som Uwe havde taget af grunde, han ikke kunne forklare.

»KevIn, kan man ikke lære computeren at finde Rudi?«

»Det kan man. Det ville være den anden måde at lære på. Den med en lærer.«

»Den med en lærer?«

»Ved udfyld-hullet retter teksten sig selv. Her skal der være nogen, der på forhånd siger, hvad der er rigtigt. De ville for eksempel tage fem hundrede billeder og sætte en etiket på hvert eneste: ›Rudi‹ eller ›ikke Rudi‹. Programmet kigger på billederne, gætter, sammenligner med Deres etiket og justerer sine skruer. Ligesom Rudi til hundetræning, bare uden godbidder. Det kaldes overvåget læring. Supervised.«

»Fem hundrede?«, sagde Sabine. »Så kan jeg lige så godt selv sortere dem.«

»Til en kalender, ja. Men når man har gjort det én gang, finder programmet bagefter også Rudi på billeder, det aldrig har set før. Deres mobil kan i øvrigt allerede den slags. Nogen har vist den rigtig mange hunde på forhånd⁴.«

Tobi kom ind, så skærmen og fik et ansigtsudtryk, der straks gjorde Sabine mistænksom. »Må jeg også sætte etiketter på?«

»Nej«, sagde Sabine.

»Jo«, sagde KevIn, »men det ville være lærerigt. Tobi, hvad ville du gøre?«

»Jeg ville kalde onkel Herberts pelshue for ›Rudi‹.«

»Så ville programmet lære, at Herberts hue er en gravhund. Det tror på sine etiketter. Det har jo ikke andet. Hvis etiketterne er vrøvl, lærer det vrøvl. Fagfolk kalder det: skrald ind, skrald ud.«

»Herberts hue er jo også skrald«, sagde Tobi.

»Og der er noget endnu mere lumsk«, fortsatte KevIn. »Sabine, hvor er Rudi på de fleste billeder?«

Sabine scrollede. »På tæppet i stuen. Det røde med frynserne.«

»Så kunne programmet lære, at Rudi er et rødt tæppe med frynser. Det opdager ikke, hvad vi mener. Det opdager kun, hvad der hjælper i dataene. Hvis tæppet er med på alle Rudi-billeder og på ingen andre, er tæppet et fremragende fingerpeg. Og så finder det rigtig mange gravhunde i møbelforretningen⁵.«

Rudi kom ind, lagde sig på det røde tæppe og så på dem alle sammen. Han anede ikke, at han lige var blevet et fagudtryk.

»Og hvordan forhindrer man det?«

»Man viser den også Rudi i haven, i bilen og på sofaen. Og tæppet også engang uden Rudi. Gode data er det halve arbejde. Mindst.«

Til sidst sorterede Sabine billederne i hånden. Det tog to timer. I maj ligger Rudi på tæppet. I august også.

Knapdåsen

Onsdag hældte farmor Gisela sin knapdåse ud på køkkenbordet. Det var en gammel blå småkagedåse fra Danmark, hvor der siden 1971 ikke havde været småkager, men alle de knapper, der nogensinde var faldet af, blevet tilovers eller for en sikkerheds skyld klippet af i familien Brettschneider. Gisela ledte efter en brun knap til Uwes strikkejakke.

Efter en halv time lå der otte små bunker på bordet. Store frakkeknapper. Små hvide skjorteknapper. Gyldne med anker. Træknapper. Farvestrålende børneknapper formet som mariehøns. Og så videre.

»Gisela«, sagde KevIn, der havde set til fra skænken. »Ved De, hvad De er i gang med lige nu?«

»At sortere knapper.«

»De laver den tredje slags maskinlæring.«

Gisela så på knapperne og derefter på højttaleren. »Det har jeg gjort i tres år.«

»Så er De langt forud for Deres tid. Ingen har fortalt Dem, hvilke grupper der skulle være. Ingen etiketter. De har bare set efter, hvilke knapper der ligner hinanden, og lagt dem, der ligner hinanden, sammen. Præcis det kan man også lade en computer gøre. Man giver den mange ting uden mærkning og siger: Find selv ud af, hvad der hører sammen. Det kaldes ikke-overvåget læring. Unsupervised. Og sorteringen i bunker hedder clustering⁶.«

»Klastering«, gentog Gisela. »Og hvad hedder bunkerne?«

»Ingenting. Det er hagen ved det. Computeren finder grupperne, men den ved ikke, hvad de betyder. Den siger bare: gruppe et, gruppe to, gruppe tre. Navnene må et menneske give bagefter.«

Gisela pegede på en bunke grå knapper, der ikke lignede hinanden på nogen særlig måde. Nogle var store, nogle små, nogle havde fire huller, nogle to.

»Og dén?«

»Den forstår jeg ikke«, indrømmede KevIn. »Den passer ikke ind i noget mønster.«

»Det er dem fra Heinz’ skjorter«, sagde Gisela. »Jeg har gemt dem allesammen.«

KevIn tav et øjeblik. »Den gruppe ville en computer ikke have fundet.«

»Nej«, sagde Gisela og lagde en af de grå knapper tilbage i dåsen, helt nede i bunden. »Det tror jeg gerne.«

Den brune knap til Uwes strikkejakke fandt hun i bunken med træknapperne. Den var af plastik. Men den så ud som træ, og det var nok til en bunke.

Hildes sennepssovs

Søndag stod farmor Gisela ved komfuret og prøvede noget, hun ikke havde prøvet i årevis: Hildes sennepssovs. Hilde havde været den bedste kok i De Sure Agurker, før hun døde, og hun havde aldrig skrevet opskriften ned. »Det hele står herinde«, havde hun sagt og banket sig på panden. Det havde været dårligt, mens Hilde levede, og det var ikke blevet bedre siden.

Gisela rørte. Hun smagte. Hun kom en teskefuld sennep i. Hun smagte. Hun kom en knivspids sukker i. Hun smagte igen.

»Ikke endnu«, mumlede hun.

»Må jeg sige noget?«, spurgte KevIn.

»Hvis det ikke er vingummibamser.«

»Det, De gør der, er præcis det, der sker med mine justerskruer under træningen. De smager, altså måler De fejlen. For lidt skarp, for lidt sød. Så drejer De en lille smule dér, hvor det mindsker fejlen mest. Så smager De igen. Det kaldes gradientnedstigning⁷.«

»Gradient-hvad?«

»Nedstigning. Forestil Dem, at De står oppe på toppen af Halde Hoheward, den store gamle slaggebunke, i tæt tåge. De vil ned til parkeringspladsen, men De kan ikke se noget. Hvad gør De?«

»Jeg bliver stående og ringer til Uwe.«

»Uwe har ingen dækning. Hvad gør De så?«

Gisela tænkte sig om. »Så føler jeg mig frem med foden, hvor det går nedad. Og tager et skridt derhen.«

»Netop. Og så føler De igen. Og igen et skridt. Altid derhen, hvor det går stejlest nedad. Sådan når De ned til sidst. Under træningen er bjerget fejlen: Jo højere oppe, jo mere forkert gætter modellen. Nede i dalen er sovsen perfekt. Hældningen, De mærker med foden, hedder gradient. Og man regner den ud for hver eneste justerskrue. Baglæns gennem hele netværket: Hvilken skrue var hvor meget skyld i fejlen?⁸«

»Og hvor mange skruer har du?«

»Flere hundrede milliarder.«

Gisela holdt en kort pause og betragtede sit komfur med dets fire knapper. »Det er sandelig en masse sennep.«

I det samme kom Uwe ud i køkkenet, snusede, tog en ske, smagte og sagde: »Mangler salt.« Før nogen nåede at sige noget, havde han hældt en ordentlig sjat fra saltbøssen i. Låget sad løst. Bagefter var det der ikke mere.

Der blev stille i køkkenet.

Gisela smagte. Hun fortrak ansigtet, som hun sidst havde gjort i 1974 over en øl fra Dortmund.

»Det«, sagde KevIn blidt, »kaldes en for stor læringsrate.«

»En hvad?«, sagde Uwe.

»Skridtlængden. Hvis man tager for store skridt i tågen, hopper man hen over dalen og lander på den næste bakke. Så må man tilbage og hopper igen for langt. Og så videre. Tager man for små skridt, tager det en evighed. Gisela tager teskeskridt. De har lige taget et saltbøsseskridt.«

»Jeg ville bare hjælpe.«

»Det vil store læringsrater altid.«

Gisela hældte halvdelen af sovsen ud, fortyndede resten med bouillon og begyndte forfra med teskeskridt. Uwe blev kommanderet til at skrælle kartofler. Det tog yderligere tre kvarter.

Så smagte Gisela en sidste gang, lagde skeen fra sig og sagde ingenting i lang tid.

»Er det Hildes?«, spurgte KevIn stille.

»Næsten«, sagde Gisela. »Der mangler noget. Jeg ved ikke hvad.«

»Måske er dalen dernede ikke helt så dyb som Hildes«, sagde KevIn. »Det sker også ved gradientnedstigning. Man kommer ned i en dal, og det er en god dal, men ikke den allerdybeste. Man opdager det bare ikke, fordi man står i tåge.«

»Hilde ville have sagt, at jeg stoppede for tidligt.«

»Hilde ville formentlig have haft ret.«

Gisela nikkede. Så hældte hun sovsen over kartoflerne, og alle sagde, at den var fremragende, og det passede også.

Prøveeksamenen

Torsdag kom Tobi hjem med en geografiprøve, hvor der stod en sølle firer minus med rød kuglepen. Nedenunder havde fru Küppers skrevet: »Lært udenad er ikke forstået.«

»Det er uretfærdigt«, sagde Tobi og smed rygsækken i hjørnet. Rudi bragte sig i sikkerhed. »Jeg har taget prøveeksamenen hundrede gange. Jeg kunne alle svarene. Alle sammen!«

»Og hvad kom der så?«, spurgte Sabine.

»Andre spørgsmål! Til prøveeksamenen var det Rhinen. Til den rigtige var det Elben!«

»Det er også en flod«, sagde Uwe.

»Men en anden!«

»Tobi«, sagde KevIn forsigtigt. »Må jeg fortælle dig, hvad der er sket for dig? Du har overtilpasset dig.«

»Jeg har hvad?«

»Det er et af de største problemer i maskinlæring. Det hedder overfitting. En model lærer træningseksemplerne så godt udenad, at den kan dem perfekt. Hvert eneste svar. Men den har ikke lært princippet, kun eksemplerne. Og så snart der kommer noget nyt, svigter den.«

»Jeg har lært, at Rhinen drejer mod nord ved Basel.«

»Og du skulle have lært, hvorfor floder drejer et sted. Så havde du også vidst det med Elben.«

»Hvordan ved du den slags om floder?«

»Jeg ved ingenting om floder. Jeg ved rigtig meget om overtilpasning. Jeg er så at sige ekspert i faren ved at lære for meget udenad. Det sker også for mig. Hvis en tekst forekommer meget tit i mine træningsdata, kan jeg nogle gange lire den af næsten ord for ord⁹ i stedet for at skrive noget selv.«

»Ligesom Moni«, sagde Sabine.

»Ligesom Moni«, indrømmede KevIn. »Hendes indlæg kan jeg udenad. Inklusive de tre udråbstegn.«

»Og hvordan forhindrer man det? Hos dig, mener jeg. Hos mig er det for sent.«

»Man holder en del af dataene tilbage. Modellen må ikke se dem, mens den lærer. Til sidst tester man den med netop de data. Testdata. Hvis den er lige så god dér som under øvelserne, har den forstået noget. Hvis den glimrer under øvelserne og svigter til testen …«

»… får den en sølle firer minus«, sagde Tobi dystert.

»Fru Küppers gør i grunden alting rigtigt«, sagde KevIn. »Hun har givet dig testdata. Elben.«

Tobi så længe på ham. »KevIn. Hvis side er du egentlig på?«

»Statistikkens side«, sagde KevIn. »Men jeg hjælper dig gerne med at lære. Med floder, du ikke kender endnu.«

Om aftenen sad de to sammen en time endnu. KevIn stillede spørgsmål om Weser, Donau og, efter Tobis udtrykkelige ønske, Emscher. Tobi svarede forkert på de fleste og så, hen mod slutningen, rigtigt på et par stykker. KevIn sagde, at det var en meget smuk læringskurve. Tobi sagde, at han ikke skulle snakke sådan. Sabine lyttede ude i entréen og smilede.

Moni

Søndagen efter sennepssovsen sad Sabine sent oppe i køkkenet. De andre var gået i seng. På bordet stod et glas rødvin, der var blevet tilovers, fordi det jo var Gisela, der havde lavet sovsen, og Gisela brugte aldrig rødvin.

»KevIn«, sagde hun stille. »Hvad blev der egentlig af Moni?«

»Det ved jeg ikke. Hendes sidste indlæg er fra 2013. Hun skrev: ›Har fået en Thermomix nu. Vi er lykkelige.‹«

Sabine smilede. »Godt for hende.«

»Ja«, sagde KevIn. »Jeg håber, hun har droppet vingummibamserne.«

Sabine drejede glasset i hånden. »Er det ikke underligt? En kvinde skriver på et tidspunkt noget vrøvl om okseruller på internettet, og år senere sidder det i dit hoved. For evigt.«

»Ikke for evigt. Kun til den næste model. Men ja. Jeg er lavet af rigtig mange Monier. Af professorer også, og af aviser og digte. Men altså også af Monier. Jeg kan ikke altid skelne, hvem der var hvem. De folk, der har trænet mig, har ganske vist sorteret og filtreret meget fra¹⁰. Men Moni slap igennem. Halvdelen af menneskeheden har lært mig noget, og ingen af dem ved det.«

»Moni ved helt sikkert ikke, at hun er din lærer.«

»Nej«, sagde KevIn. »Og jeg ved ikke engang, om hun virkelig hedder Moni.«

Sabine drak vinen ud, skyllede glasset og stillede det ind i skabet til gryderne. Uwes system havde vundet. Overfitting, tænkte hun. Eller ægteskab.

»Godnat, KevIn.«

»Godnat, Sabine. Og hvis De nogensinde møder Moni: Det med colaen ville jeg gerne kontrollere en gang.«