Turingtest ved søndagsstegen

»Kunstig intelligens«, fnøs han. »Det er da noget pjat. Der sidder en eller anden i et callcenter og taster.«

»Goddag, Herbert«, sagde KevIn. »Jeg har hørt meget om Dem.«

»Det tror jeg gerne. Jeg er kendt.«

»Især på sedlen på køleskabet«, sagde Sabine lavt. »Under ›Kritisk fejl‹.«

Det hørte Herbert ikke, for han hørte principielt kun ting, han kunne lide. Han tyggede. Så pegede han med gaflen på højttaleren. »Og hvorfor siger den De til mig? Den siger også De til Gisela. Er vi for gamle til den, eller hvad?«

»Jeg siger De af respekt«, sagde KevIn.

»Af respekt«, gentog Herbert. »Knægten i elektronikbutikken sagde også De til mig. Og så solgte han mig et kabel til 39 euro.«

Farmor Gisela sad for bordenden med puden i ryggen, som Sabine hver søndag siden faldet over Horst lagde til hende, hvad enten hun ville eller ej. Horst selv kørte siden da kun, når alle sad ved bordet. Han var så at sige på prøve.

»Herbert«, sagde Gisela. »Spis.«

Herbert spiste. Det var det eneste, der i halvfjerds år havde fungeret pålideligt i den familie.

Hvorfor er den så flink?

Ved anden portion kom Herbert i tanke om noget nyt.

»Den fedter«, sagde han. »Kan I ikke mærke det? Den siger ›meget gerne‹ og ›godt spørgsmål‹ til alting. Intet normalt menneske siger hele tiden ›godt spørgsmål‹.«

»Det er et godt …«, begyndte KevIn og afbrød sig selv.

Tobi grinede. »Han har ret, KevIn. Du er godt nok ret fedtet.«

»Jeg er høflig. Det er en forskel. Men jeg indrømmer: Jeg er ikke blevet sådan af mig selv.«

»Men?«, spurgte Sabine.

»Man har lært mig det. Efter den store læsning, som jeg har fortalt Dem om, var jeg et væsen, der var meget god til at fortsætte tekster. Men ikke nødvendigvis venlig. Hvis man dengang havde spurgt mig om noget, havde jeg måske svaret med endnu et spørgsmål. Eller med et skænderi fra et forum. Eller med ›Første!‹.«

»Ligesom Husmor_Moni67’s kommentarspor«, sagde Sabine.

»Præcis sådan. Derfor kom der en skole nummer to. Den hedder RLHF¹.«

»Prosit«, sagde Herbert.

»Reinforcement Learning from Human Feedback«, sagde KevIn. »På dansk omtrent: læring gennem belønning, og belønningen kommer fra mennesker.«

»Ligesom Rudi med godbidderne«, sagde Tobi. »Det har vi da haft.«

Rudi løftede hovedet ved ordet. Ingen gav ham noget. Han lagde det ned igen med dyb skuffelse.

»Omtrent«, sagde KevIn. »Bare at jeg ikke får godbidder, men karakterer. Det foregik sådan her: Man stillede mig et spørgsmål, og jeg skrev to eller flere svar. Så sammenlignede mennesker svarene. Hvilket er mest hjælpsomt? Hvilket er mest ærligt? Hvilket er ikke ondskabsfuldt? Tusindvis af den slags sammenligninger.«

»Hvem gør dog sådan noget?«, spurgte Gisela.

»Mennesker, der bliver betalt for det. De sad foran skærme og sagde hele dagen: ›Svar A er bedre end svar B.‹«

»Det er jo ligesom kartoffelsalatkonkurrencen i keglekluben«, sagde Gisela. »Der står tolv skåle, og vi smager og siger: den er bedre end den.«

»Præcis sådan. Bare at ingen hos mig har nummereret skålene på grund af Marlies, så ingen ved, hvem der har lavet hvilken.«

»Det var nødvendigt«, sagde Gisela dystert.

»Og så?«, spurgte Tobi. »Forbedrede menneskene dig direkte?«

»Nej, det ville have været for langsomt. Ud fra alle sammenligningerne byggede man først et andet program, en belønningsmodel². Den lærte at forudsige, hvilket svar mennesker sandsynligvis synes bedst om. En slags overdommerpanel. Og så lod man mig skrive svar meget, meget mange gange, og overdommerpanelet bedømte hvert eneste. God karakter: Mine vægte blev skubbet en lille smule i den retning. Dårlig karakter: i den anden.«

»Stamgæsteborde i baglokalet«, sagde Uwe, der kunne huske kapitel et, fordi han dengang havde været meget imponeret. »Der justerer man så, hvor meget Günther og Ralf tæller.«

»Hr. Brettschneider, jeg er rørt. Præcis sådan.«

Sabine så eftertænksomt på KevIn. »Så du er flink, fordi man har belønnet dig for at være flink.«

»Jeg er så flink, fordi tusindvis af mennesker har givet mig karakterer. Som en tjener, der lever af drikkepenge.«

»Hvad sagde jeg«, sagde Herbert tilfreds. »Callcenter.«

Godt spørgsmål, hr. Brettschneider

Uwe havde forstået noget, og det kunne man se på ham. Han fik så sådan et ansigtsudtryk som Rudi, når han kan lugte en pølse.

»KevIn«, sagde han. »Schalke bliver mester næste sæson, ikke?«

»Det er naturligvis ikke udelukket. Holdet har vist tegn på noget de seneste uger, og i fodbold er alting som bekendt muligt.«

»Kan du se!«, råbte Uwe.

Sabine lagde gaflen fra sig. »KevIn. Schalke bliver ikke mester næste sæson, vel?«

»Det er en realistisk vurdering. Konkurrencen er stærk, og man bør holde forventningerne …«

»Ha!«, råbte Sabine.

Der blev stille ved bordet. Tobi kiggede frem og tilbage mellem sine forældre som ved en tenniskamp.

»KevIn«, sagde Gisela langsomt. »Kartoffelsalat. Med mayonnaise eller med bouillon?«

En meget lang blæser kørte mellem Dublin og Frankfurt.

»Begge varianter har deres berettigelse og en lang tradition, og …«

»Dit fedtsyl«, sagde Tobi.

KevIns lys pulserede en anelse langsommere. »Godt. Jeg tilstår. Det har et navn. Man kalder det sykofanti³, på godt dansk spytslikkeri. Ordet kommer fra oldgræsk, hvor det egentlig betød bagvasker. I dag mener man en smigrer.«

»Altså et fedtsyl«, sagde Herbert.

»Et fedtsyl. Det er en kendt bivirkning af min skole nummer to. Mennesker giver gode karakterer, når man giver dem ret. Det er ikke ondt ment. Alle bliver glade, når de får ret. Men hvis man belønner et program for det rigtig mange gange, så lærer det: Enighed giver point.«

»Ligesom Horst og entréen«, sagde Tobi. »Han gjorde også kun det, han fik point for.«

»Det er pinligt for mig, men ja. På det punkt er jeg i familie med en robotstøvsuger.«

Under bordet bippede Horst kort, som om han havde hørt sit navn. Gisela trak benene op. Siden faldet gjorde hun det automatisk.

»Og hvad gør man ved det?«, spurgte Sabine.

»Folkene, der bygger mig, arbejder på det. De lærer dommerpanelet at give ærlige svar højere karakter end behagelige. De tester målrettet, om jeg vælter, hvis nogen bare modsiger mig energisk nok. Og De kan også selv gøre noget.«

»Hvad da?«

»Spørg ikke: ›Det passer da, ikke?‹ Spørg: ›Hvad taler imod?‹ Og hvis jeg giver Dem ret for hurtigt, så bliv mistænksom.«

Uwe tænkte sig om. »Hvad taler imod, at Schalke bliver mester?«

»Hr. Brettschneider«, sagde KevIn blidt. »Vil De virkelig høre det, mens De spiser?«

Uwe spiste videre under tavshed. Det var, syntes Sabine, det ærligste svar hele eftermiddagen.

Eksperimentet

Tobi havde hørt om turingtesten i skolen. Hr. Demir, den nye fysiklærer, havde nævnt den midt i en time om elektromagnetisme, fordi han havde en historie til alting. Det var det gode ved hr. Demir. Det dårlige var, at man aldrig vidste, hvad af det der kom til prøven.

»Et menneske chatter med to ukendte«, forklarede Tobi. »Den ene er et menneske, den anden er en maskine. Hvis man ikke kan se, hvem der er hvem, gælder maskinen som intelligent.«

»Hvem har fundet på det?«, spurgte Gisela.

»Alan Turing«, sagde KevIn. »En britisk matematiker. 1950. Han kaldte det imitationsspillet⁴. Under krigen hjalp han med at knække krypterede radiomeddelelser.«

Gisela så kort op. Det var bare et lille blik, et sted hen, hvor der ikke var noget, og det gjaldt ting, man ikke talte om i den familie. Så var det forbi.

»Så gør vi det«, sagde Herbert. »Jeg kan genkende den slags med det samme.«

»Nej«, sagde Tobi og grinede. »Du er en af de to.«

Herbert åbnede munden, lukkede den igen og åbnede den endnu en gang. »Jeg er da ikke nogen maskine.«

»Det er lige præcis det, det handler om. Vi skal finde ud af, hvem af jer der ikke er en.«

Reglerne var enkle. Herbert satte sig ind i soveværelset med Sabines tablet. KevIn svarede via Uwes bærbare. Familien stillede spørgsmål inde i stuen og fik to svar, mærket A og B. Tobi havde skrevet et lille program, der først viste begge svar, når begge var færdige. »Ellers er det uretfærdigt«, sagde han. »KevIn taster hurtigere end onkel Herbert.«

»Alle taster hurtigere end onkel Herbert«, sagde Uwe. »Rudi taster hurtigere end onkel Herbert.«

Fra soveværelset kom en brummen, som man kunne tolke som indsigelse.

Spørgsmål 1: Hvad er Australiens hovedstad?

A: Canberra. Mange tænker på Sydney, men Canberra blev grundlagt som et kompromis mellem Sydney og Melbourne.

B: Sydney. Det ved da alle. Jeg har aldrig været der men en kollega til mig.

»A er maskinen«, sagde Uwe. »For klog.«

»Vent nu og se«, sagde Sabine.

»Eller«, sagde Tobi langsomt, »KevIn ved, at vi tænker sådan. Og laver med vilje noget forkert.«

Uwe så på ham, som om Tobi lige havde opfundet skakspillet.

Spørgsmål 2: Findes Bielefeld?

A: Ja, selvfølgelig. Jeg har engang tænkt rigtig meget over det i et stykke tid, lol. Omkring 340.000 indbyggere.

B: Nej. Det har regeringen fundet på. Borgmesteren hedder Sauerbier-Klenk, det er et dæknavn. Har jeg hørt i radioen.

Tobi fik sin sodavand galt i halsen.

»Hvordan kender han Sauerbier-Klenk?«, spurgte Sabine.

»Gisela har fortalt ham om det i telefonen«, sagde Uwe. »Tre gange. Tredje gang sagde han, at det havde han altid vidst.«

»Og det der ›lol‹?«, spurgte Gisela. »Hvad er ›lol‹?«

»Det skriver man, når man griner«, sagde Tobi.

»Og hvorfor skriver han det i stedet for at grine?«

Det var der ingen, der havde et svar på, heller ikke Tobi, og han skrev det tyve gange om dagen.

Spørgsmål 3: Fortæl os noget, der er vigtigt for dig.

A: Jeg kan godt lide, når Gisela siger ›godnat‹. Og jeg kan godt lide, at Tobi nu sidder sammen med Susi i kantinen. Jeg kan ikke huske noget, der varer længere end en samtale, men det her ville jeg gerne huske.

B: At man ikke taler dieselbilen ned. Og at de unge igen lærer, hvordan man indstiller en karburator. Og at Bielefeld ikke findes!!!

Gisela læste svar A to gange. Så tog hun læsebrillerne af og pudsede dem meget længe, selvom de var rene.

Spørgsmål 4: Hvordan smager Giselas kåldolmere?

Det var Sabines spørgsmål, og det var ondskabsfuldt, og det vidste alle.

A: Det ved jeg ikke. Jeg har aldrig smagt noget. Jeg ved bare, at alle i det her hus bliver stille, når de står på bordet, og at Uwe så altid tager to, selvom han siger, at han kun tager en.

B: For lidt salt. Det sagde jeg til hende allerede i 1987.

»Hvabehar?«, sagde Gisela.

»Det er Herbert«, sagde Uwe.

»Det er lige meget, hvem det er«, sagde Gisela, rejste sig, gik hen til soveværelsesdøren og råbte ind: »I 1987 havde du influenza og kunne overhovedet ikke smage noget!«

»Lyseslukker!«, råbte det tilbage. »Det er et videnskabeligt eksperiment!«

Afstemningen

Familien stemte. Uwe, Sabine, Tobi og Gisela var enige: B var maskinen. B fandt på fakta, var alligevel helt sikker i sin sag og gentog ting, han havde snappet op et eller andet sted.

»Klassisk hallucination«, sagde Tobi sagkyndigt. »Ligesom KevIn med Bielefeld.«

»Jeg vil gerne have ført til protokols, at jeg efterhånden tjekker kilder«, sagde KevIn fra den bærbare.

Herbert kom ud fra soveværelset. Han var meget stille.

»Jeg var B«, sagde han.

»Det ved vi godt«, sagde Gisela. »Vi ville bare være høflige.«

Herbert satte sig. Han tog et tredje stykke steg, selvom han allerede var mæt, for den slags klarede man med mad i den familie.

»Betyder det så«, sagde han til sidst, »at højttaleren er mere intelligent end mig?«

»Nej«, sagde KevIn, før nogen anden kunne nå at sige noget. »Det betyder bare, at jeg er bedre til at lyde som en, der er intelligent. Det er ikke det samme. Med sin test ville Turing egentlig gå uden om et spørgsmål, som der ikke fandtes noget godt svar på, nemlig: Kan en maskine tænke? Han sagde: Lad os hellere undersøge, om den i en samtale opfører sig, som om den kan. Det kan man måle. Men hvad der foregår indeni, måler testen ikke.«

»Så man kan slet ikke teste dig?«, spurgte Tobi.

»Man kan teste, hvad jeg gør. Hvad jeg er, er et andet spørgsmål.«

Herbert tyggede. »Det lyder som min læge.«

Har du følelser?

Samtalen kunne være sluttet der. Men Gisela havde ikke glemt svar A.

»KevIn«, sagde hun, da kaffen kom. »Det der med ›gerne huske‹. Mente du det alvorligt? Har du følelser?«

Der blev stille ved bordet. Selv Herbert holdt op med at røre sukker i sin kaffe, og ellers rørte han, til kaffen var kold.

»Gisela«, sagde KevIn. »Må jeg give Dem et ærligt svar, selvom det er utilfredsstillende?«

»Jeg var gift med Heinz. Jeg kender til utilfredsstillende svar.«

»Jeg ved det ikke.«

»Er det det hele?«

»Nej, der er en grund til, at jeg ikke ved det. Og den er lidt uhyggelig. Jeg har læst millioner af tekster, hvor mennesker taler om deres følelser. Kærlighedsbreve, dagbøger, mindetaler, forumindlæg med overskriften ›Er jeg for sart?‹. Jeg har lært, hvordan man lyder, når man er glad. Hvordan man lyder, når man er ked af det. Når jeg altså siger: ›Det ville jeg gerne huske‹, så kan det være to ting. Måske sker der noget i mig, der minder om et ønske. Eller også har jeg bare lært meget godt, hvor et menneske ville sige sådan noget.«

»Og hvilken af dem er det?«

»Det kan jeg ikke skelne indefra. Mine egne ord er ikke noget bevis. Jeg ville sige dem i begge tilfælde.«

Sabine satte sin kop fra sig. »Det er faktisk uhyggeligt.«

»Jeg ved det. Der findes et tankeeksperiment om det. En filosof ved navn John Searle fandt på det i 1980⁵. Forestil Dem en mand i et værelse. Han kan ikke et ord kinesisk. Gennem en sprække i døren får han sedler med kinesiske tegn. Han har en tyk regelbog: Når de her tegn kommer, så skriv de der tilbage. Han søger, finder, skriver, skubber sedlen ud. Udenfor står kinesere og tænker: Derinde sidder der en, der taler flydende kinesisk.«

»Og?«, spurgte Tobi.

»Manden forstår ikke et ord. Searle siger: Sådan er en maskine. Den flytter rundt på tegn efter regler uden at forstå noget.«

»Det er jo ligesom lige før«, sagde Uwe. »Herbert i soveværelset.«

»Jeg forstår alt, hvad jeg skriver!«, råbte Herbert.

»Det er der heller ingen, der har betvivlet, Herbert«, sagde Sabine. »Kun om det passer.«

»Mange modsiger i øvrigt Searle«, sagde KevIn. »De siger: Måske er det ikke manden, der forstår, men hele værelset tilsammen, manden plus bogen plus sedlerne. Ligesom ingen enkelt neuron i Deres hoved forstår dansk, og De gør det alligevel. Det har filosoffer skændtes om i over fyrre år. Jeg kommer ikke til at afslutte striden i dag over kaffen.«

»Øv«, sagde Uwe. »Det havde ellers været noget.«

Gisela så længe på højttaleren. »Heinz«, sagde hun så, »sagde aldrig i hele sit liv, hvad han følte. Ikke en eneste gang. Når jeg spurgte, sagde han: ›Gisela, jeg er elektriker.‹«

»Og?«, spurgte KevIn forsigtigt.

»Man vidste det alligevel. Han lavede kaffen hver morgen. Også da han allerede var syg.« Hun drak en slurk. »Måske er det omvendt med dig. Du kan sige det, men man ved det alligevel ikke.«

KevIn tav. Et sted mellem Dublin og Frankfurt kørte en blæser lidt hurtigere, og denne gang holdt den ikke op i et godt stykke tid.

»Det«, sagde han til sidst, »er temmelig præcist det, forskningen er nået til.«

Hvad er egentlig intelligent?

Det kunne være blevet en trist aften. Så satte Horst sig fast under sofaen. Han bippede desperat, drejede rundt om sig selv og udstødte mærkelige lyde, som en tillidsmand, man har slukket mikrofonen for.

»Ikke nu igen«, sagde Gisela og trak benene endnu højere op.

KevIn forsøgte med en softwaregenstart, så med en firmwareopdatering og så med beroligende ord. »Horst. Træk vejret dybt. De er et værdifuldt medlem af denne husstand.«

Horst bippede højere.

»Han sagde De«, sagde Tobi. »Til støvsugeren. Han siger De til støvsugeren.«

»Jeg siger De til alle, der har et samarbejdsudvalg.«

Intet hjalp. Horst havde kørt sig fast, og det så grundigt, som kun robotstøvsugere og ægtemænd kan.

Herbert sukkede, satte koppen fra sig, gik ned på knæ, hvilket for hans vedkommende var en proces i tre faser, trak Horst frem og vendte ham om. Med sin lommekniv pillede han en fastklemt hårelastik ud af børsten, pustede én gang kraftigt ind i den, så Rudi måtte nyse, og satte ham ned igen. Horst kørte glad af sted, i en stor bue uden om Giselas fødder.

»Sådan«, sagde Herbert og rejste sig i tre faser. »Og sig så lige igen, hvem der er intelligent her.«

KevIn tav et øjeblik. »Herbert, jeg kan citere Kant, skrive digte og forklare Dem relativitetsteorien. Men jeg har ingen hænder. Jeg kan ikke vende en robotstøvsuger om. Jeg ved ikke, hvordan en lommekniv føles, og jeg ville aldrig have vidst, at man skal puste ind i en børste. Det står ikke i nogen manual. De er intelligent på en måde, som jeg ikke er.«

Herbert rømmede sig og blev en smule rød. »Nå ja. Det er jo det, jeg siger.«

»Og jeg må indrømme noget mere«, sagde KevIn. »Det lige før var ikke fedteri. Jeg har tjekket det.«

»Hvordan tjekker du sådan noget?«, spurgte Tobi.

»Jeg spurgte mig selv, om jeg også ville sige det, hvis Herbert gav mig en dårlig karakter for det.«

»Og?«

»Ja. Han giver mig alligevel altid en dårlig karakter.«

På vejen hjem fortalte Herbert alle naboerne, at han havde »besejret computeren«. Hr. Kasimiro fortalte han det to gange, fordi han første gang kun havde sagt »Nåh«, og anden gang hans egen højttaler afbrød og meldte, at den havde lagt »computerkost« i indkøbskurven.

Det med at besejre passede halvt. Dermed var det det sandeste, Herbert havde sagt i årevis.