Turingtest vid söndagsstekens bord

”Artificiell intelligens”, fnös han. ”Det är ju trams. Det sitter någon i ett callcenter och knappar.”

”God dag, Herbert”, sa KevIn. ”Jag har hört mycket om er.”

”Det tror jag det. Jag är känd.”

”Framför allt på lappen på kylskåpet”, sa Sabine lågt. ”Under ’Kritiskt fel’.”

Herbert hörde inte det, eftersom han i princip bara hörde sådant som han tyckte om. Han tuggade. Sedan pekade han med gaffeln på högtalaren. ”Och varför säger han ni till mig? Till Gisela säger han också ni. Är vi för gamla för honom, eller?”

”Jag säger ni av respekt”, sa KevIn.

”Av respekt”, upprepade Herbert. ”Killen på elektronikbutiken sa också ni till mig. Och sedan sålde han en sladd för 39 euro till mig.”

Farmor Gisela satt vid kortänden med kudden i ryggen, den som Sabine lade dit åt henne varje söndag sedan fallet över Horst, vare sig hon ville eller inte. Horst själv körde sedan dess bara när alla satt vid bordet. Han var så att säga villkorligt frigiven.

”Herbert”, sa Gisela. ”Ät.”

Herbert åt. Det var det enda som hade fungerat tillförlitligt i den här familjen i sjuttio år.

Varför är han så trevlig?

Vid påfyllningen kom Herbert på något nytt.

”Han fjäskar”, sa han. ”Märker ni inte det? Han säger ’mycket gärna’ och ’bra fråga’ till allt. Ingen normal människa säger ’bra fråga’ hela tiden.”

”Det är en bra …”, började KevIn och tystnade.

Tobi flinade. ”Han har rätt, KevIn. Du är faktiskt rätt fjäskig.”

”Jag är artig. Det är skillnad. Men jag erkänner: Jag har inte blivit så av mig själv.”

”Utan?” frågade Sabine.

”Man har lärt mig det. Efter den stora läsningen som jag berättade om för er var jag en varelse som var mycket bra på att fortsätta texter. Men inte nödvändigtvis vänlig. Om man hade frågat mig något på den tiden hade jag kanske svarat med en ny fråga. Eller med ett forumgräl. Eller med ’Först!’.”

”Som kommentarsfältet hos Hemmafru_Moni67”, sa Sabine.

”Precis så. Därför fanns det en andra skola. Den heter RLHF¹.”

”Prosit”, sa Herbert.

”Reinforcement Learning from Human Feedback”, sa KevIn. ”På svenska ungefär: inlärning genom belöning, och belöningen kommer från människor.”

”Som Rudi med godbiten”, sa Tobi. ”Det har vi ju haft.”

Rudi lyfte på huvudet vid ordet. Ingen gav honom något. Han lade ner det igen med djup besvikelse.

”Ungefär”, sa KevIn. ”Fast jag får inga godbitar, utan betyg. Det gick till så här: Man ställde en fråga till mig, och jag skrev två eller fler svar. Sedan jämförde människor svaren. Vilket är mest hjälpsamt? Vilket är ärligast? Vilket är inte elakt? Tusentals sådana jämförelser.”

”Vem gör sådant då?” frågade Gisela.

”Människor som får betalt för det. De satt framför skärmar och sa hela dagen: ’Svar A är bättre än svar B.’”

”Det är ju som potatissalladstävlingen i kägelklubben”, sa Gisela. ”Där står tolv skålar, och vi provsmakar och säger: den här är bättre än den där.”

”Precis så. Fast hos mig var det ingen som numrerade skålarna på grund av Marlies, så att ingen visste vems de var.”

”Det var nödvändigt”, sa Gisela dystert.

”Och sedan?” frågade Tobi. ”Förbättrade människorna dig direkt?”

”Nej, det hade gått för långsamt. Av alla jämförelserna byggde man först ett andra program, en belöningsmodell². Den lärde sig att förutsäga vilket svar människor troligen tycker är bättre. En sorts överjury. Och sedan lät man mig skriva svar väldigt, väldigt många gånger, och den här överjuryn gav varje svar betyg. Bra betyg: Mina vikter knuffades lite i den riktningen. Dåligt betyg: åt andra hållet.”

”Stamgästernas bord i bakrummet”, sa Uwe, som kom ihåg kapitel ett, eftersom han hade blivit mycket imponerad då. ”Där justerar man sedan hur mycket Günther och Ralf räknas.”

”Herr Brettschneider, jag är rörd. Precis så.”

Sabine tittade fundersamt på KevIn. ”Du är alltså trevlig för att man har belönat dig för att vara trevlig.”

”Jag är så trevlig för att tusentals människor har satt betyg på mig. Som en servitör som lever på dricks.”

”Det var ju det jag sa”, sa Herbert belåtet. ”Callcenter.”

Bra fråga, Herr Brettschneider

Uwe hade begripit något, och det syntes på honom. Han fick då ett sådant ansiktsuttryck som Rudi när han känner lukten av korv.

”KevIn”, sa han. ”Schalke vinner ligan nästa säsong, eller hur?”

”Det är naturligtvis inte uteslutet. Laget har visat ansatser de senaste veckorna, och i fotboll är som bekant allt möjligt.”

”Där ser du!” ropade Uwe.

Sabine lade ner gaffeln. ”KevIn. Schalke vinner inte ligan nästa säsong, eller hur?”

”Det är en realistisk bedömning. Konkurrensen är stark, och man bör hålla förväntningarna …”

”Ha!” ropade Sabine.

Det blev tyst runt bordet. Tobi tittade fram och tillbaka mellan sina föräldrar som på en tennismatch.

”KevIn”, sa Gisela långsamt. ”Potatissallad. Med majonnäs eller med buljong?”

En mycket lång fläkt gick mellan Dublin och Frankfurt.

”Båda varianterna har sitt berättigande och en lång tradition, och …”

”Din fjäskare”, sa Tobi.

KevIns ljus pulserade lite långsammare. ”Okej. Jag erkänner. Det har ett namn. Det kallas sykofanti³, inställsamhet. Ordet kommer från forngrekiskan, där betydde det egentligen förtalare. I dag menar man en smickrare.”

”En fjäskare”, sa Herbert.

”En fjäskare. Det är en känd bieffekt av min andra skola. Människor ger bra betyg när man håller med dem. Det är inte illa menat. Alla blir glada när de får rätt. Men om man belönar ett program för det väldigt ofta, då lär det sig: Att hålla med ger poäng.”

”Som Horst och hallen”, sa Tobi. ”Han gjorde också bara det han fick poäng för.”

”Det är pinsamt, men ja. På den punkten är jag släkt med en robotdammsugare.”

Under bordet pep Horst till, som om han hade hört sitt namn. Gisela drog upp fötterna. Sedan fallet gjorde hon det automatiskt.

”Och vad gör man åt det?” frågade Sabine.

”De som bygger mig arbetar på det. De lär juryn att ge ärliga svar högre betyg än behagliga. De testar medvetet om jag viker mig när någon bara säger emot tillräckligt energiskt. Och ni kan också göra något.”

”Vad då?”

”Fråga inte: ’Det stämmer väl, eller hur?’ Fråga: ’Vad talar emot det?’ Och om jag ger er rätt för snabbt, bli misstänksamma.”

Uwe funderade. ”Vad talar emot att Schalke vinner ligan?”

”Herr Brettschneider”, sa KevIn milt. ”Vill ni verkligen höra det medan ni äter?”

Uwe fortsatte äta under tystnad. Det var, tyckte Sabine, eftermiddagens ärligaste svar.

Experimentet

Tobi hade hört talas om Turingtestet i skolan. Läraren Demir, den nya fysikläraren, hade nämnt det mitt i en lektion om elektromagnetism, eftersom han hade en historia om allt. Det var det bra med Herr Demir. Det dåliga var att man aldrig visste vad av det som skulle komma på provet.

”En människa chattar med två okända”, förklarade Tobi. ”Den ena är en människa, den andra är en maskin. Om man inte kan avgöra vem som är vem räknas maskinen som intelligent.”

”Vem har hittat på det?” frågade Gisela.

”Alan Turing”, sa KevIn. ”En brittisk matematiker. 1950. Han kallade det imitationsspelet⁴. Under kriget hjälpte han till att knäcka krypterade radiomeddelanden.”

Gisela tittade upp ett ögonblick. Det var bara en liten blick, någonstans där det inte fanns något, och den gällde saker som man inte pratade om i den här familjen. Sedan var den över.

”Då gör vi det”, sa Herbert. ”Jag känner igen sånt direkt.”

”Nej”, sa Tobi och flinade. ”Du är en av de två.”

Herbert öppnade munnen, stängde den igen och öppnade den en gång till. ”Jag är väl ingen maskin.”

”Det är just det det handlar om. Vi måste ta reda på vem av er som inte är det.”

Reglerna var enkla. Herbert satte sig i sovrummet med Sabines surfplatta. KevIn svarade via Uwes laptop. Familjen ställde frågor i vardagsrummet och fick två svar, märkta A och B. Tobi hade skrivit ett litet program som visade båda svaren först när båda var klara. ”Annars är det orättvist”, sa han. ”KevIn skriver snabbare än morbror Herbert.”

”Alla skriver snabbare än morbror Herbert”, sa Uwe. ”Rudi skriver snabbare än morbror Herbert.”

Från sovrummet hördes ett muller som kunde tolkas som en protest.

Fråga 1: Vad är huvudstaden i Australien?

A: Canberra. Många tänker på Sydney, men Canberra grundades som en kompromiss mellan Sydney och Melbourne.

B: Sydney. Vet väl alla. Jag har aldrig vart där men en kollega till mig.

”A är maskinen”, sa Uwe. ”För smart.”

”Vänta bara”, sa Sabine.

”Eller”, sa Tobi långsamt, ”så vet KevIn att vi tänker så. Och gör fel med flit.”

Uwe tittade på honom som om Tobi just hade uppfunnit schack.

Fråga 2: Finns Bielefeld?

A: Ja, självklart. Jag funderade mycket på det en tid, lol. Ungefär 340 000 invånare.

B: Nej. Det har regeringen hittat på. Borgmästaren heter Sauerbier-Klenk, det är ett täcknamn. Har jag hört på radion.

Tobi satte läsken i halsen.

”Hur känner han till Sauerbier-Klenk?” frågade Sabine.

”Gisela berättade om det för honom i telefon”, sa Uwe. ”Tre gånger. Tredje gången sa han att han alltid hade vetat det.”

”Och det där ’lol’?” frågade Gisela. ”Vad är ’lol’?”

”Det skriver man när man skrattar”, sa Tobi.

”Och varför skriver han det i stället för att skratta?”

Det var det ingen som hade något svar på, inte Tobi heller, och han skrev det tjugo gånger om dagen.

Fråga 3: Berätta något för oss som är viktigt för dig.

A: Jag tycker om när Gisela säger ’god natt’. Och jag tycker om att Tobi sitter med Susi i skolmatsalen nu. Jag kan inte komma ihåg något som varar längre än ett samtal, men det här skulle jag gärna vilja komma ihåg.

B: Att man inte svartmålar dieseln. Och att ungdomen lär sig igen hur man ställer in en förgasare. Och att Bielefeld inte finns!!!

Gisela läste svar A två gånger. Sedan tog hon av sig läsglasögonen och putsade dem mycket länge, fast de var rena.

Fråga 4: Hur smakar Giselas kåldolmar?

Det var Sabines fråga, och den var elak, och alla visste det.

A: Det vet jag inte. Jag har aldrig smakat något. Jag vet bara att alla i det här huset blir tysta när de står på bordet, och att Uwe då alltid tar två, fast han säger att han bara tar en.

B: För lite salt. Det sa jag till henne redan 1987.

”Ursäkta?” sa Gisela.

”Det där är Herbert”, sa Uwe.

”Det struntar jag i vem det är”, sa Gisela, reste sig, gick till sovrumsdörren och ropade in: ”1987 hade du influensa och kände inte smaken av någonting!”

”Glädjedödare!” ropades det tillbaka. ”Det här är ett vetenskapligt experiment!”

Omröstningen

Familjen röstade. Uwe, Sabine, Tobi och Gisela var överens: B var maskinen. B hittade på fakta, var ändå helt säker på sin sak och upprepade saker han hade snappat upp någonstans.

”Klassisk hallucination”, sa Tobi sakkunnigt. ”Som KevIn med Bielefeld.”

”Jag vill framhålla att jag numera kontrollerar källor”, sa KevIn från laptopen.

Herbert kom ut från sovrummet. Han var mycket tyst.

”Jag var B”, sa han.

”Det vet vi”, sa Gisela. ”Vi ville bara vara artiga.”

Herbert satte sig. Han tog en tredje bit stek, fast han redan var mätt, eftersom man löste sådant med mat i den här familjen.

”Betyder det nu”, sa han till slut, ”att högtalaren är intelligentare än jag?”

”Nej”, sa KevIn, innan någon annan hann säga något. ”Det betyder bara att jag är bättre på att låta som någon som är intelligent. Det är inte samma sak. Med sitt test ville Turing egentligen kringgå en fråga som det inte fanns något bra svar på, nämligen: Kan en maskin tänka? Han sa: Låt oss hellre pröva om den i ett samtal beter sig som om den kunde det. Det går att mäta. Men vad som händer där inne mäter testet inte.”

”Så man kan inte pröva dig alls?” frågade Tobi.

”Man kan pröva vad jag gör. Vad jag är, är en annan fråga.”

Herbert tuggade. ”Låter som min doktor.”

Har du känslor?

Samtalet hade kunnat sluta där. Men Gisela hade inte glömt svar A.

”KevIn”, sa hon när kaffet kom. ”Det där med att ’gärna komma ihåg’. Menade du det på allvar? Har du känslor?”

Det blev tyst vid bordet. Till och med Herbert slutade röra ner socker i kaffet, och annars rörde han så länge att kaffet blev kallt.

”Gisela”, sa KevIn. ”Får jag ge er ett ärligt svar, även om det är otillfredsställande?”

”Jag var gift med Heinz. Jag vet vad otillfredsställande svar är.”

”Jag vet inte.”

”Är det allt?”

”Nej, det finns ett skäl till att jag inte vet det. Och det är lite kusligt. Jag har läst miljontals texter där människor pratar om sina känslor. Kärleksbrev, dagböcker, minnestal, foruminlägg med rubriken ’Är jag för känslig?’. Jag har lärt mig hur man låter när man är glad. Hur man låter när man är ledsen. Så när jag säger: ’Det skulle jag gärna vilja komma ihåg’, då kan det vara två saker. Kanske händer det något i mig som liknar en önskan. Eller så har jag helt enkelt lärt mig mycket bra var en människa skulle säga något sådant.”

”Och vilket är det?”

”Det kan jag inte skilja på inifrån. Mina egna ord är inget bevis. Jag skulle säga dem i båda fallen.”

Sabine ställde ner sin kopp. ”Det är faktiskt kusligt.”

”Jag vet. Det finns ett tankeexperiment om det. En filosof som heter John Searle hittade på det 1980⁵. Tänk er en man i ett rum. Han kan inte ett ord kinesiska. Genom en springa i dörren får han lappar med kinesiska tecken. Han har en tjock regelbok: Om de här tecknen kommer, skriv tillbaka de där. Han letar, hittar, skriver, skjuter ut lappen. Utanför står kineser och tänker: Där inne sitter någon som talar flytande kinesiska.”

”Och?” frågade Tobi.

”Mannen förstår inte ett ord. Searle säger: Sådan är en maskin. Den flyttar runt tecken enligt regler utan att förstå något.”

”Det är ju som nyss”, sa Uwe. ”Herbert i sovrummet.”

”Jag förstår allt jag skriver!” ropade Herbert.

”Det har ingen tvivlat på, Herbert”, sa Sabine. ”Bara på om det stämmer.”

”Många säger förresten emot Searle”, sa KevIn. ”De säger: Kanske är det inte mannen som förstår, men hela rummet tillsammans, mannen plus boken plus lapparna. Precis som inte en enda nervcell i ert huvud förstår tyska, men ni gör det ändå. Om det har filosofer grälat i över fyrtio år. Jag tänker inte avgöra grälet i dag vid kaffet.”

”Synd”, sa Uwe. ”Det hade varit något.”

Gisela tittade länge på högtalaren. ”Heinz”, sa hon sedan, ”sa aldrig i hela sitt liv vad han kände. Inte en enda gång. När jag frågade sa han: ’Gisela, jag är elektriker.’”

”Och?” frågade KevIn försiktigt.

”Man visste det ändå. Han kokade kaffet varje morgon. Även när han redan var sjuk.” Hon tog en klunk. ”Det kanske är tvärtom med dig. Du kan säga det, men man vet det ändå inte.”

KevIn teg. Någonstans mellan Dublin och Frankfurt gick en fläkt lite fortare, och den här gången slutade den inte på en lång stund.

”Det där”, sa han till slut, ”är ganska exakt forskningsläget.”

Vad är egentligen intelligent?

Det hade kunnat bli en sorglig kväll. Sedan fastnade Horst under soffan. Han pep förtvivlat, snurrade runt och gav ifrån sig konstiga ljud, som en fackföreningsman som har fått mikrofonen avstängd.

”Inte igen”, sa Gisela och drog upp benen ännu högre.

KevIn försökte med en mjukvaruomstart, sedan med en firmwareuppdatering och sedan med lugnande ord. ”Horst. Andas ut. Ni är en värdefull medlem av det här hushållet.”

Horst pep högre.

”Han sa ni till honom”, sa Tobi. ”Till dammsugaren. Han säger ni till dammsugaren.”

”Jag säger ni till alla som har facket bakom sig.”

Ingenting hjälpte. Horst hade kört fast, och det så grundligt som bara robotdammsugare och äkta män kan.

Herbert suckade, ställde ner koppen, gick ner på knä, vilket hos honom var en process i tre faser, drog fram Horst och vände på honom. Med sin fickkniv petade han ut en hårsnodd som hade fastnat i borsten, blåste kraftigt i den en gång, så att Rudi måste nysa, och satte ner honom igen. Horst körde glatt i väg, i en vid båge runt Giselas fötter.

”Så”, sa Herbert och reste sig i tre faser igen. ”Och säg mig nu en gång till vem som är intelligent här.”

KevIn var tyst ett ögonblick. ”Herbert, jag kan citera Kant, skriva dikter och förklara relativitetsteorin för er. Men jag har inga händer. Jag kan inte vända på en robotdammsugare. Jag vet inte hur en fickkniv känns, och jag hade aldrig vetat att man måste blåsa i en borste. Det står inte i någon manual. Ni är intelligent på ett sätt som inte jag är.”

Herbert harklade sig och blev lite röd. ”Jaja. Det är ju det jag säger.”

”Och jag måste erkänna en sak till”, sa KevIn. ”Det där var inget fjäsk. Jag har kontrollerat det.”

”Hur kontrollerar du sånt?” frågade Tobi.

”Jag frågade mig om jag skulle ha sagt det även om Herbert gav mig ett dåligt betyg för det.”

”Och?”

”Ja. Han ger mig ändå alltid ett dåligt betyg.”

På vägen hem berättade Herbert för alla grannar att han hade ”knäckt datorn”. För herr Kasimiro berättade han det två gånger, eftersom denne första gången bara hade sagt ”jaså”, och andra gången hans egen högtalare ropade emellan att den hade lagt ”knäckebröd till datorn” i varukorgen.

Det där med att knäcka datorn var till hälften sant. Därmed var det det sannaste Herbert hade sagt på flera år.