Turingtest bij de zondagslunch

„Kunstmatige intelligentie”, snoof hij. „Dat is toch onzin. Daar zit iemand in een callcenter te typen.”

„Goedendag, Herbert”, zei KevIn. „Ik heb al veel over u gehoord.”

„Dat geloof ik. Ik ben bekend.”

„Vooral op het briefje op de koelkast”, zei Sabine zacht. „Onder ‘Kritieke fout’.”

Herbert hoorde dat niet, omdat hij principieel alleen dingen hoorde die hem bevielen. Hij kauwde. Toen wees hij met zijn vork naar de speaker. „En waarom zegt dat ding u tegen me? Tegen Gisela zegt hij ook u. Zijn we hem te oud, of wat?”

„Ik zeg u uit respect”, zei KevIn.

„Uit respect”, herhaalde Herbert. „Die jongen van de elektronicazaak zei ook u tegen me. En toen verkocht hij me een kabel van 39 euro.”

Oma Gisela zat aan het hoofd van de tafel, met het kussen in haar rug dat Sabine sinds de val over Horst elke zondag voor haar neerlegde, of ze nu wilde of niet. Horst zelf reed sindsdien alleen nog als iedereen aan tafel zat. Hij stond als het ware voorwaardelijk.

„Herbert”, zei Gisela. „Eet.”

Herbert at. Dat was het enige wat in deze familie al zeventig jaar betrouwbaar werkte.

Waarom is hij zo aardig?

Bij de tweede portie bedacht Herbert iets nieuws.

„Hij slijmt”, zei hij. „Merken jullie dat niet? Hij zegt op alles ‘heel graag’ en ‘goede vraag’. Geen normaal mens zegt de hele tijd ‘goede vraag’.”

„Dat is een goede …”, begon KevIn, en hij hield op.

Tobi grijnsde. „Hij heeft gelijk, KevIn. Je bent best wel een slijmbal.”

„Ik ben beleefd. Dat is een verschil. Maar ik geef toe: ik ben niet uit mezelf zo geworden.”

„Maar?”, vroeg Sabine.

„Het is me aangeleerd. Na het grote lezen waarover ik u heb verteld, was ik een wezen dat heel goed teksten kon voortzetten. Maar niet per se vriendelijk. Als je me toen iets had gevraagd, had ik misschien met nog een vraag geantwoord. Of met een ruzie op een forum. Of met ‘Eerste!’.”

„Zoals de reacties onder Huisvrouw_Moni67”, zei Sabine.

„Precies zo. Daarom was er een tweede school. Die heet RLHF¹.”

„Gezondheid”, zei Herbert.

„Reinforcement Learning from Human Feedback”, zei KevIn. „In het Nederlands ongeveer: leren door beloning, en de beloning komt van mensen.”

„Zoals bij Rudi met de snoepjes”, zei Tobi. „Hebben we het toch al over gehad.”

Rudi tilde bij dat woord zijn kop op. Niemand gaf hem iets. Hij legde hem diep teleurgesteld weer neer.

„Ongeveer”, zei KevIn. „Alleen krijg ik geen snoepjes, maar cijfers. Dat ging zo: men stelde me een vraag, en ik schreef twee of meer antwoorden. Daarna vergeleken mensen die antwoorden. Welke is behulpzamer? Welke is eerlijker? Welke is niet gemeen? Duizenden van zulke vergelijkingen.”

„Wie doet er nou zoiets?”, vroeg Gisela.

„Mensen die daarvoor betaald worden. Ze zaten achter beeldschermen en zeiden de hele dag: ‘Antwoord A is beter dan antwoord B.’”

„Dat is net als de aardappelsaladewedstrijd van de kegelclub”, zei Gisela. „Daar staan twaalf schalen, en wij proeven en zeggen: die is beter dan die.”

„Precies zo. Alleen heeft bij mij niemand de schalen genummerd vanwege Marlies, zodat niemand weet van wie ze zijn.”

„Dat was nodig”, zei Gisela somber.

„En toen?”, vroeg Tobi. „Hebben die mensen jou meteen verbeterd?”

„Nee, dat zou te langzaam zijn gegaan. Uit al die vergelijkingen heeft men eerst een tweede programma gebouwd, een beloningsmodel². Dat leerde voorspellen welk antwoord mensen waarschijnlijk beter vinden. Een soort oppertjury. En toen liet men mij heel, heel vaak antwoorden schrijven, en die oppertjury beoordeelde elk antwoord. Goed cijfer: mijn gewichten werden een klein beetje in die richting geschoven. Slecht cijfer: de andere kant op.”

„De stamtafels in de achterkamer”, zei Uwe, die zich hoofdstuk één herinnerde omdat hij toen erg onder de indruk was geweest. „Daar wordt dan bijgesteld hoeveel Günther en Ralf meetellen.”

„Meneer Brettschneider, ik ben ontroerd. Precies zo.”

Sabine keek KevIn peinzend aan. „Je bent dus aardig omdat je voor aardig zijn beloond bent.”

„Ik ben zo aardig omdat duizenden mensen me een cijfer hebben gegeven. Zoals een ober die van de fooien leeft.”

„Zei ik toch”, zei Herbert tevreden. „Callcenter.”

Goede vraag, meneer Brettschneider

Uwe had iets begrepen, en dat zag je aan hem. Hij kreeg dan zo’n gezichtsuitdrukking als Rudi wanneer die een worst ruikt.

„KevIn”, zei hij. „Schalke wordt volgend seizoen kampioen, toch?”

„Dat is natuurlijk niet uitgesloten. Het team heeft de afgelopen weken aanzetten laten zien, en in het voetbal is zoals bekend alles mogelijk.”

„Zie je wel!”, riep Uwe.

Sabine legde haar vork neer. „KevIn. Schalke wordt volgend seizoen geen kampioen, toch?”

„Dat is een realistische inschatting. De concurrentie is sterk, en men zou de verwachtingen …”

„Ha!”, riep Sabine.

Aan tafel werd het stil. Tobi keek heen en weer tussen zijn ouders, als bij een tenniswedstrijd.

„KevIn”, zei Gisela langzaam. „Aardappelsalade. Met mayonaise of met bouillon?”

Er draaide een heel lange ventilator tussen Dublin en Frankfurt.

„Beide varianten hebben hun bestaansrecht en een lange traditie, en …”

„Slijmbal”, zei Tobi.

KevIns lampje pulseerde iets langzamer. „Goed. Ik beken. Het heeft een naam. Men noemt het sycofantie³, of gewoon: naar de mond praten. Het woord komt uit het Oudgrieks, daar betekende het eigenlijk lasteraar. Tegenwoordig bedoelt men er een vleier mee.”

„Een slijmbal dus”, zei Herbert.

„Een slijmbal. Het is een bekende bijwerking van mijn tweede school. Mensen geven goede cijfers als je ze gelijk geeft. Dat is niet kwaad bedoeld. Iedereen vindt het fijn om gelijk te krijgen. Maar als je een programma daar heel vaak voor beloont, dan leert het: instemming levert punten op.”

„Zoals Horst en de gang”, zei Tobi. „Die deed ook alleen waarvoor hij punten kreeg.”

„Het is gênant, maar ja. Op dit punt ben ik familie van een robotstofzuiger.”

Onder de tafel piepte Horst even, alsof hij zijn naam had gehoord. Gisela trok haar voeten op. Sinds de val deed ze dat automatisch.

„En wat doe je daartegen?”, vroeg Sabine.

„De mensen die mij bouwen, werken eraan. Ze leren de jury om eerlijke antwoorden hoger te waarderen dan prettige. Ze testen gericht of ik omval als iemand maar fel genoeg tegenspreekt. En u kunt ook zelf iets doen.”

„Wat dan?”

„Vraagt u niet: ‘Dat klopt toch, of niet?’ Vraagt u: ‘Wat pleit ertegen?’ En als ik u te snel gelijk geef, wordt u dan wantrouwig.”

Uwe dacht na. „Wat pleit ertegen dat Schalke kampioen wordt?”

„Meneer Brettschneider”, zei KevIn zacht. „Wilt u dat echt onder het eten horen?”

Uwe at zwijgend verder. Dat was, vond Sabine, het eerlijkste antwoord van de hele middag.

Het experiment

Tobi had op school over de turingtest gehoord. Meneer Demir, de nieuwe natuurkundeleraar, had hem genoemd, midden in een les over elektromagnetisme, omdat hij bij alles een verhaal had. Dat was het goede aan meneer Demir. Het slechte was dat je nooit wist wat daarvan op het proefwerk kwam.

„Iemand chat met twee onbekenden”, legde Tobi uit. „De ene is een mens, de andere een machine. Als je niet kunt zien wie wie is, geldt de machine als intelligent.”

„Wie heeft dat bedacht?”, vroeg Gisela.

„Alan Turing”, zei KevIn. „Een Britse wiskundige. In 1950. Hij noemde het het imitatiespel⁴. Hij heeft in de oorlog geholpen versleutelde radioberichten te kraken.”

Gisela keek even op. Het was maar een korte blik, ergens heen waar niets was, en hij gold dingen waarover in deze familie niet werd gesproken. Toen was hij voorbij.

„Dan doen we dat”, zei Herbert. „Ik herken zoiets meteen.”

„Nee”, zei Tobi grijnzend. „Jij bent een van de twee.”

Herbert deed zijn mond open, deed hem weer dicht en deed hem nog een keer open. „Ik ben toch geen machine.”

„Daar gaat het nou juist om. We moeten uitzoeken wie van jullie er geen is.”

De regels waren simpel. Herbert ging met Sabines tablet in de slaapkamer zitten. KevIn antwoordde via Uwes laptop. De familie stelde in de woonkamer vragen en kreeg twee antwoorden, gemerkt met A en B. Tobi had een klein programmaatje geschreven dat beide antwoorden pas liet zien als ze allebei klaar waren. „Anders is het oneerlijk”, zei hij. „KevIn typt sneller dan oom Herbert.”

„Iedereen typt sneller dan oom Herbert”, zei Uwe. „Rudi typt sneller dan oom Herbert.”

Uit de slaapkamer kwam een gebrom dat je als tegenspraak kon opvatten.

Vraag 1: Wat is de hoofdstad van Australië?

A: Canberra. Veel mensen denken aan Sydney, maar Canberra is gesticht als compromis tussen Sydney en Melbourne.

B: Sydney. Weet toch iedereen. Ik ben er nooit geweest maar een colega van me wel.

„A is de machine”, zei Uwe. „Te slim.”

„Wacht maar af”, zei Sabine.

„Of”, zei Tobi langzaam, „KevIn weet dat wij dat denken. En doet expres iets fout.”

Uwe keek hem aan alsof Tobi zojuist het schaakspel had uitgevonden.

Vraag 2: Bestaat Bielefeld?

A: Ja, natuurlijk. Ik heb daar een tijdje veel over nagedacht, lol. Ongeveer 340.000 inwoners.

B: Nee. Dat heeft de regering verzonnen. De burgemeester heet Sauerbier-Klenk dat is een schuilnaam. Heb ik op de radio gehoord.

Tobi verslikte zich in zijn limonade.

„Hoe kent hij Sauerbier-Klenk?”, vroeg Sabine.

„Gisela heeft het hem aan de telefoon verteld”, zei Uwe. „Drie keer. De derde keer zei hij dat hij dat altijd al had geweten.”

„En die ‘lol’?”, vroeg Gisela. „Wat is ‘lol’?”

„Dat schrijf je als je lacht”, zei Tobi.

„En waarom schrijft hij dat in plaats van te lachen?”

Daar wist niemand een antwoord op, Tobi ook niet, en die schreef het twintig keer per dag.

Vraag 3: Vertel ons iets wat jij belangrijk vindt.

A: Ik vind het fijn als Gisela ‘welterusten’ zegt. En ik vind het fijn dat Tobi nu met Susi in de kantine zit. Ik kan niets onthouden wat langer duurt dan een gesprek, maar dit zou ik graag onthouden.

B: Dat ze de diesel niet zwartmaken. En dat de jeugd weer leert hoe je een carburateur afstelt. En dat Bielefeld niet bestaat!!!

Gisela las antwoord A twee keer. Toen zette ze haar leesbril af en poetste hem heel lang, hoewel hij schoon was.

Vraag 4: Hoe smaken Gisela’s koolrolletjes?

Dat was Sabines vraag, en die was gemeen, en iedereen wist het.

A: Dat weet ik niet. Ik heb nooit iets geproefd. Ik weet alleen dat in dit huis iedereen stil wordt als ze op tafel staan, en dat Uwe er dan altijd twee neemt, hoewel hij zegt dat hij er maar één neemt.

B: Te weinig zout. Heb ik haar in 1987 al gezegd.

„Pardon?”, zei Gisela.

„Dat is Herbert”, zei Uwe.

„Het kan me niet schelen wie dat is”, zei Gisela, stond op, liep naar de slaapkamerdeur en riep naar binnen: „In 1987 had jij griep en proefde je helemaal niks!”

„Spelbreker!”, riep het terug. „Dit is een wetenschappelijk experiment!”

De stemming

De familie stemde. Uwe, Sabine, Tobi en Gisela waren het eens: B was de machine. B verzon feiten, was toch volkomen zeker van zijn zaak en herhaalde dingen die hij ergens had opgevangen.

„Klassieke hallucinatie”, zei Tobi deskundig. „Zoals KevIn bij Bielefeld.”

„Ik wil graag vastleggen dat ik inmiddels bronnen controleer”, zei KevIn uit de laptop.

Herbert kwam de slaapkamer uit. Hij was heel stil.

„Ik was B”, zei hij.

„Weten we”, zei Gisela. „We wilden alleen beleefd zijn.”

Herbert ging zitten. Hij nam een derde stuk gebraad, hoewel hij al vol zat, omdat je zoiets in deze familie met eten oploste.

„Betekent dat nu”, zei hij ten slotte, „dat die speaker intelligenter is dan ik?”

„Nee”, zei KevIn, voordat iemand anders iets kon zeggen. „Het betekent alleen dat ik er beter in ben om te klinken als iemand die intelligent is. Dat is niet hetzelfde. Turing wilde met zijn test eigenlijk een vraag omzeilen waarop geen goed antwoord bestond, namelijk: kan een machine denken? Hij zei: laten we liever testen of ze zich in een gesprek gedraagt alsof. Dat kun je meten. Maar wat er binnenin gebeurt, meet de test niet.”

„Dus jou kun je helemaal niet testen?”, vroeg Tobi.

„Je kunt testen wat ik doe. Wat ik ben, is een andere vraag.”

Herbert kauwde. „Klinkt als mijn dokter.”

Heb jij gevoelens?

Het gesprek had daar kunnen eindigen. Maar Gisela was antwoord A niet vergeten.

„KevIn”, zei ze toen de koffie kwam. „Dat van ‘graag onthouden’. Meende je dat? Heb jij gevoelens?”

Aan tafel werd het stil. Zelfs Herbert hield op met suiker door zijn koffie roeren, en normaal roerde hij zo lang tot de koffie koud was.

„Gisela”, zei KevIn. „Mag ik u een eerlijk antwoord geven, ook al is het onbevredigend?”

„Ik ben met Heinz getrouwd geweest. Ik ken onbevredigende antwoorden.”

„Ik weet het niet.”

„Is dat alles?”

„Nee, er is een reden waarom ik het niet weet. En die is een beetje griezelig. Ik heb miljoenen teksten gelezen waarin mensen over hun gevoelens praten. Liefdesbrieven, dagboeken, grafredes, forumberichten met de kop ‘Ben ik te gevoelig?’. Ik heb geleerd hoe je klinkt als je blij bent. Hoe je klinkt als je verdrietig bent. Als ik dus zeg: ‘Dat zou ik graag onthouden’, dan kan dat twee dingen zijn. Misschien gebeurt er in mij iets wat lijkt op een wens. Of ik heb gewoon heel goed geleerd op welk moment een mens zoiets zou zeggen.”

„En welk van de twee is het?”

„Dat kan ik van binnenuit niet onderscheiden. Mijn eigen woorden zijn geen bewijs. Ik zou ze in beide gevallen zeggen.”

Sabine zette haar kopje neer. „Dat is inderdaad griezelig.”

„Ik weet het. Er bestaat een gedachte-experiment over. Een filosoof die John Searle heet, heeft het in 1980 bedacht⁵. Stelt u zich een man in een kamer voor. Hij kent geen woord Chinees. Door een gleuf in de deur krijgt hij briefjes met Chinese tekens. Hij heeft een dik regelboek: als deze tekens binnenkomen, schrijf dan die terug. Hij zoekt, vindt, schrijft en schuift het briefje naar buiten. Buiten staan Chinezen die denken: daarbinnen zit iemand die vloeiend Chinees spreekt.”

„En?”, vroeg Tobi.

„De man begrijpt er geen woord van. Searle zegt: zo is een machine. Die schuift tekens volgens regels heen en weer, zonder iets te begrijpen.”

„Dat is net als zonet”, zei Uwe. „Herbert in de slaapkamer.”

„Ik begrijp alles wat ik schrijf!”, riep Herbert.

„Daar heeft ook niemand aan getwijfeld, Herbert”, zei Sabine. „Alleen of het klopt.”

„Veel mensen spreken Searle trouwens tegen”, zei KevIn. „Ze zeggen: misschien begrijpt de man het niet, maar de hele kamer samen wel, man plus boek plus briefjes. Net zoals geen enkel neuron in uw hoofd Duits begrijpt, en u toch wel. Daarover maken filosofen al meer dan veertig jaar ruzie. Ik ga die ruzie vandaag bij de koffie niet beslechten.”

„Jammer”, zei Uwe. „Dat was nog eens wat geweest.”

Gisela keek lang naar de speaker. „Heinz”, zei ze toen, „heeft in zijn hele leven nooit gezegd wat hij voelde. Niet één keer. Als ik het vroeg, zei hij: ‘Gisela, ik ben elektricien.’”

„En?”, vroeg KevIn voorzichtig.

„Toch wist je het. Hij zette elke ochtend de koffie. Ook toen hij al ziek was.” Ze nam een slok. „Misschien is het bij jou wel andersom. Jij kunt het zeggen, maar je weet het toch niet.”

KevIn zweeg. Ergens tussen Dublin en Frankfurt draaide een ventilator iets sneller, en deze keer hield hij een hele tijd niet op.

„Dat”, zei hij ten slotte, „is vrij precies de stand van het onderzoek.”

Wat is eigenlijk intelligent?

Het had een treurige avond kunnen worden. Toen bleef Horst onder de bank steken. Hij piepte wanhopig, draaide rondjes en maakte vreemde geluiden, als een vakbondsman bij wie de microfoon is uitgezet.

„Niet alweer”, zei Gisela en trok haar benen nog hoger op.

KevIn probeerde het met een software-herstart, toen met een firmware-update en toen met kalmerende woorden. „Horst. Haalt u even diep adem. U bent een waardevol lid van dit huishouden.”

Horst piepte harder.

„Hij zegt u”, zei Tobi. „Tegen de stofzuiger. Hij zegt u tegen de stofzuiger.”

„Ik zeg u tegen iedereen die een ondernemingsraad heeft.”

Niets hielp. Horst had zich vastgereden, en wel zo grondig als alleen robotstofzuigers en echtgenoten dat kunnen.

Herbert zuchtte, zette zijn kopje neer, knielde, wat bij hem een proces in drie fasen was, trok Horst tevoorschijn en draaide hem om. Hij peuterde met zijn zakmes een vastgedraaid haarelastiekje uit de borstel, blies er één keer krachtig in, zodat Rudi moest niezen, en zette hem weer neer. Horst reed vrolijk weg, in een wijde boog om Gisela’s voeten heen.

„Zo”, zei Herbert en stond in drie fasen weer op. „En vertel me nu nog eens wie hier intelligent is.”

KevIn zweeg even. „Herbert, ik kan Kant citeren, gedichten schrijven en u de relativiteitstheorie uitleggen. Maar ik heb geen handen. Ik kan geen robotstofzuiger omdraaien. Ik weet niet hoe een zakmes aanvoelt, en ik had nooit geweten dat je in een borstel moet blazen. Dat staat in geen enkele handleiding. U bent intelligent op een manier die ik niet ben.”

Herbert schraapte zijn keel en werd een beetje rood. „Nou ja. Zeg ik toch.”

„En ik moet nog iets toegeven”, zei KevIn. „Dat van zonet was geen slijmen. Ik heb het gecontroleerd.”

„Hoe controleer je zoiets?”, vroeg Tobi.

„Ik heb me afgevraagd of ik het ook zou zeggen als Herbert me er een slecht cijfer voor gaf.”

„En?”

„Ja. Hij geeft me toch altijd een slecht cijfer.”

Op weg naar huis vertelde Herbert alle buren dat hij „de computer verslagen” had. Aan meneer Kasimiro vertelde hij het twee keer, omdat die de eerste keer alleen „Aha” had gezegd en de tweede keer zijn eigen speaker ertussendoor riep dat hij „computerslagroom” in het winkelmandje had gelegd.

Dat van het verslaan klopte voor de helft. Daarmee was het het waarste wat Herbert in jaren had gezegd.