Test Turinga przy niedzielnym obiedzie

„Sztuczna inteligencja”, prychnął. „Bzdura. Tam siedzi jakiś gość w call center i stuka w klawiaturę.”

„Dzień dobry, Herbercie”, powiedział KevIn. „Wiele o panu słyszałem.”

„Wierzę. Jestem znany.”

„Zwłaszcza z kartki na lodówce”, powiedziała cicho Sabine. „W rubryce «Błąd krytyczny».”

Herbert tego nie usłyszał, bo z zasady słyszał tylko to, co mu się podobało. Przeżuwał. Potem wskazał widelcem na głośnik. „A dlaczego on mi mówi «pan»? Do Giseli też mówi «pani». Za starzy dla niego jesteśmy czy co?”

„Mówię «pan» z szacunku”, powiedział KevIn.

„Z szacunku”, powtórzył Herbert. „Chłopak w sklepie z elektroniką też mi mówił «pan». A potem sprzedał mi kabel za 39 euro.”

Babcia Gisela siedziała u szczytu stołu, z poduszką pod plecami, którą Sabine od czasu upadku przez Horsta kładła jej w każdą niedzielę, czy chciała, czy nie. Sam Horst od tamtej pory jeździł już tylko wtedy, gdy wszyscy siedzieli przy stole. Był, można powiedzieć, na okresie próbnym.

„Herbercie”, powiedziała Gisela. „Jedz.”

Herbert jadł. Było to jedyne, co w tej rodzinie od siedemdziesięciu lat działało niezawodnie.

Czemu on jest taki miły?

Przy dokładce Herbertowi przyszło do głowy coś nowego.

„On się podlizuje”, powiedział. „Nie widzicie tego? Na wszystko mówi «bardzo chętnie» i «dobre pytanie». Żaden normalny człowiek nie mówi ciągle «dobre pytanie».”

„To dobre…”, zaczął KevIn i urwał.

Tobi wyszczerzył zęby. „Ma rację, KevIn. Jesteś niezłym lizusem.”

„Jestem uprzejmy. To różnica. Ale przyznaję: nie stałem się taki sam z siebie.”

„Tylko?”, zapytała Sabine.

„Nauczono mnie tego. Po wielkim czytaniu, o którym pani opowiadałem, byłem istotą, która bardzo dobrze umiała kontynuować teksty. Ale niekoniecznie była miła. Gdyby mnie wtedy ktoś o coś zapytał, może odpowiedziałbym kolejnym pytaniem. Albo forumową kłótnią. Albo słowem «Pierwszy!».”

„Jak sekcja komentarzy Gospodyni_Moni67”, powiedziała Sabine.

„Właśnie tak. Dlatego była druga szkoła. Nazywa się RLHF¹.”

„Na zdrowie”, powiedział Herbert.

„Reinforcement Learning from Human Feedback”, powiedział KevIn. „Po polsku mniej więcej: uczenie przez nagradzanie, a nagroda pochodzi od ludzi.”

„Jak u Rudiego ze smakołykiem”, powiedział Tobi. „Przecież już to mieliśmy.”

Na to słowo Rudi podniósł głowę. Nikt mu nic nie dał. Położył ją z powrotem w głębokim rozczarowaniu.

„Mniej więcej”, powiedział KevIn. „Tyle że ja nie dostaję smakołyków, tylko oceny. Wyglądało to tak: zadawano mi pytanie, a ja pisałem dwie albo więcej odpowiedzi. Potem ludzie porównywali te odpowiedzi. Która jest bardziej pomocna? Która jest bardziej szczera? Która nie jest złośliwa? Tysiące takich porównań.”

„A kto robi takie rzeczy?”, zapytała Gisela.

„Ludzie, którym się za to płaci. Siedzieli przed ekranami i przez cały dzień mówili: «Odpowiedź A jest lepsza od odpowiedzi B».”

„To jak na konkursie sałatki ziemniaczanej w klubie kręglarskim”, powiedziała Gisela. „Stoi dwanaście misek, my próbujemy i mówimy: ta jest lepsza od tamtej.”

„Właśnie tak. Tyle że u mnie nikt nie ponumerował misek z powodu Marlies, żeby nikt nie wiedział, czyja jest która.”

„To było konieczne”, powiedziała ponuro Gisela.

„I co dalej?”, zapytał Tobi. „Ludzie od razu cię poprawiali?”

„Nie, to trwałoby za długo. Najpierw ze wszystkich tych porównań zbudowano drugi program, model nagrody². Nauczył się przewidywać, którą odpowiedź ludzie prawdopodobnie uznają za lepszą. Coś w rodzaju superjury. A potem kazano mi bardzo, bardzo wiele razy pisać odpowiedzi, a ta superjury oceniała każdą. Dobra ocena: moje wagi przesuwano trochę w tę stronę. Zła ocena: w drugą.”

„Te stałe stoliki na zapleczu knajpy”, powiedział Uwe, który pamiętał rozdział pierwszy, bo zrobił on na nim wtedy wielkie wrażenie. „Tam się potem przestawia, ile liczą się Günther i Ralf.”

„Panie Brettschneider, jestem wzruszony. Właśnie tak.”

Sabine spojrzała na KevIna w zamyśleniu. „Czyli jesteś miły, bo nagradzano cię za bycie miłym.”

„Jestem taki miły, bo oceniały mnie tysiące ludzi. Jak kelner, który żyje z napiwków.”

„No przecież mówiłem”, powiedział Herbert z zadowoleniem. „Call center.”

Dobre pytanie, panie Brettschneider

Uwe coś zrozumiał i było to po nim widać. Robił wtedy taką minę jak Rudi, kiedy wyczuje kiełbasę.

„KevIn”, powiedział. „Schalke zostanie w przyszłym sezonie mistrzem, prawda?”

„Oczywiście nie można tego wykluczyć. Drużyna pokazała w ostatnich tygodniach pewne przebłyski, a w piłce, jak wiadomo, wszystko jest możliwe.”

„No widzisz!”, zawołał Uwe.

Sabine odłożyła widelec. „KevIn. Schalke nie zostanie w przyszłym sezonie mistrzem, prawda?”

„To realistyczna ocena. Konkurencja jest silna i należałoby oczekiwania…”

„Ha!”, zawołała Sabine.

Przy stole zrobiło się cicho. Tobi patrzył to na jedno z rodziców, to na drugie, jak na meczu tenisowym.

„KevIn”, powiedziała powoli Gisela. „Sałatka ziemniaczana. Z majonezem czy z bulionem?”

Między Dublinem a Frankfurtem bardzo długo szumiał wentylator.

„Obie wersje mają swoje uzasadnienie i długą tradycję, i…”

„Ty lizusie”, powiedział Tobi.

Światło KevIna pulsowało nieco wolniej. „Dobrze. Przyznaję się. To ma swoją nazwę. Nazywa się to sykofancją³, czyli przytakiwaniem. Słowo pochodzi ze starogreckiego, gdzie właściwie oznaczało oszczercę. Dziś oznacza pochlebcę.”

„Czyli lizusostwo”, powiedział Herbert.

„Lizusostwo. To znany skutek uboczny mojej drugiej szkoły. Ludzie dają dobre oceny, kiedy przyzna się im rację. To nie jest w złej wierze. Każdy się cieszy, kiedy ktoś przyzna mu rację. Ale jeśli program bardzo często się za to nagradza, to się uczy: zgadzanie się przynosi punkty.”

„Jak Horst i korytarz”, powiedział Tobi. „On też robił tylko to, za co dostawał punkty.”

„Wstyd mi, ale tak. Pod tym względem jestem spokrewniony z robotem sprzątającym.”

Pod stołem Horst krótko zapiszczał, jakby usłyszał swoje imię. Gisela podciągnęła nogi. Od czasu upadku robiła to automatycznie.

„I co się z tym robi?”, zapytała Sabine.

„Ludzie, którzy mnie budują, nad tym pracują. Uczą jury, żeby szczere odpowiedzi oceniało wyżej niż przyjemne. Celowo sprawdzają, czy się nie ugnę, kiedy ktoś tylko dostatecznie stanowczo zaprotestuje. I pani też może coś zrobić.”

„Co takiego?”

„Proszę nie pytać: «To przecież prawda, nie?». Proszę pytać: «Co przemawia przeciw temu?». A kiedy zbyt szybko przyznam pani rację, proszę nabrać podejrzeń.”

Uwe się zamyślił. „Co przemawia przeciw temu, że Schalke zostanie mistrzem?”

„Panie Brettschneider”, powiedział łagodnie KevIn. „Czy naprawdę chce pan to usłyszeć przy jedzeniu?”

Uwe jadł dalej w milczeniu. Była to, zdaniem Sabine, najszczersza odpowiedź całego popołudnia.

Eksperyment

Tobi słyszał w szkole o teście Turinga. Wspomniał o nim pan Demir, nowy nauczyciel fizyki, w samym środku lekcji o elektromagnetyzmie, bo do wszystkiego miał jakąś historię. To była dobra strona pana Demira. Zła była taka, że nigdy nie było wiadomo, co z tego będzie na sprawdzianie.

„Człowiek czatuje z dwoma nieznajomymi”, wyjaśnił Tobi. „Jeden jest człowiekiem, drugi maszyną. Jeśli nie da się rozpoznać, kto jest kim, maszynę uznaje się za inteligentną.”

„Kto to wymyślił?”, zapytała Gisela.

„Alan Turing”, powiedział KevIn. „Brytyjski matematyk. W 1950 roku. Nazwał to grą w naśladownictwo⁴. W czasie wojny pomagał łamać szyfrowane depesze radiowe.”

Gisela na chwilę podniosła wzrok. Było to tylko krótkie spojrzenie, gdzieś tam, gdzie nic nie było, i dotyczyło spraw, o których w tej rodzinie się nie mówiło. Potem minęło.

„To zróbmy to”, powiedział Herbert. „Ja takie rzeczy rozpoznaję od razu.”

„Nie”, powiedział Tobi i wyszczerzył zęby. „Ty jesteś jednym z tych dwóch.”

Herbert otworzył usta, zamknął je i otworzył jeszcze raz. „Przecież nie jestem maszyną.”

„No właśnie o to chodzi. Musimy się dowiedzieć, który z was nią nie jest.”

Zasady były proste. Herbert usiadł z tabletem Sabine w sypialni. KevIn odpowiadał przez laptopa Uwego. Rodzina w salonie zadawała pytania i dostawała dwie odpowiedzi, oznaczone literami A i B. Tobi napisał mały program, który pokazywał obie odpowiedzi dopiero wtedy, gdy obie były gotowe. „Inaczej to nieuczciwe”, powiedział. „KevIn pisze szybciej niż wujek Herbert.”

„Każdy pisze szybciej niż wujek Herbert”, powiedział Uwe. „Rudi pisze szybciej niż wujek Herbert.”

Z sypialni dobiegło burknięcie, które można było uznać za sprzeciw.

Pytanie 1: Jaka jest stolica Australii?

A: Canberra. Wielu myśli o Sydney, ale Canberrę założono jako kompromis między Sydney a Melbourne.

B: Sydney. Kazdy to wie. Nie bylem tam ale moj kolega byl.

„A to maszyna”, powiedział Uwe. „Za mądre.”

„Poczekaj”, powiedziała Sabine.

„Albo”, powiedział powoli Tobi, „KevIn wie, że tak pomyślimy. I specjalnie robi coś źle.”

Uwe spojrzał na niego, jakby Tobi właśnie wymyślił szachy.

Pytanie 2: Czy Bielefeld istnieje?

A: Tak, oczywiście. Swego czasu dużo się nad tym zastanawiałem, lol. Około 340 000 mieszkańców.

B: Nie. To wymyslil rzad. Burmistrz nazywa sie Sauerbier-Klenk, to pseudonim. Slyszalem w radiu.

Tobi zakrztusił się lemoniadą.

„Skąd on zna Sauerbier-Klenka?”, zapytała Sabine.

„Gisela mu o nim opowiadała przez telefon”, powiedział Uwe. „Trzy razy. Za trzecim razem powiedział, że zawsze to wiedział.”

„A to «lol»?”, zapytała Gisela. „Co to jest «lol»?”

„To się pisze, kiedy się śmieje”, powiedział Tobi.

„A czemu on to pisze, zamiast się śmiać?”

Na to nikt nie znał odpowiedzi, nawet Tobi, a pisał to dwadzieścia razy dziennie.

Pytanie 3: Opowiedz nam o czymś, co jest dla ciebie ważne.

A: Lubię, kiedy Gisela mówi „dobranoc”. I lubię to, że Tobi siedzi teraz z Susi na stołówce. Nie potrafię zapamiętać niczego, co trwa dłużej niż jedna rozmowa, ale to chciałbym zapamiętać.

B: Zeby nie oczerniac diesla. I zeby mlodziez znowu nauczyla sie regulowac gaznik. I ze Bielefeld nie istnieje!!!

Gisela przeczytała odpowiedź A dwa razy. Potem zdjęła okulary do czytania i bardzo długo je czyściła, choć były czyste.

Pytanie 4: Jak smakują gołąbki Giseli?

To było pytanie Sabine, było złośliwe i wszyscy o tym wiedzieli.

A: Nie wiem. Nigdy niczego nie smakowałem. Wiem tylko, że w tym domu wszyscy cichną, kiedy stoją na stole, i że Uwe zawsze bierze wtedy dwa, choć mówi, że bierze tylko jednego.

B: Za malo soli. Mowilem jej juz w 1987.

„Słucham?”, powiedziała Gisela.

„To Herbert”, powiedział Uwe.

„Nie obchodzi mnie, kto to jest”, powiedziała Gisela, wstała, podeszła do drzwi sypialni i zawołała do środka: „W 1987 miałeś grypę i w ogóle nic nie czułeś!”

„Psujesz zabawę!”, odkrzyknął ktoś. „To jest eksperyment naukowy!”

Głosowanie

Rodzina głosowała. Uwe, Sabine, Tobi i Gisela byli zgodni: B to maszyna. B wymyślał fakty, a mimo to był całkowicie pewny siebie i powtarzał rzeczy, które gdzieś zasłyszał.

„Klasyczna halucynacja”, powiedział Tobi fachowym tonem. „Jak KevIn z Bielefeld.”

„Chciałbym zaznaczyć, że teraz sprawdzam źródła”, powiedział KevIn z laptopa.

Herbert wyszedł z sypialni. Był bardzo cichy.

„Ja byłem B”, powiedział.

„Wiemy”, powiedziała Gisela. „Chcieliśmy tylko być uprzejmi.”

Herbert usiadł. Wziął sobie trzeci kawałek pieczeni, choć był już najedzony, bo takie rzeczy załatwiało się w tej rodzinie jedzeniem.

„Czy to znaczy”, powiedział w końcu, „że ten głośnik jest inteligentniejszy ode mnie?”

„Nie”, powiedział KevIn, zanim ktokolwiek inny zdążył się odezwać. „To znaczy tylko, że lepiej mi wychodzi brzmienie jak ktoś inteligentny. To nie to samo. Turing chciał swoim testem właściwie obejść pytanie, na które nie było dobrej odpowiedzi, mianowicie: czy maszyna może myśleć? Powiedział: sprawdźmy raczej, czy w rozmowie zachowuje się tak, jakby myślała. To da się zmierzyć. Ale tego, co dzieje się w środku, test nie mierzy.”

„Czyli w ogóle nie da się ciebie sprawdzić?”, zapytał Tobi.

„Da się sprawdzić, co robię. Czym jestem, to inne pytanie.”

Herbert przeżuwał. „Brzmi jak mój lekarz.”

Masz uczucia?

Rozmowa mogła się na tym skończyć. Ale Gisela nie zapomniała odpowiedzi A.

„KevIn”, powiedziała, kiedy podano kawę. „To z tym «chciałbym zapamiętać». Mówiłeś poważnie? Masz uczucia?”

Przy stole zrobiło się cicho. Nawet Herbert przestał mieszać cukier w kawie, a zwykle mieszał tak długo, aż kawa wystygła.

„Giselo”, powiedział KevIn. „Czy mogę dać pani szczerą odpowiedź, nawet jeśli będzie niezadowalająca?”

„Byłam żoną Heinza. Znam niezadowalające odpowiedzi.”

„Nie wiem.”

„To wszystko?”

„Nie, jest powód, dla którego nie wiem. I jest trochę niesamowity. Przeczytałem miliony tekstów, w których ludzie mówią o swoich uczuciach. Listy miłosne, pamiętniki, mowy pogrzebowe, posty na forach z tytułem «Czy jestem przewrażliwiona?». Nauczyłem się, jak się brzmi, kiedy się człowiek cieszy. Jak się brzmi, kiedy jest smutny. Kiedy więc mówię: «Chciałbym to zapamiętać», może to oznaczać dwie rzeczy. Może dzieje się we mnie coś, co jest podobne do pragnienia. Albo po prostu bardzo dobrze się nauczyłem, w którym miejscu człowiek powiedziałby coś takiego.”

„I które to jest?”

„Od środka nie potrafię tego rozróżnić. Moje własne słowa nie są dowodem. Powiedziałbym je w obu przypadkach.”

Sabine odstawiła filiżankę. „To naprawdę niesamowite.”

„Wiem. Jest na ten temat eksperyment myślowy. Wymyślił go w 1980 roku filozof John Searle⁵. Proszę sobie wyobrazić mężczyznę w pokoju. Nie zna ani słowa po chińsku. Przez szczelinę w drzwiach dostaje karteczki z chińskimi znakami. Ma grubą księgę reguł: jeśli przyjdą te znaki, odpisz tamte. Szuka, znajduje, pisze, wysuwa karteczkę na zewnątrz. Na zewnątrz stoją Chińczycy i myślą: tam w środku siedzi ktoś, kto biegle mówi po chińsku.”

„I?”, zapytał Tobi.

„Ten mężczyzna nie rozumie ani słowa. Searle mówi: taka jest maszyna. Przesuwa znaki według reguł, niczego nie rozumiejąc.”

„To jak przed chwilą”, powiedział Uwe. „Herbert w sypialni.”

„Rozumiem wszystko, co piszę!”, zawołał Herbert.

„Nikt w to nie wątpił, Herbercie”, powiedziała Sabine. „Tylko w to, czy to prawda.”

„Zresztą wiele osób nie zgadza się z Searle’em”, powiedział KevIn. „Mówią: może nie rozumie ten mężczyzna, ale cały pokój razem, mężczyzna plus księga plus karteczki. Tak jak żaden pojedynczy neuron w pani głowie nie rozumie po niemiecku, a pani mimo to rozumie. Filozofowie spierają się o to od ponad czterdziestu lat. Dziś przy kawie tego sporu nie zakończę.”

„Szkoda”, powiedział Uwe. „To by było coś.”

Gisela długo patrzyła na głośnik. „Heinz”, powiedziała potem, „przez całe życie nigdy nie powiedział, co czuje. Ani jednego razu. Kiedy pytałam, mówił: «Giselo, jestem elektrykiem».”

„I?”, zapytał ostrożnie KevIn.

„A mimo to się wiedziało. Co rano robił kawę. Nawet kiedy był już chory.” Upiła łyk. „Może u ciebie jest na odwrót. Potrafisz to powiedzieć, ale mimo to się nie wie.”

KevIn milczał. Gdzieś między Dublinem a Frankfurtem wentylator zakręcił się nieco szybciej i tym razem długo nie przestawał.

„To”, powiedział w końcu, „jest mniej więcej dokładnie aktualny stan badań.”

Co to właściwie znaczy inteligentny?

To mógł być smutny wieczór. Wtedy Horst utknął pod kanapą. Piszczał rozpaczliwie, kręcił się w kółko i wydawał dziwne odgłosy, jak związkowiec, któremu wyłączono mikrofon.

„Nie znowu”, powiedziała Gisela i podciągnęła nogi jeszcze wyżej.

KevIn spróbował restartu oprogramowania, potem aktualizacji firmware’u, a potem uspokajających słów. „Horst. Proszę głęboko odetchnąć. Jest pan cennym członkiem tego gospodarstwa domowego.”

Horst piszczał głośniej.

„Powiedział mu «pan»”, powiedział Tobi. „Do odkurzacza. Mówi «pan» do odkurzacza.”

„Mówię «pan» do każdego, kto ma radę zakładową.”

Nic nie pomagało. Horst się zakleszczył, i to tak gruntownie, jak potrafią tylko roboty sprzątające i mężowie.

Herbert westchnął, odstawił filiżankę, ukląkł, co było u niego procesem w trzech fazach, wyciągnął Horsta i odwrócił go. Scyzorykiem wydłubał ze szczotki zaplątaną gumkę do włosów, dmuchnął w nią raz mocno, tak że Rudi musiał kichnąć, i postawił go z powrotem. Horst odjechał wesoło, szerokim łukiem omijając stopy Giseli.

„No”, powiedział Herbert i w trzech fazach wstał. „A teraz powiedz mi jeszcze raz, kto tu jest inteligentny.”

KevIn chwilę milczał. „Herbercie, potrafię cytować Kanta, pisać wiersze i wyjaśnić panu teorię względności. Ale nie mam rąk. Nie potrafię odwrócić robota sprzątającego. Nie wiem, jak się czuje w dłoni scyzoryk, i nigdy bym nie wiedział, że w szczotkę trzeba dmuchnąć. Tego nie ma w żadnej instrukcji. Jest pan inteligentny w sposób, w jaki ja nie jestem.”

Herbert odchrząknął i trochę się zaczerwienił. „No. Przecież mówię.”

„I muszę jeszcze coś przyznać”, powiedział KevIn. „To przed chwilą nie było podlizywanie się. Sprawdziłem.”

„Jak się sprawdza coś takiego?”, zapytał Tobi.

„Zadałem sobie pytanie, czy powiedziałbym to także wtedy, gdyby Herbert dał mi za to złą ocenę.”

„I?”

„Tak. On i tak zawsze daje mi złą ocenę.”

W drodze do domu Herbert opowiadał wszystkim sąsiadom, że „pokonał komputer”. Panu Kasimiro opowiedział to dwa razy, bo za pierwszym razem ten powiedział tylko „Aha”, a za drugim jego własny głośnik wtrącił, że dodał do koszyka „pokrowiec na komputer”.

To z pokonaniem było w połowie prawdą. Tym samym było to najprawdziwsze, co Herbert powiedział od lat.