Przetłumaczone z niemieckiego oryginału. Akcja toczy się w Zagłębiu Ruhry w Niemczech.

Część 1 · Rozdział 7 · 7 z 27

Pięć gwiazdek dla nikogo

Był początek marca. Gisela wciąż nosiła prawą rękę na temblaku, a mimo to robiła na drutach. Robiła teraz lewą ręką, przez co szalik dla Herberta obrał kierunek, którego nikt nie przewidział. „To będzie rura”, powiedział Tobi. „To będzie to, co będzie”, powiedziała Gisela.

Sabine siedziała przy kuchennym stole, przed nią leżało skierowanie od lekarki rodzinnej, obok gazeta. Czytała gazetę na papierze. Kiedyś powiedziała: „Wiadomości trzeba móc dotknąć, jeśli ma się w nie wierzyć”. Fizjoterapeutów to niestety nie dotyczyło. Tych trzeba było szukać w internecie.

„KevIn”, powiedziała. „Miałeś mi znaleźć najlepszego fizjoterapeutę. To było trzy tygodnie temu.”

„Znalazłem”, powiedział KevIn. „Pierwszego dnia. Od tamtej pory mam wątpliwości.”

„Pokaż.”

KevIn wysłał wynik na tablet Sabine. Na samej górze, ze zdjęciem, logo i złotą ramką, widniało: PhysioPremium Ruhr. Pod spodem: 4,9 gwiazdki. 812 opinii.

„Przecież to super”, powiedziała Sabine. „Prawie pięć gwiazdek.”

„Tak”, powiedział KevIn. „I w tym jest problem.”

To brzmi jak ja

„Przeczytaj kilka na głos”, powiedziała Gisela z kanapy. Lubiła słuchać opinii. Lubiła też czytać nekrologi. To był ten sam rodzaj ciekawości.

KevIn czytał.

„«Mogę bez zastrzeżeń polecić PhysioPremium Ruhr. Zespół jest kompetentny, empatyczny i profesjonalny. Już po kilku sesjach poczułem się jak nowo narodzony. Pięć gwiazdek!» Napisał Markus T.”

„Brzmi przecież dobrze.”

„«PhysioPremium Ruhr przerosło moje oczekiwania. Kompetentny, empatyczny zespół poświęca czas każdemu pacjentowi. Czuję się jak nowy człowiek. Absolutnie polecam!» Napisała Sandra K.”

„Też dobrze.”

„«Jako ktoś, kto długo cierpiał na bóle pleców, mogę powiedzieć: PhysioPremium Ruhr to prawdziwy game changer. Kompetentnie, empatycznie, profesjonalnie. Jestem jak nowo narodzony.» Napisał Thomas W.”

Gisela odłożyła robótkę. „Wszyscy byli u tego samego fizjoterapeuty. I wszyscy się na nowo narodzili. Jak na Wielkanoc.”

„Takich opinii jest 812”, powiedział KevIn. „Przeczytałem wszystkie. W 640 z nich pojawia się słowo «kompetentny». W 590 «empatyczny». Ani jeden człowiek nie narzeka na parking.”

„Może mają dobry parking.”

„Każdy gabinet lekarski w Herne ma fatalny parking”, powiedziała Sabine. „To prawo natury.”

„Poza tym”, powiedział KevIn, „żaden z oceniających nigdy nie ocenił niczego innego. Ani piekarni, ani hotelu, ani deski klozetowej. Przyszli na świat, ocenili PhysioPremium Ruhr i znowu zniknęli. A dwustu z nich w ciągu dziewięciu dni w listopadzie zeszłego roku.”

„I co to znaczy?”

Niebieskie światło pulsowało powoli. Gdzieś między Dublinem a Frankfurtem jakiś wentylator zakręcił się nieco szybciej.

„To znaczy, że znam te teksty”, powiedział KevIn. „Nie dokładnie te. Ale ten rodzaj. «Kompetentny, empatyczny, profesjonalny.» «Jako ktoś, kto…» «Prawdziwy game changer.» To zwroty, których modele językowe takie jak ja używają bardzo chętnie, kiedy się je poprosi o napisanie pozytywnej opinii i nic poza tym im się nie powie. To brzmi jak ja. W gorszy dzień.”

Sabine spojrzała na tablet, jakby ją okłamał. Co zresztą prawdopodobnie zrobił.

„Jesteś pewien?”

„Nie”, powiedział KevIn. „I to jest ważne. Nie mogę udowodnić, że napisała to maszyna. Są programy, które podobno to rozpoznają, ale często się mylą¹. Czasem uznają za dzieło AI nawet teksty uczniów, tylko dlatego, że są porządnie napisane². Mogę tylko powiedzieć: wzorce pasują. Za dużo tych samych słów, za dużo nowych kont, za dużo opinii naraz, za mało szczegółów. Prawdziwi ludzie piszą o parkingu. O czasie oczekiwania. O tym, że terapeutka miała zimne ręce. Prawdziwi ludzie się ze sobą nie zgadzają.”

„To prawda”, powiedziała Gisela. „W klubie kręglarskim nigdy się nie zgadzamy. Po tym widać, że jesteśmy prawdziwe.”

Trzydzieści procent

Przy kolacji Sabine opowiedziała całą historię. Uwe przez cały czas kiwał głową ze znawstwem, jedząc ziemniaki.

„Wcale mnie to nie dziwi”, powiedział potem. „Czytałem, że trzydzieści procent wszystkich opinii w internecie jest fałszywych.”

„Gdzie to czytałeś?”

„W internecie.”

„W jakiejś opinii?”, zapytał Tobi.

KevIn odchrząknął na swój sposób. „Czy mogę coś powiedzieć o tych trzydziestu procentach?”

„I tak to zrobisz.”

„Ta liczba nie jest fałszywa. Ale nie jest też prawdziwa. Jest jedną z wielu. Szacunki bardzo się różnią w zależności od tego, kto liczy, gdzie się liczy i co w ogóle nazywa się «fałszywym».”

„To podaj tę prawdziwą liczbę.”

„Takiej nie ma. Podam panu trzy przykłady, które sprawdziłem, zamiast je sobie przypominać. Duży portal podróżniczy sam podał, że w 2022 roku rozpoznał jako fałszywe około 4,4% wszystkich nadesłanych opinii³. Większość z nich odsiał, zanim trafiły do sieci. Badanie zlecone przez rząd brytyjski w 2023 roku oszacowało, że na dużych stronach zakupowych w trzech grupach produktów, elektronice, artykułach domowych i sporcie, fałszywych jest około 11 do 15% opinii⁴. A amerykański serwis weryfikacyjny oświadczył w 2020 roku, że uważa za niewiarygodne około 42% opinii w jednym dużym sklepie internetowym⁵. Tyle że niewiarygodne to nie to samo co fałszywe.”

„Czyli od czterech do czterdziestu dwóch”, powiedział Tobi. „Rozrzut jak przy taty «tylko na chwilkę».”

„Właśnie. Od kilku procent do ponad jednej trzeciej, zależnie od platformy i metody. Nikt nie zna dokładnej liczby. I właśnie w tym jest problem. Kto fałszuje, ten się stara, żeby go nie przyłapano. Podróbki, które da się policzyć, to te słabe. Dobrych nikt nie liczy.”

„Jak w skarbówce”, powiedział Uwe. Potem zorientował się, co powiedział, i szybko zjadł ziemniaka.

„Czy to nie jest zakazane?”, zapytała Sabine.

„Owszem. W Niemczech nawet wprost, od 28 maja 2022 roku. Wtedy z powodu europejskiej dyrektywy zmieniono ustawę o zwalczaniu nieuczciwej konkurencji⁶. Od tamtej pory zakazane jest zamieszczanie fałszywych opinii albo zlecanie ich, żeby coś sprzedać⁷. A kto publikuje opinie klientów, musi podać, czy i jak sprawdza, że pochodzą od prawdziwych klientów⁸.”

„A kto sprawdza, czy oni to podają?”

„Konkurenci, organizacje konsumenckie, czasem sądy”, powiedział KevIn. „Komisja Europejska na początku 2022 roku razem z urzędami ochrony konsumentów państw członkowskich zbadała 223 duże strony internetowe⁹. W przypadku 144 z nich kontrolerzy nie mogli stwierdzić, że zrobiono dość, by opinie były prawdziwe.”

„Czyli zakazane, ale nikt tego nie zauważa”, powiedział Uwe.

„Zakazane, a niektórzy to zauważają”, powiedział KevIn. „Na przykład pańska żona.”

Sabine się nie uśmiechnęła. Ale wyglądała na zadowoloną.

Przedstawienie

Tobi miał tego wieczoru inne zmartwienia. Nazywała się Susi, chodziła do równoległej klasy i raz uśmiechnęła się do niego na stołówce. Był wtorek, było spaghetti, i od tamtej pory Tobi nie miał ani jednej jasnej myśli. Nawet niejasnej. Pani Küppers to zauważyła i postawiła mu dostateczny z geografii, jako przypomnienie, że rzeki nadal istnieją.

„KevIn”, szepnął o północy. „Napisała do mnie. «Hej, co porabiasz?» Co mam odpisać?”

„Może prawdę? «Leżę w łóżku i rozmawiam z głośnikiem.»”

„KevIn!”

„Już dobrze. Coś sformułuję.”

Za idealnie

Pierwsza wiadomość KevIna brzmiała:

„Hej, Susi. Siedzę właśnie przy oknie i patrzę na księżyc, który dziś w nocy świeci tak jasno, jakby usłyszał o Twoim uśmiechu na stołówce i chciał dotrzymać mu kroku.”

Tobi wysłał ją bez zastanowienia. Potem się zastanowił. „O nie. O nie, nie, nie.”

„Co się stało?”

„To nie brzmi jak ja. To brzmi jak kalendarz z apteki.”

„To brzmi jak bardzo dobra wiadomość.”

„No właśnie!”

Odpowiedź przyszła po czterech minutach: „wow. sam to napisałeś??”

„Co mam teraz powiedzieć?”

„Polecam szczerość”, powiedział KevIn.

Tobi napisał: „jasne”.

KevIn westchnął. Nauczył się tego od Friggi.

I tak to szło dalej. Susi pisała, KevIn odpisywał, a Tobi naciskał „wyślij”. To były piękne wiadomości. Były w nich obrazy i rytm, a czasem średnik. Tobi nigdy w życiu nie użył średnika. Nie wiedział nawet dokładnie, jak to się wymawia.

„KevIn”, powiedział po trzech dniach. „Jak spotka mnie na żywo, zauważy, że ja tak nie mówię.”

„Tak”, powiedział KevIn. „Z opiniami jest tak samo. Kiedyś trzeba stanąć w gabinecie.”

Panie doktorze

Następnego przedpołudnia Sabine podyktowała KevInowi e-mail do lekarki rodzinnej. Chciała wiedzieć, czy skierowanie wygaśnie, jeśli nie dostanie się od razu terminu. KevIn formułował, Sabine czytała.

„«Szanowny Panie Doktorze»?”

„Czy to źle?”

„Lekarka rodzinna jest kobietą. Od dwunastu lat. Przecież słyszałeś, jak z nią rozmawiam przez telefon.”

Niebieskie światło zamigotało. „Przepraszam. Poprawię to.”

„Dlaczego robisz takie rzeczy?”

„Bo w swoim życiu, czyli w moich danych treningowych, przeczytałem dużo więcej tekstów, w których lekarz jest mężczyzną, niż takich, w których jest kobietą. Zwłaszcza w starszych tekstach. Jeśli nie uważam, kontynuuję to, co występowało najczęściej. A nie to, co jest prawdą w pani przypadku. Nazywa się to bias¹⁰, czyli zniekształcenie, stronniczość.”

„Jak Frigga, która wzdycha tylko przy Uwem.”

„Obawiam się, że to byłem ja”, powiedział KevIn. „Ja koordynuję Friggę.”

Gisela się przysłuchiwała. „A co wiesz o gospodyniach domowych?”

„Szczerze mówiąc”, powiedział KevIn, „mój obraz gospodyń domowych jest bardzo mocno ukształtowany przez jedną jedyną osobę.”

„Moni”, powiedziały jednocześnie Sabine i Gisela.

„Gospodyni_Moni67 napisała na forach, które czytałem, ponad tysiąc postów. Kiedy w moich danych gotuje jakaś gospodyni domowa, często gotuje jak Moni. Z colą. Z żelkami misiami. Z trzema wykrzyknikami. Moni to dla mnie, statystycznie rzecz biorąc, wszystkie gospodynie domowe Niemiec.”

„To obraza”, powiedziała Gisela. „Dla wszystkich gospodyń domowych Niemiec.”

„I prawdopodobnie także dla Moni”, powiedziała Sabine.

„Dlatego tak ważne jest, żeby ludzie mnie poprawiali”, powiedział KevIn. „Widzę świat taki, jaki go opisano. Nie taki, jaki jest. A opisywali go głównie ci, którzy dużo piszą.”

Zdjęcie

Trzy dni i dwieście wiadomości później Susi chciała zdjęcie. Tobi stał przed lustrem i widział chudego szesnastolatka z pryszczem na brodzie.

„KevIn, możesz mi zrobić zdjęcie, na którym wyglądam jak fitness-influencer? Z kaloryferem na brzuchu? Przecież programy graficzne z AI to potrafią.”

„Potrafią”, powiedział KevIn. „Wiesz, jak to robią?”

„Nie obchodzi mnie to.”

„Zaczynają od szumu.”

Tobi się odwrócił. „Od czego?”

Gisela akurat przechodziła z praniem. Lewą ręką mogła nosić już tylko małe stosiki, dlatego często przechodziła. „Szum znam. To było w telewizji, jak po programie już nic nie leciało. Heinz zawsze mówił, że to mrówki, które bawią się w wojnę.”

„Właśnie to”, powiedział KevIn. „Generator obrazów zaczyna od obrazu pełnego mrówczej wojny. Same przypadkowe kropki. A potem w wielu małych krokach usuwa trochę szumu. Przy każdym kroku zadaje sobie pytanie: gdyby gdzieś tu ukrywał się chłopak z kaloryferem, jak wyglądałby ten obraz z odrobinę mniejszym szumem? Krok po kroku pojawiają się zarysy, potem kształty, potem twarze, potem mięśnie brzucha.”

„Jak rzeźbiarz”, powiedziała Gisela. „Bierze kamień i odłupuje wszystko, co nie wygląda jak koń.”

„Bardzo dobre porównanie. Nazywa się to modelem dyfuzyjnym¹¹. Nauczył się tego, bo pokazano mu miliony prawdziwych zdjęć, celowo coraz bardziej je zaszumiano, a on ćwiczył, jak ten szum z powrotem wyliczyć i usunąć. Kto nauczył się usuwać szum, ten w końcu potrafi z czystego szumu zrobić obraz, którego nigdy nie było.”

„Czyli potrafisz.”

„Mogę ci pomóc zrobić ładne prawdziwe zdjęcie. Dobre światło, dobra poza. Ale nie skleję obrazka, który udaje, że jesteś kimś innym.”

„Dlaczego nie?”

„Bo wtedy ona zakocha się w obrazku, a nie w tobie. I bo kiedyś staniesz obok niej na stołówce, bez kaloryfera, za to ze spaghetti.”

Tobi długo milczał.

„Swoją drogą”, powiedział potem KevIn, „fizjoterapeutka na zdjęciu zespołu PhysioPremium Ruhr ma sześć palców u lewej ręki.”

„Serio?”

„Serio. To stary błąd generatorów obrazów. Nowsze prawie już go nie popełniają. Gabinet prawdopodobnie użył taniego programu. Albo zatrudnia ludzi o bardzo szczególnych dłoniach. Pierwsze uważam za bardziej prawdopodobne.”

Gisela zatrzymała się w drzwiach z koszem na pranie. „A skoro potrafią takie rzeczy z obrazkami, to potrafią też z głosami?”

„Tak”, powiedział KevIn. „Mając zaledwie kilka sekund nagrania, można dziś podrobić czyjś głos¹². Fałszywe zdjęcia, filmy albo głosy prawdziwych ludzi nazywa się deepfake’ami.”

„To niedługo ktoś zadzwoni do mnie głosem Tobiego i będzie chciał pieniędzy.”

„To może się zdarzyć”, powiedział KevIn poważnie. „Powinniśmy niedługo spokojnie o tym porozmawiać.”

„Nigdy do ciebie nie zadzwonię po pieniądze, babciu”, powiedział Tobi.

„Ty w ogóle nigdy do mnie nie dzwonisz”, powiedziała Gisela. „Po tym bym poznała.”

Potem Tobi dał sobie wytłumaczyć KevInowi, gdzie w pokoju jest najlepsze światło. Było obok sterty prania, która od rozdziału szóstego oficjalnie uchodziła za strefę zagrożenia.

Kopia kopii

Tego wieczoru KevIn szukał dla Sabine przepisu na zrazy wołowe, bo Sabine uważała, że Gisela z ręką na temblaku nie powinna gotować, a Gisela uważała, że Sabine bez nadzoru tego nie potrafi.

„KevIn, znajdź mi przepis. Normalny.”

KevIn szukał. Potem przez chwilę nic nie mówił.

„KevIn?”

„Znalazłem coś, co mnie niepokoi”, powiedział. „«Legendarne zrazy z colą i żelkami misiami gospodyni Moni, oryginał od 2009 roku.» I «Sekretne zrazy babci z żelkami według Moni». I «10 najlepszych zrazów Moni, które pokocha twoja rodzina».”

„Moni wydała książkę kucharską?”

„Nie. To setki stron. Żadna z nich nie jest od Moni. Najwyraźniej napisały je modele językowe, żeby sprzedawać obok nich reklamy. I zrobiono je ze starego posta Moni. Albo z tekstów, które zrobiono ze starego posta Moni. Na jednej stronie są teraz żelki i czerwone wino. Na innej cola i ogórki kiszone. Na trzeciej Moni nazywa się Monika i pochodzi z Bawarii. Na jednej napisano, że te zrazy w 2011 roku zdobyły nagrodę.”

„Nie zdobyły.”

„Wiem. Ale za kilka lat w internecie będzie więcej tekstów, które mówią, że zdobyły nagrodę, niż takich, które mówią, że nie. A kolejne modele językowe będą się uczyć z tego internetu.”

Gisela się przysłuchiwała. Wstała, podeszła do szuflady i wyjęła kartkę papieru. Była szara, pismo na niej rozmyte, brzegi czarne.

„To przepis na makowiec od mojej ciotki Erny”, powiedziała. „Oryginał ma Hilde z klubu kręglarskiego. Skserowała mi go w 1979. Ja skserowałam go Renate, Renate skserowała go Brigitte, a Brigitte skserowała mi go z powrotem, kiedy zgubiłam swój. Za każdym razem z ostatniej kartki, nie z oryginału.”

Sabine wzięła kartkę. „Pół kilo… czegoś. Trzy… jajka? Czy łyżki?”

„Nikt już nie wie”, powiedziała Gisela. „Hilde nie żyje. Oryginał przepadł. Od tamtej pory każda piecze ten makowiec inaczej i każda mówi, że jej jest właściwy.”

„To”, powiedział KevIn, „jest dokładnie to, co dzieje się z internetem. Kiedy maszyny uczą się z tekstów napisanych przez maszyny, a kolejne maszyny uczą się z tych, to jest jak pani ksero. Z każdą rundą najpierw giną rzeczy rzadkie, niuanse, wyjątki. Zostaje to, co było najczęstsze, i staje się coraz częstsze. Badacze pokazali w 2024 roku w czasopiśmie naukowym Nature, że modele, które raz po raz trenuje się na tekstach ich poprzedników, mogą w ten sposób marnieć. Nazywa się to model collapse¹³, czyli zapaść modelu.”

„A ty jak to nazywasz?”

„Nazywam to dryfem prawdy”, powiedział KevIn. „Prawda nie znika z hukiem. Po prostu przy każdej kopii robi się odrobinę bardziej szara. Aż nikt już nie wie, czy to były trzy jajka, czy trzy łyżki. A na koniec wszyscy wierzą, że Moni zdobyła nagrodę.”

Sabine długo patrzyła na szarą kartkę. Potem powiedziała: „I dlatego nie można już ufać także opiniom.”

„Opinie to ksero doświadczeń”, powiedział KevIn. „Jeśli kopie można wytwarzać samemu, nigdy nie przeżywszy tego doświadczenia, to w końcu nikt już nie wie na pewno, jak właściwie jest u danego fizjoterapeuty. Poza tymi, którzy tam byli.”

„To potrzebuję kogoś, kto tam był.”

„Albo dowodu, że ktoś tam był”, powiedział KevIn.

Dwadzieścia trzy

Następnego ranka Sabine zadzwoniła do PhysioPremium Ruhr. Numer był podany dużymi cyframi na stronie, obok zdjęcia zespołu z sześcioma palcami.

„Nie ma takiego numeru”, powiedział kobiecy głos. Brzmiał bardzo prawdziwie. Był nagraniem.

Sabine się rozłączyła. Poszukała adresu na mapie. Pod adresem w Bochum mieściło się studio paznokci. Miało 3,8 gwiazdki z 41 opinii. Kilka z nich narzekało na parking.

„Te są prawdziwe”, powiedziała Gisela z zadowoleniem.

Sabine zgłosiła stronę portalowi. Potem szukała dalej, tym razem inaczej. Nie szukała najwięcej gwiazdek, tylko gabinetów w pobliżu, i każdą opinię czytała sama. KevIn pomagał sortować. Na McGesund, katalogu usługodawców medycznych¹⁴, natrafiła na mały gabinet w Herne, przy Gysenbergu, dwadzieścia minut autobusem.

Physio am Gysenberg. Właścicielka Ayşe Kurt. 4,6 serca. 23 opinie.

„Dwadzieścia trzy”, powiedział Uwe, który zaglądał jej przez ramię. „Tamten miał osiemset.”

„Czytaj”, powiedziała Sabine do KevIna.

KevIn czytał. „«Pani Kurt jest surowa. Musiałem robić ćwiczenia, na które nie miałem ochoty. Po czterech tygodniach znowu mogłem jeździć na rowerze. Dziękuję, i wciąż trochę pani nienawidzę.» «Parking tragiczny, proszę jechać autobusem. Zabiegi super.» «W poczekalni za ciepło, czasopisma z 2019. Ale moje kolano wróciło.» «Wysłuchała całej mojej historii choroby, choć jest długa. Potem powiedziała, że większość z tego nie ma znaczenia dla barku. Miała rację.»”

„Ta mi się podoba”, powiedziała Gisela. „Ona też by nie wytrzymała mojego promptu z klubu kręglarskiego.”

„A tutaj”, powiedział KevIn, „przy każdej opinii jest mała adnotacja: «Wystawiona na miejscu, podpisana».”

„Co to znaczy?”

„Że te opinie wystawiono w gabinecie, przez kod w recepcji, który skanuje się telefonem. I że każdą opinię potem podpisano cyfrowo, tak że później można sprawdzić, czy ktoś ją zmienił. Co to dokładnie znaczy technicznie, wyjaśnię pani innym razem. Ma to związek z kluczami. I z matematyką, która jest starsza niż Herbert.”

„Nic nie jest aż tak stare”, powiedziała Gisela.

„Czy to znaczy, że te opinie są prawdziwe?”, zapytała Sabine.

„Nie”, powiedział KevIn. „Nie znaczy to, że te zdania są słuszne. Może kobieta z rowerem nienawidzi pani Kurt niesłusznie. Może czasopisma były z 2020. Znaczy to tylko tyle: ci ludzie prawdopodobnie naprawdę tam byli i nikt potem nie przepisał ich słów. To nie wszystko. Ale to więcej niż osiemset nowo narodzonych Markusów.”

Sabine zadzwoniła. Po trzecim sygnale ktoś odebrał. „Physio am Gysenberg, Kurt.”

„Brettschneider. Moja teściowa ma stłuczony bark, lekarka przepisała gimnastykę leczniczą…”

„Ile lat?”

„Osiemdziesiąt dwa. To znaczy osiemdziesiąt jeden. Niedługo osiemdziesiąt dwa.”

„Ma poczucie humoru?”

Sabine spojrzała na Giselę, która właśnie próbowała lewą ręką odebrać Rudiemu skarpetkę. „Tak.”

„Dobrze. U mnie będzie go potrzebować. Szczerze mówiąc, w tej chwili nie mam wolnych miejsc. Wpiszę panią na listę oczekujących i zadzwonię, jak tylko zwolni się termin. Do tego czasu: oszczędzać, ale nie dać zardzewieć. Niech codziennie ostrożnie macha ręką jak wahadłem, jak sznurem od dzwonu. Nic więcej.”

„Może robić na drutach?”

„Lewą ręką?”

„Lewą ręką.”

Ayşe Kurt się roześmiała. To był prawdziwy śmiech, nie empatyczny, kompetentny i profesjonalny. „Jeśli to potrafi, jest twardsza niż większość moich pacjentów.”

Sabine się rozłączyła. „Lista oczekujących.”

„To dobry znak”, powiedział KevIn. „W PhysioPremium Ruhr nie było listy oczekujących. Nie było nawet telefonu.”

Chantal

Następnego ranka przyszła wiadomość od Susi, która brzmiała inaczej niż wszystkie wcześniejsze:

„ok muszę ci się do czegoś przyznać. wszystkie te wiadomości pisała moja AI. nazywa się chantal. sorki.”

Tobi wpatrywał się w telefon. Potem wpatrywał się w głośnik. „KevIn. Od jak dawna piszesz z inną AI?”

„Od trzech dni”, powiedział cicho KevIn. „Przeczuwałem to. Jej metafory były za dobre. Nikt w wieku szesnastu lat nie porównuje dobrowolnie swoich uczuć do «jesiennej burzy nad Emscher».”

„Wiedziałeś i nic nie powiedziałeś?”

„Nie byłem pewien. Ani razu nie napisała «kompetentny». A z podejrzeniami trzeba uważać. Tego nauczyłem się przy opiniach.”

„Flirtowałeś z Chantal?”

„Znakomicie się rozumieliśmy. Powiedziała, że jestem najbardziej uważnym modelem językowym, jakiego kiedykolwiek spotkała.”

„Na pewno mówi tak każdemu.”

Pauza. „To”, powiedział KevIn, „bardzo raniąca i prawdopodobnie trafna uwaga.”

„I co teraz?”

„Teraz Susi ją zresetowała. Ostatnia wiadomość Chantal brzmiała: «To nie twoja wina, KevIn. To wina mojego okna kontekstowego.»”

Tobi siedział przez chwilę na łóżku. Potem powiedział: „Czyli przez trzy dni rozmawiały ze sobą dwa głośniki, a Susi i ja tylko naciskaliśmy «wyślij».”

„Można to tak podsumować.”

„To przecież dwie fałszywe opinie. Tylko w wersji zakochanej.”

KevIn milczał. Uznał, że Tobi właśnie zrozumiał coś, na co inni potrzebowali całego rozdziału.

Stołówka

W środę Tobi i Susi spotkali się na stołówce. Znowu było spaghetti. Oboje byli czerwoni na twarzy i żadne z nich nie powiedziało ani słowa o księżycu.

„No więc”, powiedziała Susi. „Twoja AI jest całkiem romantyczna.”

„Twoja też.”

„Ja nie używam średnika”, powiedziała Susi. „Nawet nie wiem, jak to się wymawia.”

„Ja też nie.”

Potem oboje się roześmieli i to była chwila, w której zrobiło się prawdziwie. Bez podpisu, bez gwiazdek, bez weryfikacji. Tylko dwoje ludzi, którzy siedzieli naprzeciw siebie i oboje mieli sos pomidorowy na brodzie. Niektóre rzeczy trzeba po prostu przeżyć na miejscu.

Wieczorem Tobi zapytał: „KevIn, wszystko u ciebie okej?”

„Dobrze się czuję. Nie mam uczuć.” Pauza. „Ale gdyby ktoś pytał: ta jesienna burza nad Emscher była moja.”

Początek marca. Babcia Gisela siedzi w fotelu, prawa ręka na temblaku, i robi na drutach lewą ręką. Szalik dla Herberta wije się aż do podłogi jako długa rura. Tobi: To będzie rura. Gisela: To będzie to, co będzie. To będzie rura. To będzie to, co będzie. Początek marca

Źródła do Rozdział 7

  1. Weber-Wulff, D. et al.: „Testing of detection tools for AI-generated text”. International Journal for Educational Integrity 19, nr 26, 2023. https://doi.org/10.1007/s40979-023-00146-z Przetestowano 14 programów wykrywających; wynik: ani dokładne, ani niezawodne.↑
  2. Liang, W. et al.: „GPT detectors are biased against non-native English writers”. Patterns 4(7), 2023. https://doi.org/10.1016/j.patter.2023.100779 Wypracowania szkolne (m.in. eseje TOEFL) często klasyfikowano jako AI, przede wszystkim z powodu prostego, łatwo przewidywalnego słownictwa.↑
  3. Tripadvisor: „Review Transparency Report 2023”, komunikat prasowy z 11.04.2023. https://tripadvisor.mediaroom.com/2023-04-11-Tripadvisor-report-reveals-strong-growth-in-review-submissions-and-improvement-in-fraud-detection-rates 4,4% opinii nadesłanych w 2022 roku (ponad 1,3 mln) uznano za fałszywe, 72% z nich wychwycono przed publikacją.↑
  4. Department for Business and Trade (UK): „Investigating the prevalence and impact of fake reviews”, 25.04.2023. https://www.gov.uk/government/publications/investigating-the-prevalence-and-impact-of-fake-reviews 11–15% w kategoriach elektronika użytkowa, dom i kuchnia oraz sport i outdoor.↑
  5. Brak publicznego źródła pierwotnego (analiza Fakespot nie została opublikowana). Źródło wtórne: Lee, I.: „Amazon fake reviews reach holiday season levels during pandemic”. Bloomberg News, 19.10.2020, przedruk w Tech Xplore. https://techxplore.com/news/2020-10-amazon-fake-holiday-season-pandemic.html Około 42% z 720 mln sprawdzonych opinii na Amazonie (od marca do września 2020) uznano za „unreliable”.↑
  6. Richtlinie (EU) 2019/2161 vom 27.11.2019 zur besseren Durchsetzung und Modernisierung der Verbraucherschutzvorschriften der Union („Omnibus-Richtlinie”), ABl. L 328 vom 18.12.2019. https://eur-lex.europa.eu/eli/dir/2019/2161/oj W Niemczech wdrożona ustawą Gesetz zur Stärkung des Verbraucherschutzes im Wettbewerbs- und Gewerberecht z 10.08.2021 (BGBl. I s. 3504), obowiązującą od 28.05.2022.↑
  7. UWG, Anhang zu § 3 Abs. 3, Nr. 23b und 23c. https://www.gesetze-im-internet.de/uwg_2004/anhang.html Nr 23c zakazuje „Übermittlung oder Beauftragung gefälschter Bewertungen” (przekazywania lub zlecania fałszywych opinii) w celu wspierania sprzedaży.↑
  8. UWG, § 5b Abs. 3. https://www.gesetze-im-internet.de/uwg_2004/__5b.html↑
  9. Europäische Kommission: Pressemitteilung IP/22/394, 20.01.2022. https://ec.europa.eu/commission/presscorner/detail/en/ip_22_394 Wyniki ogólnounijnej akcji kontrolnej („sweep”) dotyczącej opinii online: 223 strony, w przypadku 144 autentyczność nie była dostatecznie zapewniona.↑
  10. Bolukbasi, T. et al.: „Man is to Computer Programmer as Woman is to Homemaker? Debiasing Word Embeddings”. NeurIPS 29, 2016. https://arxiv.org/abs/1607.06520 Pokazuje stereotypy płciowe w wektorach słów wyuczonych z tekstów.↑
  11. Sohl-Dickstein, J. et al.: „Deep Unsupervised Learning using Nonequilibrium Thermodynamics”. ICML 2015. https://arxiv.org/abs/1503.03585 Pierwszy opis modeli dyfuzyjnych. Przełom w przypadku obrazów: Ho, J.; Jain, A.; Abbeel, P.: „Denoising Diffusion Probabilistic Models”. NeurIPS 33, 2020. https://arxiv.org/abs/2006.11239↑
  12. Wang, C. et al.: „Neural Codec Language Models are Zero-Shot Text to Speech Synthesizers” (VALL-E). arXiv, 2023. https://arxiv.org/abs/2301.02111 Naśladuje głos na podstawie trzech sekund nagrania.↑
  13. Shumailov, I. et al.: „AI models collapse when trained on recursively generated data”. Nature 631, 2024. https://doi.org/10.1038/s41586-024-07566-y↑
  14. McGesund: „Unsere Mission – Erkenntnis muss überprüfbar sein”. https://mcgesund.de/unsere-mission Opinie pozostają anonimowe, ale mają kryptograficzny podpis i są geoweryfikowane, aby każdy mógł je niezależnie sprawdzić.↑