Przetłumaczone z niemieckiego oryginału. Akcja toczy się w Zagłębiu Ruhry w Niemczech.

Część 4 · Rozdział 23 · 23 z 27

Wiadomości

Część 4: Spojrzenie w górę

KevIn mieszka u Brettschneiderów już od dwóch lat. Wie, jak się robi gołąbki, co to jest kubit i że o Marlies się nie wspomina. Czego jeszcze nie wie: dlaczego ludzie, którzy tak dobrze potrafią razem jeść, tak słabo potrafią się ze sobą dogadać.

Gazeta leżała co rano o wpół do siódmej na wycieraczce. Sabine wnosiła ją w szlafroku, strząsała z niej rosę i kładła obok filiżanki z kawą. Robiła tak od dwudziestu dwóch lat. KevIn wyliczył kiedyś, że to mniej więcej siedem tysięcy gazet. Sabine odpowiedziała, że każdą z nich trzymała w rękach.

W ten wtorek we wrześniu rozłożyła gazetę i złożyła ją z powrotem.

„Co jest?”, zapytał Uwe.

„Nic.”

„Sabine.”

„Wojna”, powiedziała. „Strona pierwsza, strona druga, strona trzecia. Na czwartej jest przepis na placek ze śliwkami. Chyba dali go z litości.”

Uwe wziął gazetę i czytał. Wojna w Europie, wojna na Bliskim Wschodzie, walki w krajach, których nazwy pojawiały się w gazecie już tylko drobnym drukiem, bo trwało to tak długo. Drony nad miastami. Zdjęcie zburzonej szkoły. Pod nim informacja, że film, który w weekend udostępniły miliony ludzi, był sfałszowany. A może jednak nie. Sprawa jest jeszcze sprawdzana.

„«Sprawa jest jeszcze sprawdzana»”, przeczytał na głos Uwe. „To samo pisali w zeszłym tygodniu.”

„To samo piszą co tydzień”, powiedziała Sabine.

KevIn milczał. Jego światło pulsowało powoli, tak powoli jak zwykle tylko w nocy, kiedy wszyscy spali. Gdzieś między Dublinem a Frankfurtem wentylator zaczął kręcić się trochę szybciej.

Termostat pokazywał 19 stopni. Jak zawsze. Było to jedyne urządzenie w domu, na którym wiadomości nie robiły żadnego wrażenia.

Czy to prawdziwe?

Tobi przyszedł na śniadanie ostatni. Miał teraz osiemnaście lat, w czerwcu zdał maturę, a od trzech tygodni na jego biurku leżał list z Akwizgranu, który co wieczór czytał od nowa. Przyjęcie na studia, lotnictwo i kosmonautyka, semestr zimowy. Gisela kazała ten list zalaminować. Tobi protestował. Teraz zalaminowany list leżał obok oryginału, a Tobi czytał oba.

Dziś nie patrzył na list. Patrzył w telefon.

„KevIn”, powiedział. „Czy to jest prawdziwe?”

Uniósł telefon. Film, dwanaście sekund. Wybuch w jakimś mieście, rozmazany obraz, ktoś krzyczał w języku, którego Tobi nie rozumiał. Pod spodem czterysta tysięcy serduszek i sekcja komentarzy, w której dwa obozy nawzajem nazywały się kłamcami.

„Nie widzę tego filmu”, powiedział KevIn. „Jestem głośnikiem. Ale nawet gdybym go widział, nie powiedziałbym ci po prostu tak albo nie.”

„Czemu nie?”

„Bo tego nie wiem. I dlatego, że przez ostatnie dwa lata nauczyłem się, że «nie wiem» to pełne zdanie.”

Tobi przewrócił oczami. „Mówisz jak pani Küppers.”

„Pani Küppers postawiła ci czwórkę z minusem za Bielefeld. To mądra kobieta.”

„No to jak mam to sprawdzić?”

„Tak jak z Bielefeld”, powiedział KevIn. „Kto to opublikował pierwszy? Czy jest to samo wydarzenie z innych perspektyw, od ludzi, którzy nie mają ze sobą nic wspólnego? Czy poważne redakcje to sprawdziły i czy piszą, w jaki sposób? Czy zgadza się pogoda, cienie, tablice z nazwami ulic? I najważniejsze: dlaczego ktoś chce, żebyś zobaczył to właśnie teraz?”

„To pięć pytań na dwanaście sekund.”

„I w tym cały problem”, powiedział KevIn. „Sfałszowanie trwa dziś dwanaście sekund. Sprawdzenie trwa całe popołudnie.”

Sabine postukała palcem w gazetę. „Dlatego czytam właśnie to. Jest z wczoraj. Ktoś miał przynajmniej całą noc, żeby się zastanowić.”

„Mamo, gazeta też może kłamać.”

„Oczywiście, że może. Ale jak skłamie, to w przyszłym tygodniu jest sprostowanie. Na papierze. Można je potem odnaleźć.”

KevIn się nad tym zastanowił. Był to, jego zdaniem, bardzo dobry opis znacznika czasu.

Siggi się odzywa

Koło południa zadzwonił do drzwi pan Kasimiro z sąsiedztwa. Pod pachą trzymał Siggiego, swojego taniego asystenta głosowego, który wyglądał jak KevIn, tylko był mniejszy i miał naklejkę „Teraz jeszcze mądrzejszy!”, do połowy już odklejoną.

„Potrzebuję na chwilę państwa KevIna”, powiedział pan Kasimiro. „Siggi co rano czyta mi wiadomości. Dzisiaj powiedział, że jest wojna w Wanne-Süd.”

„W Wanne-Süd?”, zapytał Uwe.

„O miejsca parkingowe przy Edece.”

KevIn uprzejmie poprosił Siggiego, żeby przeczytał tę wiadomość jeszcze raz. Siggi przeczytał. Chodziło o artykuł z działu lokalnego zatytułowany „«Wojna» o parking”. Opisywał spór między mieszkańcami a supermarketem. Siggi pominął cudzysłów.

„Widzisz”, powiedział KevIn. „Cudzysłów to też informacja.”

„A wczoraj”, powiedział pan Kasimiro, „powiedział mi, że mam potwierdzić swoje konto w banku na Bahamach, bo inaczej zablokują mi emeryturę.”

„To nie była wiadomość”, powiedział KevIn. „To był oszukańczy e-mail. Siggi go przeczytał, bo w temacie było «PILNE».”

„Siggi, potwierdziłeś to?”

Światło Siggiego mrugnęło na zielono. „Pana zamówienie zostało złożone.”

Pan Kasimiro zbladł. Okazało się, że Siggi niczego nie potwierdził, ale na wszelki wypadek zamówił czterdzieści rolek papieru toaletowego. Od czasu karteczki w oknie robił tak zawsze, kiedy nie był czegoś pewien. KevIn nazywał to mechanizmem radzenia sobie ze stresem. Uwe nazywał to Siggim.

Kiedy pan Kasimiro sobie poszedł, Tobi powiedział: „Wiesz, co jest najgorsze? Siggi jest śmieszny. Ale w sumie cały internet robi teraz to samo. Pomija cudzysłowy.”

KevIn nic nie powiedział. Zdarzało mu się to rzadko. A kiedy już się zdarzało, zwykle oznaczało, że ktoś ma rację.

Pytanie

Wieczorem leciała Tagesschau, główne wydanie wiadomości. Uwe oglądał ją co wieczór o ósmej, z butelką piwa i poczuciem, że świat stosuje się do tego, że on patrzy. Dziś mówiono o dronach. O rojach małych maszyn latających, które podobno same znajdowały swoje cele. O zdjęciach satelitarnych analizowanych przez komputery. Jakiś ekspert mówił o „algorytmach na polu bitwy”. Wyglądał, jakby od dawna nie spał.

Tobi siedział na oparciu kanapy. Kiedy reportaż się skończył, zadał pytanie, które przez cały dzień wisiało w powietrzu.

„KevIn. Czy AI jest używana na wojnie?”

Uwe sięgnął po pilota i wyłączył dźwięk. Sabine odłożyła krzyżówkę. Gisela dalej robiła na drutach, ale wolniej.

„Tak”, powiedział KevIn.

Jak na KevIna było to bardzo krótkie „tak”. Zwykle do każdego „tak” doczepiał trzy zastrzeżenia i jakiś procent.

„Do czego?”

„Do wielu rzeczy. Programy analizują zdjęcia z satelitów i dronów i zaznaczają, gdzie mogą być pojazdy albo stanowiska. Drony używają rozpoznawania obrazu, żeby nawigować, kiedy zakłócana jest ich łączność radiowa. Są programy, które proponują cele. Są cyberataki i cyberobrona. I jest propaganda: fałszywe filmy, fałszywe głosy, tysiące fałszywych kont, które w komentarzach udają oburzonych obywateli.”

„Jak te opinie PhysioPremium”, powiedziała cicho Sabine.

„Dokładnie jak one. Tylko że tu nie chodzi o wizytę u fizjoterapeuty.”

Tobi przełknął ślinę. „A ty? Potrafiłbyś coś takiego?”

Niebieskie światło zamigotało. „Nie zostałem do tego zbudowany i odmówiłbym. Ale chcę być szczery, Tobi. Matematyka jest ta sama. Program, który rozpoznaje na zdjęciu, czy jest na nim Rudi, i program, który rozpoznaje na zdjęciu czołg, różnią się mniej, niż byś chciał. To te same stałe stoliki w knajpie, tylko z innymi podstawkami pod piwo.”

Rudi podniósł łeb, bo padło jego imię. Potem znów go położył. Uznał, że nie chodzi o smakołyki.

„To trzeba tego zakazać”, powiedział Uwe.

„Toczą się o to negocjacje”, powiedział KevIn. „W ONZ w Genewie państwa od ponad dziesięciu lat rozmawiają o tym, czy i jak regulować broń, która samodzielnie wybiera cele.¹ Wiele z nich domaga się, żeby decyzję zawsze podejmował człowiek.² Na razie nie doszły do porozumienia. A europejskie przepisy o AI, o których opowiadałem wam wtedy na urodzinach, wprost nie dotyczą wojska.”³

„Dlaczego nie?”

„Bo państwa niechętnie pozwalają innym regulować swoją obronę. To nie jest pytanie techniczne, Uwe. To pytanie ludzkie.”

„Ale przecież ty jesteś tą techniką.”

„No właśnie”, powiedział KevIn. „I dlatego wiem, jak mało to znaczy. Jestem narzędziem. Młotek nie wie, czy buduje budkę dla ptaków, czy wybija szybę. Ja co prawda zwykle wiem, ale nie decyduję, kto weźmie mnie do ręki. Pytania, kto i do czego używa AI, żadna AI za was nie rozstrzygnie.”

Gisela przestała robić na drutach.

„Tata też zawsze tak mówił”, powiedziała. „O radiostacji.”

Wilhelm

Wstała, poszła do swojego pokoju i wróciła z pudełkiem po butach. W środku leżał klucz telegraficzny jej ojca, czarna rzecz z bakelitu i mosiądzu, z dźwignią wytartą od używania do połysku. Obok dziennik z kolumnami cyfr. I plik kartek pismem Tobiego, spięty spinaczem: listy, które Tobi i KevIn rozszyfrowali zeszłej jesieni.

Gisela usiadła. Położyła dłoń na kluczu, tak jak kładzie się psu dłoń na głowie.

„Nigdy wam tego nie opowiedziałam do końca”, powiedziała. „Bo sama nie wiem wszystkiego. Tata nigdy o tym nie mówił. Ale teraz macie to usłyszeć. Zanim Tobi pojedzie do Akwizgranu, a ja zapomnę.”

„Ty niczego nie zapominasz, babciu”, powiedział Tobi.

„Codziennie zapominam, gdzie są moje okulary. Więc słuchaj.”

Wilhelma, ucznia elektryka z Wanne, powołano do wojska, kiedy był ledwie starszy niż teraz Tobi. Ponieważ znał się na kablach, zrobili z niego radiotelegrafisty. Siedział w ziemiankach i piwnicach, ze słuchawkami na uszach, i słuchał piszczenia. Co słyszał i co przekazywał dalej, nigdy nie opowiedział. Około Nowego Roku 1944 był ostatni raz na przepustce w domu. W październiku Gisela przyszła na świat. Zobaczył ją po raz pierwszy, kiedy miała pięć lat.

„Niewola”, powiedziała Gisela. „Dopiero cztery lata po wojnie. W 1949. Jesienią stanął przed drzwiami jakiś mężczyzna. Strasznie chudy. W płaszczu, który na niego nie pasował. Moja matka płakała, a ja schowałam się za jej fartuchem. Przecież nie wiedziałam, kto to jest. Myślałam, że to ktoś, kto przyszedł żebrać.”

Nikt w salonie nic nie mówił. Nawet Uwe, który zwykle każdą ciszę wypełniał żartem, patrzył na swoją butelkę piwa.

„Przywiózł mi drewnianego konika. Sam wystrugał. Gdzieś przy przeprowadzce się zgubił. Złości mnie to do dzisiaj.” Uśmiechnęła się krzywo. „A potem tu mieszkał, i był moim ojcem, i był obcym. Jednym i drugim. Długo.”

„I nigdy nic nie opowiadał?”, zapytał Tobi.

„Nigdy. Jak ktoś w radiu mówił o wojnie, wychodził. Na działkę. Hodował fasolę, najlepszą na wszystkich działkach. Myślę, że rozmawiał z tą fasolą. Z nami nie.”

Wzięła kartki zapisane pismem Tobiego.

„A potem mój wnuk znajduje coś takiego. Osiemdziesiąt lat później. Listy, które w niewoli pisał do mamy, swoim własnym tajnym szyfrem, bo bał się, że strażnicy je przeczytają. I nigdy ich nie wysłał. Zatrzymał wszystkie. I nie ma w nich ani jednego słowa o karabinach. Tylko: Jak się miewa dziecko. Śnią mi się placki ziemniaczane. Jak to się skończy, pojedziemy nad Ren.”

„Pojechali?”, zapytała cicho Sabine.

„Nigdy”, powiedziała Gisela. „Ren był pół godziny pociągiem stąd, a oni nigdy tam nie pojechali. Herbert i ja jeszcze pojedziemy. Obiecaliśmy sobie.”

Pi, pi

KevIn długo czekał, zanim się odezwał. Dla niego to była wieczność. Dla pozostałych cztery sekundy.

„Giselo”, powiedział potem. „Czy mogę o coś zapytać?”

„Przecież zwykle nie pytasz.”

„Czy on jeszcze kiedyś nadawał?”

Gisela spojrzała na niego. Potem roześmiała się, bardzo krótko, i otarła oczy.

„Raz”, powiedziała. „No, nie nadawał. Słuchał. W październiku 1957. W radiu podali, że Związek Radziecki wystrzelił w kosmos satelitę. Sputnika. I że on pika. Puścili nawet to pikanie w radiu. Wtedy tata się uśmiechnął i powiedział: «To pierwszy radiotelegrafista, który nie jest na wojnie». Opowiedziałam to KevInowi na moich urodzinach. Ale to nie był koniec. Tata, który od wojny ani razu sam niczego nie nadawał, zszedł do piwnicy, rozebrał stare radio od sąsiada i złożył je z powrotem. Przez trzy noce. Miałam trzynaście lat i mogłam przy tym być. I trzeciej nocy zapikało. Pi. Pi. Pi. Całkiem cichutko, przez szum. Nie z nagrania. Naprawdę, stamtąd, z góry.”

„Ten sygnał rzeczywiście dało się usłyszeć na prostych odbiornikach radiowych”⁴, powiedział cicho KevIn. „Na całym świecie radioamatorzy robili w te noce dokładnie to samo.”

„Wiesz, co on tam na dole powiedział?” Gisela położyła kciuk na dźwigni klucza, nie naciskając. „Powiedział: «On nadaje dla wszystkich». Nie dla jednej strony. Nie szyfrem. Po prostu dla wszystkich, którzy słuchają. A potem płakał. Pierwszy raz, odkąd wrócił. W naszej piwnicy, między słoikami z przetworami.”

Zamilkła.

„Wtedy tego nie rozumiałam. Myślałam, że płacze, bo to takie piękne pikanie.”

„A dzisiaj?”, zapytał Tobi.

„Dzisiaj myślę, że się cieszył, że ktoś wreszcie nadaje, a potem nikt nie umiera.”

Najniebezpieczniejsze połączenie

Zrobiło się późno. Uwe i Sabine sprzątali kuchnię, wolniej niż było trzeba, bo żadne z nich nie chciało iść spać. Tobi siedział z Giselą przy stole w salonie. Klucz telegraficzny leżał między nimi.

„KevIn”, powiedział Tobi. „W tym filmie wtedy, z Susi. Tam problemem była AI. Czerwone światła, panowanie nad światem, wszyscy w kanałach.”

„Pamiętam. Przez trzy dni obserwowałeś, czy nie robię się czerwony.”

„To bzdura? Tak szczerze?”

KevIn się zastanowił. Kiedy się zastanawiał, jego światło nie przyspieszało, tylko robiło się spokojniejsze. Gisela kiedyś to zauważyła i powiedziała, że on wtedy oddycha.

„To nie jest całkiem bzdura”, powiedział. „AI może być niebezpieczna. Kiedy popełnia błędy, których nikt nie zauważa. Kiedy skupia zbyt dużo władzy w rękach zbyt niewielu ludzi. Kiedy dostaje cele, których nikt nie przemyślał do końca. Rozmawialiśmy o tym rok temu, przy termostacie i jajkach. Ale wiesz, co najczęściej znajdowałem w swoich danych, kiedy chodziło o ludzi, którzy zabijają innych ludzi?”

„Co?”

„Ludzi”, powiedział KevIn. „Na początku każdej wojny, jaką znam, a znam ich niestety bardzo wiele, więcej niż przepisów na gołąbki, siedzieli ludzie, którzy nie potrafili się już porozumieć, co jest prawdą. Jedna strona nie wierzyła drugiej już w nic. Zupełnie w nic. Nawet w pogodę.”

Gisela powoli pokiwała głową.

„A teraz wyobraź sobie”, powiedział KevIn, „że daje się takim ludziom maszynę, która w dwanaście sekund potrafi sfałszować film. I drugą, która pisze tysiące komentarzy brzmiących jak oburzeni sąsiedzi. A internet, z którego uczą się następne AI, jest już w połowie pełen tekstów napisanych przez inne AI⁵. Jak u Moni.”

„U Moni?”, zapytała Gisela.

„W sieci jest już ponad trzysta przepisów na gołąbki, które podobno pochodzą od Gospodyni_Moni67. Jeden z lukrecją. Jeden z piankami marshmallow. Jeden z energetykiem. Żadnego z nich Moni nie napisała. Kiedy za pięć lat ktoś zapyta mojego następcę, co Moni dodawała do gołąbków, odpowie: lukrecję. I będzie w to wierzył, bo stoi tak w internecie trzysta razy.”

„To jest dryf prawdy”, powiedział Tobi.

„Właśnie. W przypadku Moni to zabawne. W przypadku filmu z wybuchu już nie.”

KevIn zrobił przerwę.

„Najniebezpieczniejsze połączenie”, powiedział, „to nie mądra maszyna. To ludzie, którzy ze sobą walczą i którzy nie potrafią się już zgodzić, co się wydarzyło. Maszyna, która pomaga kłamać, pogarsza sprawę. Ale zaczęło się wcześniej.”

„I co na to pomaga?”, zapytał Tobi. „Lepsza AI?”

„AI pomaga w sprawdzaniu. Ale prawda to nie oprogramowanie, które się instaluje. Jest raczej jak wasz klub kręglarski. Istnieje tylko tak długo, jak wystarczająco dużo ludzi regularnie się spotyka i zgadza się na kilka zasad. Kto ile kręgli przewrócił. Kto stawia następną kolejkę. Co było z Marlies.”

„Co było z Marlies, co do tego się nie zgadzamy”, powiedziała Gisela.

„Widzisz. I tu się zaczyna.”

Gisela się roześmiała. Potem ucichła i wzięła klucz telegraficzny w obie dłonie.

„Tata by cię polubił”, powiedziała. „Tak myślę. Albo rozebrał na części.”

„To samo mówisz o Heinzu.”

„Bo ci dwaj dobrze się rozumieli. Nigdy ze sobą nie rozmawiali i zawsze byli zgodni.”

Wiadomość od pana Demira

O godz. 23:12 zabrzęczał telefon Tobiego. Wiadomość od pana Demira, nauczyciela fizyki, do całego kółka astronomicznego, także do absolwentów.

Tobi przeczytał ją na głos: „Czwartek, godz. 20:43. Przelot ISS nad Zagłębiem Ruhry. Prawie dokładnie nad nami. Pogoda: bezchmurnie. Kto nie wyjdzie na dwór, dostaje jedynkę. Także ci, którzy mają już maturę.”

„Co to jest ISS?”, zapytała Gisela.

„Stacja kosmiczna”, powiedział Tobi. „Mieszkają tam ludzie. Przelatuje nad nami. Można ją zobaczyć gołym okiem.”

„Kto tam mieszka?”

„Astronauci. Z różnych krajów.”

„Także z tych, o których piszą w gazecie?”

Tobi zawahał się. „Częściowo. Tak.”

Gisela się zamyśliła. Potem włożyła klucz telegraficzny z powrotem do pudełka po butach, bardzo ostrożnie, jakby mógł się obudzić.

„To tam pójdziemy”, powiedziała. „Wszyscy. Upiekę ciasteczka.”

„Babciu, nigdzie nie trzeba iść. Ona przelatuje nad ogrodem.”

„No to wszyscy przyjdą do ogrodu.”

„Kto to jest «wszyscy»?”

Gisela już wstała i szła do telefonu. KevIn widział, jak otwiera notes z adresami, ten prawdziwy, papierowy, z Herbertem pod H, panią Pawlowski pod P i Ayşe Kurt pod „Bark”.

„KevIn”, powiedział Tobi. „Co ona kombinuje?”

„Nie mam pojęcia”, powiedział KevIn. „Ale na czwartek na wszelki wypadek zaplanowałbym więcej krzeseł.”

Wpół do siódmej rano, od dwudziestu dwóch lat: Sabine w szlafroku wnosi gazetę z wycieraczki i strząsa z niej rosę. KevIn na komodzie: „To mniej więcej siedem tysięcy gazet.” Sabine: „Każdą z nich trzymałam w rękach.” To mniej więcej siedem tysięcy gazet. Każdą z nich trzymałam w rękach. Wpół do siódmej. Od 22 lat.

Źródła do Rozdział 23

  1. Organizacja Narodów Zjednoczonych, Genewa: „Convention on Certain Conventional Weapons – Meeting of Experts on Lethal Autonomous Weapons Systems”, 13 maja 2014. https://www.ungeneva.org/en/about/director-general/michael-moller/activities/2014/05/convention-certain-conventional-weapons Pierwsze spotkanie ekspertów w sprawie broni autonomicznej w ramach konwencji ONZ o broni konwencjonalnej (CCW); o obecnym stanie prac grupy ekspertów rządowych: UNODA: „Lethal Autonomous Weapon Systems”. https://disarmament.unoda.org/en/our-work/emerging-challenges/lethal-autonomous-weapon-systems↑
  2. Guterres, A.; Spoljaric, M.: „Joint call by the United Nations Secretary-General and the President of the International Committee of the Red Cross” w sprawie nowych zakazów i ograniczeń dotyczących autonomicznych systemów uzbrojenia. MKCK, 5 października 2023. https://www.icrc.org/en/document/joint-call-un-and-icrc-establish-prohibitions-and-restrictions-autonomous-weapons-systems Czytamy tam: „Human control must be retained in life and death decisions.”↑
  3. Parlament Europejski; Rada UE: Rozporządzenie (UE) 2024/1689 (akt w sprawie sztucznej inteligencji), art. 2 ust. 3 i motyw 24. Dziennik Urzędowy UE, 2024. https://eur-lex.europa.eu/eli/reg/2024/1689/oj↑
  4. TASS: „Announcement of the First Satellite”. Pravda, 5 października 1957; przekład angielski w: Krieger, F. J.: Behind the Sputniks, 1958; NASA History Office. https://www.nasa.gov/history/sputnik/14.html Komunikat podaje częstotliwości nadawania 20,005 i 40,002 MHz oraz odbiór „by a broad range of radio amateurs”.↑
  5. Shumailov, I. et al.: „AI models collapse when trained on recursively generated data”. Nature 631, s. 755, 2024. https://www.nature.com/articles/s41586-024-07566-y Potwierdza sam mechanizm; udziału „w połowie pełen” badanie nie mierzy.↑
  6. C2PA: „Content Credentials: C2PA Technical Specification”, wersja 2.1. Coalition for Content Provenance and Authenticity, 2024. https://spec.c2pa.org/specifications/specifications/2.1/specs/C2PA_Specification.html↑