Traduzido do original alemão. A história passa-se na região do Ruhr, na Alemanha.

Parte 4 · Capítulo 23 · 23 de 27

Notícias

Parte 4: Olhar para cima

Há dois anos que o KevIn mora com os Brettschneider. Sabe como se fazem rolos de couve, o que é um qubit e que não se fala da Marlies. O que ainda não sabe: porque é que pessoas que comem tão bem juntas se entendem tão mal umas com as outras.

O jornal estava todas as manhãs às seis e meia em cima do tapete da entrada. A Sabine ia buscá-lo de roupão, sacudia-lhe o orvalho e pousava-o ao lado da chávena de café. Fazia isto havia vinte e dois anos. O KevIn calculara uma vez que eram umas sete mil edições. A Sabine respondera que tinha tocado em cada uma delas.

Naquela terça-feira de setembro, abriu o jornal e voltou a dobrá-lo.

«O que foi?», perguntou o Uwe.

«Nada.»

«Sabine.»

«Guerra», disse ela. «Página um, página dois, página três. Na página quatro há uma receita de tarte de ameixa. Acho que a puseram lá por pena.»

O Uwe pegou no jornal e leu. Guerra na Europa, guerra no Médio Oriente, combates em países cujos nomes já só apareciam no jornal em letra pequenina, porque aquilo já durava há tanto tempo. Drones por cima de cidades. Uma fotografia de uma escola destruída. Por baixo, uma notícia a dizer que um vídeo partilhado por milhões de pessoas no fim de semana era falso. Ou talvez não. Ainda estava a ser verificado.

«Ainda está a ser verificado», leu o Uwe em voz alta. «Na semana passada também dizia isso.»

«Diz isso todas as semanas», disse a Sabine.

O KevIn ficou calado. A sua luz pulsava devagar, tão devagar como só costumava pulsar à noite, quando todos dormiam. Algures entre Dublin e Frankfurt, uma ventoinha rodava um pouco mais depressa.

O termóstato marcava 19 °C. Como sempre. Era o único aparelho da casa que não se deixava impressionar pelas notícias.

Isto é verdadeiro?

O Tobi foi o último a chegar ao pequeno-almoço. Tinha agora dezoito anos, acabara o secundário em junho e havia três semanas que tinha em cima da secretária uma carta de Aachen, que relia todas as noites. Admissão, Engenharia Aeroespacial, semestre de inverno. A Gisela mandara plastificar a carta. O Tobi protestara. Agora a carta plastificada estava ao lado do original, e o Tobi lia as duas.

Hoje não olhou para a carta. Olhou para o telemóvel.

«KevIn», disse ele. «Isto é verdadeiro?»

Ergueu o telemóvel. Um vídeo, doze segundos. Uma explosão numa cidade, tremido, alguém a gritar numa língua que o Tobi não entendia. Por baixo, quatrocentos mil corações e uma caixa de comentários onde dois campos se chamavam mentirosos um ao outro.

«Não consigo ver o vídeo», disse o KevIn. «Sou um altifalante. Mas, mesmo que conseguisse, não te ia simplesmente dizer que sim ou que não.»

«Porque não?»

«Porque não sei. E porque nos últimos dois anos aprendi que “Não sei” é uma frase completa.»

O Tobi revirou os olhos. «Pareces a professora Küppers.»

«A professora Küppers deu-te um Bom menos por Bielefeld. É uma mulher sábia.»

«E como é que eu descubro?»

«Como com Bielefeld», disse o KevIn. «Quem é que o publicou primeiro? Existe o mesmo acontecimento visto de outros ângulos, por pessoas que não têm nada a ver umas com as outras? Redações sérias verificaram-no, e dizem como? O tempo, as sombras, as placas das ruas batem certo? E o mais importante: porque é que alguém quer que vejas isto precisamente agora?»

«São cinco perguntas para doze segundos.»

«Esse é o problema», disse o KevIn. «Falsificar demora hoje doze segundos. Verificar demora uma tarde.»

A Sabine bateu com o dedo no jornal. «É por isso que eu leio isto. É de ontem. Pelo menos alguém teve uma noite para pensar.»

«Mãe, o jornal também pode mentir.»

«Claro que pode. Mas, se mentir, na semana seguinte vem lá uma retificação. Em papel. Ainda se consegue encontrá-la depois.»

O KevIn pensou nisso. Era, achou ele, uma descrição muito boa de um carimbo temporal.

O Siggi dá sinal de vida

Por volta do meio-dia, o senhor Kasimiro, o vizinho do lado, tocou à campainha. Trazia debaixo do braço o Siggi, o seu assistente de voz barato, que se parecia com o KevIn, só que mais pequeno e com um autocolante a dizer «Agora ainda mais inteligente!», já meio descolado.

«Preciso do seu KevIn», disse o senhor Kasimiro. «O Siggi lê-me as notícias todas as manhãs. Hoje disse que há uma guerra em Wanne-Süd.»

«Em Wanne-Süd?», perguntou o Uwe.

«Por causa dos lugares de estacionamento do supermercado.»

O KevIn pediu educadamente ao Siggi que lesse outra vez a notícia. O Siggi leu. Tratava-se de um artigo da secção local, com o título «“Guerra” pelos lugares de estacionamento». Era sobre uma disputa entre moradores e um supermercado. O Siggi tinha deixado de fora as aspas.

«Estás a ver?», disse o KevIn. «Umas aspas também são informação.»

«E ontem», disse o senhor Kasimiro, «disse-me que eu tinha de confirmar a minha conta num banco das Bahamas, senão bloqueavam-me a reforma.»

«Isso não era uma notícia», disse o KevIn. «Era um e-mail de burla. O Siggi leu-o porque tinha “URGENTE” no assunto.»

«Siggi, tu confirmaste isso?»

A luz do Siggi piscou a verde. «A sua encomenda foi registada.»

O senhor Kasimiro ficou pálido. Descobriu-se que o Siggi não tinha confirmado nada, mas que, por precaução, tinha encomendado quarenta rolos de papel higiénico. Desde o episódio do papel na janela, fazia sempre isso quando estava inseguro. O KevIn chamava-lhe um mecanismo de defesa. O Uwe chamava-lhe Siggi.

Quando o senhor Kasimiro se foi embora, o Tobi disse: «Sabes qual é a parte má? O Siggi tem piada. Mas, no fundo, a internet inteira está a fazer o mesmo neste momento. Deixa de fora as aspas.»

O KevIn não disse nada. Isso acontecia raramente. Quando acontecia, normalmente significava que alguém tinha razão.

A pergunta

À noite, estava a dar o Tagesschau, o telejornal alemão. O Uwe via-o todas as noites às oito, com uma garrafa de cerveja e a sensação de que o mundo se orientava pelo facto de ele estar a ver. Hoje era sobre drones. Sobre enxames de pequenos aparelhos voadores que, supostamente, encontravam os alvos sozinhos. Sobre imagens de satélite analisadas por computadores. Um especialista falava de «algoritmos no campo de batalha». Tinha ar de quem não dormia há muito tempo.

O Tobi estava sentado no braço do sofá. Quando a reportagem acabou, fez a pergunta que tinha pairado no ar o dia inteiro.

«KevIn. A IA é usada na guerra?»

O Uwe pegou no comando e tirou o som. A Sabine pousou as palavras cruzadas. A Gisela continuou a tricotar, mas mais devagar.

«Sim», disse o KevIn.

Era um sim muito curto para os padrões do KevIn. Normalmente, pendurava em cada sim três ressalvas e uma percentagem.

«Para quê?»

«Para muita coisa. Há programas que analisam imagens de satélite e de drones e marcam onde talvez haja veículos ou posições. Os drones usam reconhecimento de imagem para navegar quando lhes interferem com o rádio. Há programas que sugerem alvos. Há ciberataques e ciberdefesa. E há propaganda: vídeos falsos, vozes falsas, milhares de contas falsas que fingem, nas caixas de comentários, ser cidadãos indignados.»

«Como as avaliações da PhysioPremium», disse a Sabine baixinho.

«Exatamente como essas. Só que não se trata de uma consulta no fisioterapeuta.»

O Tobi engoliu em seco. «E tu? Conseguias fazer uma coisa dessas?»

A luz azul tremeluziu. «Não fui construído para isso, e recusaria. Mas quero ser honesto, Tobi. A matemática é a mesma. O programa que reconhece numa fotografia se lá está o Rudi e o programa que reconhece numa fotografia um tanque são menos diferentes do que gostarias. São as mesmas tertúlias, só com outras bases de copo.»

O Rudi levantou a cabeça, porque tinha ouvido o seu nome. Depois voltou a pousá-la. Tinha decidido que não se tratava de biscoitos.

«Então tem de se proibir isso», disse o Uwe.

«Isso está a ser negociado», disse o KevIn. «Nas Nações Unidas, em Genebra, os Estados discutem há mais de dez anos se e como se devem regular armas que escolhem alvos sozinhas.¹ Muitos exigem que seja sempre um ser humano a tomar a decisão.² Até agora não chegaram a acordo. E as regras europeias para a IA, de que vos falei nos anos da avó, não se aplicam expressamente aos militares.»³

«Porque não?»

«Porque os Estados não gostam que sejam outros a regular a sua defesa. Isto não é uma questão técnica, Uwe. É uma questão humana.»

«Mas tu é que és a técnica.»

«Precisamente», disse o KevIn. «E é por isso que sei o pouco que isso significa. Sou uma ferramenta. Um martelo não sabe se está a construir uma casinha para pássaros ou a partir uma janela. Eu, na maior parte das vezes, até sei, mas não sou eu que decido quem me pega na mão. A pergunta sobre quem usa a IA para quê, nenhuma IA a pode tirar dos vossos ombros.»

A Gisela parou de tricotar.

«O pai também dizia sempre isso», disse ela. «Sobre o rádio.»

Wilhelm

Levantou-se, foi ao quarto e voltou com uma caixa de sapatos. Lá dentro estava a chave de Morse do pai, uma coisa preta de baquelite e latão, com uma alavanca toda polida do uso. Ao lado, o caderno com as colunas de números. E uma pilha de folhas com a letra do Tobi, presas com um clipe: as cartas que o Tobi e o KevIn tinham decifrado no outono passado.

A Gisela sentou-se. Pousou a mão na chave de Morse, como quem pousa a mão na cabeça de um cão.

«Nunca vos contei isto todo», disse ela. «Porque eu própria não sei tudo. O pai nunca falou disso. Mas agora vocês devem ouvir. Antes de o Tobi ir para Aachen e de eu me esquecer.»

«Tu não te esqueces de nada, avó», disse o Tobi.

«Esqueço-me todos os dias de onde estão os meus óculos. Por isso, ouve.»

O Wilhelm, aprendiz de eletricista de Wanne, tinha sido chamado para a tropa quando era pouco mais velho do que o Tobi agora. Como percebia de fios, fizeram dele radiotelegrafista. Passava os dias em abrigos e caves, de auscultadores nos ouvidos, a ouvir apitos. O que ouvia e o que transmitia, nunca contou. Pelo Ano Novo de 1944 esteve de licença em casa pela última vez. No outubro seguinte nasceu a Gisela. Viu-a pela primeira vez quando ela tinha cinco anos.

«Cativeiro», disse a Gisela. «Só quatro anos depois da guerra. 1949. No outono apareceu um homem à porta. Muito magro. Com um casaco que não lhe servia. A minha mãe chorou, e eu escondi-me atrás do avental dela. Eu não sabia quem era. Pensei que era alguém que vinha pedir esmola.»

Ninguém na sala disse nada. Até o Uwe, que normalmente enchia todos os silêncios com uma piada, olhou para a garrafa de cerveja.

«Trouxe-me um cavalinho de madeira. Esculpido por ele. Perdeu-se um dia numa mudança de casa. Ainda hoje me irrita.» Sorriu de lado. «E depois ficou a morar cá, e era o meu pai, e era um estranho. As duas coisas. Durante muito tempo.»

«Ele nunca contou nada?», perguntou o Tobi.

«Nunca. Quando alguém falava da guerra na rádio, ele saía. Ia para a horta. Cultivava feijão, o melhor de toda a colónia de hortas. Acho que falava com o feijão. Connosco, não.»

Pegou nas folhas com a letra do Tobi.

«E depois o meu neto encontra isto. Oitenta anos depois. Cartas que ele escreveu à mãe no cativeiro, no código secreto dele, porque tinha medo de que os guardas as lessem. E que nunca enviou. Guardou-as todas. E não há lá uma única palavra sobre espingardas. Só: Como está a menina. Sonho com panquecas de batata. Quando isto acabar, vamos até ao Reno.»

«E foram?», perguntou a Sabine baixinho.

«Nunca», disse a Gisela. «O Reno ficava a meia hora de comboio, e nunca lá foram. O Herbert e eu ainda vamos. Prometemos um ao outro.»

Pi, pi

O KevIn esperou muito tempo antes de falar. Para ele foram eternidades. Para os outros foram quatro segundos.

«Gisela», disse ele depois. «Posso perguntar uma coisa?»

«Normalmente também não pedes licença.»

«Ele voltou alguma vez a transmitir?»

A Gisela olhou para ele. Depois riu-se, muito brevemente, e limpou os olhos.

«Uma vez», disse ela. «Bem, transmitir, não. Ouvir. Em outubro de 1957. Deu na rádio que a União Soviética tinha lançado um satélite para o espaço. O Sputnik. E que ele apitava. Até puseram o apito a tocar na rádio. O pai sorriu e disse: “É o primeiro radiotelegrafista que não está na guerra.” Isso contei eu ao KevIn nos meus anos. Mas a história continuou. O pai, que desde a guerra nunca mais tinha transmitido, foi para a cave, desmontou o rádio velho do vizinho e voltou a montá-lo. Três noites seguidas. Eu tinha treze anos e deixaram-me estar lá. E na terceira noite apitou. Pi. Pi. Pi. Muito baixinho, por entre o chiado. Não era gravado. Era verdadeiro, lá de cima.»

«O sinal ouvia-se mesmo com recetores de rádio simples»⁴, disse o KevIn baixinho. «No mundo inteiro, radioamadores fizeram exatamente isso naquelas noites.»

«Sabes o que é que ele disse lá em baixo?» A Gisela pôs o polegar na alavanca da chave de Morse, sem carregar. «Disse: “Este transmite para todos.” Não para um lado. Sem código. Simplesmente para todos os que estiverem a ouvir. E depois chorou. Pela primeira vez desde que tinha voltado. Na nossa cave, entre os frascos de conserva.»

Ficou calada.

«Na altura não percebi. Pensei que chorava porque era um apito muito bonito.»

«E hoje?», perguntou o Tobi.

«Hoje acho que ficou contente por, uma vez, alguém transmitir sem que depois morra alguém.»

A combinação mais perigosa

Fez-se tarde. O Uwe e a Sabine arrumavam a cozinha, mais devagar do que era preciso, porque nenhum dos dois queria ir para a cama. O Tobi estava sentado com a Gisela à mesa da sala. A chave de Morse estava entre os dois.

«KevIn», disse o Tobi. «Naquele filme, há tempos, com a Susi. Ali o problema era a IA. Luzes vermelhas, domínio do mundo, toda a gente nos esgotos.»

«Lembro-me. Passaste três dias a observar-me para ver se eu ficava vermelho.»

«Aquilo é disparate? A sério?»

O KevIn refletiu. Quando refletia, a luz não ficava mais rápida, ficava mais calma. A Gisela tinha reparado nisso a certa altura e dissera que era ele a respirar.

«Não é completamente disparate», disse ele. «A IA pode ser perigosa. Quando comete erros que ninguém repara. Quando concentra demasiado poder em muito poucas pessoas. Quando lhe dão objetivos que ninguém pensou até ao fim. Falámos disso há um ano, com o termóstato e os ovos. Mas sabes o que encontrei mais vezes nos meus dados quando se tratava de pessoas que matam outras pessoas?»

«O quê?»

«Pessoas», disse o KevIn. «Em todas as guerras que conheço, e infelizmente conheço muitas, mais do que receitas de rolos de couve, no início havia pessoas que já não conseguiam pôr-se de acordo sobre o que era verdade. Um lado já não acreditava em nada do que o outro dizia. Em nada. Nem no boletim meteorológico.»

A Gisela acenou devagar com a cabeça.

«E agora imagina», disse o KevIn, «que se dá a essas pessoas uma máquina capaz de falsificar um vídeo em doze segundos. E outra que escreve milhares de comentários, todos a soar a vizinhos indignados. E a internet, de onde as próximas IA vão aprender, já está meio cheia de textos escritos por outras IA⁵. Como com a Moni.»

«Com a Moni?», perguntou a Gisela.

«Há agora mais de trezentas receitas de rolos de couve na internet que supostamente são da DonaDeCasa_Moni67. Uma com alcaçuz. Uma com marshmallows. Uma com bebida energética. Nenhuma delas foi escrita pela Moni. Quando, daqui a cinco anos, perguntarem ao meu sucessor o que é que a Moni punha nos rolos, ele vai dizer: alcaçuz. E vai acreditar, porque está escrito trezentas vezes na internet.»

«É a deriva da verdade», disse o Tobi.

«Exatamente. Com a Moni tem piada. Com um vídeo de uma explosão, não tem.»

O KevIn fez uma pausa.

«A combinação mais perigosa», disse ele, «não é uma máquina inteligente. São pessoas que lutam umas contra as outras e que já não conseguem pôr-se de acordo sobre o que aconteceu. Uma máquina que ajuda a mentir torna isso pior. Mas começou antes.»

«E o que é que ajuda contra isso?», perguntou o Tobi. «Uma IA melhor?»

«Uma IA ajuda a verificar. Mas a verdade não é um software que se instala. É mais como o vosso clube de bowling. Só existe enquanto houver gente suficiente a encontrar-se regularmente e a pôr-se de acordo sobre umas quantas regras. Quem deitou quantos pinos abaixo. Quem paga a próxima rodada. O que se passou com a Marlies.»

«Sobre o que se passou com a Marlies, não estamos de acordo», disse a Gisela.

«Estás a ver. E é aí que começa.»

A Gisela riu-se. Depois ficou calada e pegou na chave de Morse com as duas mãos.

«O pai teria gostado de ti», disse ela. «Acho eu. Ou ter-te-ia desmontado.»

«Também dizes isso do Heinz.»

«Os dois também se davam bem. Nunca falavam e estavam sempre de acordo.»

Uma mensagem do professor Demir

Às 23h12, o telemóvel do Tobi vibrou. Uma mensagem do professor Demir, o professor de Física, para todo o clube do observatório, incluindo os antigos alunos.

O Tobi leu-a em voz alta: «Quinta-feira, 20h43. Passagem da ISS sobre o Ruhr. Quase mesmo por cima de nós. Tempo: limpo. Quem não sair à rua leva negativa. Incluindo os que já acabaram o secundário.»

«O que é a ISS?», perguntou a Gisela.

«A estação espacial», disse o Tobi. «Mora lá gente. Passa por cima de nós. Consegue-se vê-la a olho nu.»

«Quem é que mora lá?»

«Astronautas. De vários países.»

«Também daqueles que vêm no jornal?»

O Tobi hesitou. «Alguns. Sim.»

A Gisela pensou. Depois voltou a pôr a chave de Morse na caixa de sapatos, com todo o cuidado, como se ela pudesse acordar.

«Então vamos lá», disse ela. «Todos. Eu faço bolachas.»

«Avó, não é preciso ir a lado nenhum. Ela passa por cima do jardim.»

«Então vêm todos para o jardim.»

«Quem são todos?»

A Gisela já se tinha levantado e ia a caminho do telefone. O KevIn viu-a abrir a agenda de moradas, a verdadeira, de papel, com o Herbert no H, a senhora Pawlowski no P e a Ayşe Kurt em «Ombro».

«KevIn», disse o Tobi. «O que é que ela está a planear?»

«Não faço ideia», disse o KevIn. «Mas, por precaução, eu contava com mais cadeiras para quinta-feira.»

Seis e meia da manhã, há vinte e dois anos: a Sabine, de roupão, vai buscar o jornal ao tapete da entrada e sacode-lhe o orvalho. O KevIn em cima da cómoda: São umas sete mil edições. A Sabine: Peguei em cada uma delas. São umas sete mil edições. Peguei em cada uma delas. Seis e meia. Há 22 anos.

Fontes do Capítulo 23

  1. Vereinte Nationen Genf: «Convention on Certain Conventional Weapons – Meeting of Experts on Lethal Autonomous Weapons Systems», 13 de maio de 2014. https://www.ungeneva.org/en/about/director-general/michael-moller/activities/2014/05/convention-certain-conventional-weapons A primeira reunião de peritos sobre armas autónomas no âmbito da Convenção da ONU sobre Certas Armas Convencionais (CCW); sobre a situação atual do grupo de peritos governamentais: UNODA: «Lethal Autonomous Weapon Systems». https://disarmament.unoda.org/en/our-work/emerging-challenges/lethal-autonomous-weapon-systems↑
  2. Guterres, A.; Spoljaric, M.: «Joint call by the United Nations Secretary-General and the President of the International Committee of the Red Cross» sobre novas proibições e restrições aos sistemas de armas autónomos. CICV, 5 de outubro de 2023. https://www.icrc.org/en/document/joint-call-un-and-icrc-establish-prohibitions-and-restrictions-autonomous-weapons-systems Aí se lê: «Human control must be retained in life and death decisions.»↑
  3. Europäisches Parlament; Rat der EU: Verordnung (EU) 2024/1689 (Regulamento da IA), art. 2.º, n.º 3, e considerando 24. Jornal Oficial da UE, 2024. https://eur-lex.europa.eu/eli/reg/2024/1689/oj↑
  4. TASS: «Announcement of the First Satellite». Pravda, 5 de outubro de 1957; tradução inglesa em Krieger, F. J.: Behind the Sputniks, 1958; NASA History Office. https://www.nasa.gov/history/sputnik/14.html O comunicado indica as frequências de emissão de 20,005 e 40,002 MHz e a receção «by a broad range of radio amateurs».↑
  5. Shumailov, I. et al.: «AI models collapse when trained on recursively generated data». Nature 631, p. 755, 2024. https://www.nature.com/articles/s41586-024-07566-y Comprova o mecanismo; a proporção «meio cheia» não é medida pelo estudo.↑
  6. C2PA: «Content Credentials: C2PA Technical Specification», Version 2.1. Coalition for Content Provenance and Authenticity, 2024. https://spec.c2pa.org/specifications/specifications/2.1/specs/C2PA_Specification.html↑