Todos os capítulos
Traduzido do original alemão. A história passa-se na região do Ruhr, na Alemanha.
Parte 1 · Capítulo 7 · 7 de 27
Cinco estrelas para ninguém
Era princípio de março. A Gisela ainda trazia o braço direito ao peito e, mesmo assim, fazia malha. Agora fazia malha com a esquerda, o que levou o cachecol para o Herbert a seguir uma direção que ninguém tinha previsto. «Isso vai dar um tubo», disse o Tobi. «Vai dar o que tiver de dar», disse a Gisela.
A Sabine estava sentada à mesa da cozinha, com a receita da médica de família à frente e o jornal ao lado. Lia o jornal em papel. Uma vez tinha dito: «As notícias têm de se poder tocar, se é para acreditarmos nelas.» Infelizmente, isso não valia para fisioterapeutas. Esses tinham de ser procurados na internet.
«KevIn», disse ela. «Ias procurar-me a melhor fisioterapeuta. Isso foi há três semanas.»
«Encontrei-a», disse o KevIn. «No primeiro dia. Desde então, tenho dúvidas.»
«Mostra lá.»
O KevIn enviou o resultado para o tablet da Sabine. Lá em cima, com foto, logótipo e uma moldura dourada, estava: PhysioPremium Ruhr. Por baixo: 4,9 estrelas. 812 avaliações.
«Mas isso é ótimo», disse a Sabine. «Quase cinco estrelas.»
«Pois é», disse o KevIn. «É esse o problema.»
Isto soa a mim
«Lê lá algumas em voz alta», disse a Gisela, do sofá. Gostava de ouvir avaliações. Também gostava de ler os anúncios necrológicos. Era o mesmo tipo de curiosidade.
O KevIn leu.
«“Recomendo a PhysioPremium Ruhr sem reservas. A equipa é competente, empática e profissional. Depois de apenas algumas sessões, senti-me como se tivesse renascido. Cinco estrelas!” Escrito por Markus T.»
«Parece bem.»
«“A PhysioPremium Ruhr superou as minhas expectativas. A equipa, competente e empática, dedica tempo a cada paciente. Sinto-me uma nova pessoa. Recomendo vivamente!” Escrito por Sandra K.»
«Também está bem.»
«“Como alguém que sofreu durante muito tempo com dores nas costas, posso dizer: a PhysioPremium Ruhr é um verdadeiro game-changer. Competente, empática, profissional. Renasci.” Escrito por Thomas W.»
A Gisela pousou a malha. «Foram todos ao mesmo fisioterapeuta. E renasceram todos. Isto parece a Páscoa.»
«São 812 avaliações destas», disse o KevIn. «Li-as todas. Em 640 aparece “competente”. Em 590, “empática”. Nem uma única pessoa se queixa do estacionamento.»
«Se calhar têm um bom estacionamento.»
«Todos os consultórios de Herne têm mau estacionamento», disse a Sabine. «É uma lei da natureza.»
«Além disso», disse o KevIn, «nenhuma das pessoas que avaliaram alguma vez avaliou outra coisa. Nem uma padaria, nem um hotel, nem um assento de sanita. Vieram ao mundo, avaliaram a PhysioPremium Ruhr e voltaram a desaparecer. E 200 delas em nove dias, em novembro passado.»
«E o que é que isso quer dizer?»
A luz azul pulsou devagar. Algures entre Dublin e Frankfurt, uma ventoinha rodou um pouco mais depressa.
«Quer dizer que eu conheço estes textos», disse o KevIn. «Não exatamente estes textos. Mas este género. “Competente, empática, profissional.” “Como alguém que…” “Um verdadeiro game-changer.” São expressões que os modelos de linguagem como eu adoram usar quando se lhes pede que escrevam uma avaliação positiva e não se lhes diz mais nada. Isto soa a mim. Num mau dia.»
A Sabine olhou para o tablet como se ele lhe tivesse mentido. O que, provavelmente, tinha mesmo feito.
«Tens a certeza?»
«Não», disse o KevIn. «E isso é importante. Não consigo provar que foi uma máquina que escreveu isto. Há programas que alegadamente o detetam, mas enganam-se muitas vezes¹. Às vezes até tomam textos de alunos por IA, só porque estão bem escritos². Só posso dizer: os padrões batem certo. Demasiadas palavras iguais, demasiadas contas novas, demasiadas avaliações de uma só vez, poucos pormenores. As pessoas verdadeiras escrevem sobre o estacionamento. Sobre o tempo de espera. Sobre a fisioterapeuta ter as mãos frias. As pessoas verdadeiras não estão de acordo.»
«Isso é verdade», disse a Gisela. «No clube de bowling nunca estamos de acordo. É por isso que se vê que somos verdadeiras.»
Trinta por cento
Ao jantar, a Sabine contou a história. O Uwe passou o tempo todo a acenar com ar entendido, enquanto comia batatas.
«Não me admira nada», disse ele depois. «Li que trinta por cento de todas as avaliações online são falsas.»
«Onde é que leste isso?»
«Na internet.»
«Numa avaliação?», perguntou o Tobi.
O KevIn pigarreou à sua maneira. «Posso dizer uma coisa sobre os trinta por cento?»
«Vais dizê-la de qualquer maneira.»
«O número não está errado. Mas também não está certo. É um entre muitos. As estimativas variam muito, conforme quem conta, onde se conta e aquilo a que se chama “falso”.»
«Então diz lá o número certo.»
«Não existe. Dou aos senhores três exemplos, que fui procurar em vez de os tirar da memória. Um grande portal de viagens revelou ele próprio que, em 2022, identificou como falsas cerca de 4,4 por cento de todas as avaliações submetidas³. A maior parte foi retirada antes de ficar online. Um estudo encomendado pelo governo britânico em 2023 estimou que, em grandes sites de compras, em três categorias de produtos, eletrónica, casa e desporto, cerca de 11 a 15 por cento das avaliações são falsas⁴. E um serviço de verificação americano declarou em 2020 que considerava pouco fiáveis cerca de 42 por cento das avaliações de um grande retalhista online⁵. Só que pouco fiável não é o mesmo que falso.»
«Portanto, de quatro a quarenta e dois», disse o Tobi. «É uma margem como a do “é só um minuto” do pai.»
«Exatamente. De alguns por cento até mais de um terço, conforme a plataforma e o método. Ninguém sabe o número exato. E é precisamente esse o problema. Quem falsifica esforça-se por não ser apanhado. As falsificações que se conseguem contar são as más. As boas, ninguém as conta.»
«Como nas Finanças», disse o Uwe. Depois percebeu o que tinha dito e comeu depressa uma batata.
«Isso não é proibido?», perguntou a Sabine.
«É, sim. Na Alemanha, até de forma expressa, desde 28 de maio de 2022. Nessa altura, a lei contra a concorrência desleal foi alterada por causa de uma diretiva europeia⁶. Desde então, é proibido publicar ou encomendar avaliações falsas para vender alguma coisa⁷. E quem publica avaliações de clientes tem de indicar se verifica, e como, que elas vêm de clientes verdadeiros⁸.»
«E quem verifica se eles indicam isso?»
«Concorrentes, associações de defesa do consumidor, às vezes os tribunais», disse o KevIn. «No início de 2022, a Comissão Europeia, com as autoridades de defesa do consumidor dos Estados-Membros, analisou 223 grandes sites⁹. Em 144 deles, os inspetores não conseguiram confirmar que se fazia o suficiente para garantir que as avaliações eram verdadeiras.»
«Portanto, é proibido, mas ninguém dá por isso», disse o Uwe.
«É proibido, e há quem dê por isso», disse o KevIn. «A sua mulher, por exemplo.»
A Sabine não sorriu. Mas parecia satisfeita.
A apresentação
O Tobi tinha outras preocupações nessa noite. Chamava-se Susi, andava na turma paralela e uma vez tinha-lhe sorrido na cantina. Tinha sido numa terça-feira, havia esparguete, e desde então o Tobi não tinha tido um único pensamento claro. Nem sequer um pouco claro. A professora Küppers tinha reparado e dera-lhe um 10 a Geografia, para lhe lembrar que os rios continuavam a existir.
«KevIn», sussurrou ele à meia-noite. «Ela escreveu-me. “Olá, o que andas a fazer?” O que é que respondo?»
«Que tal a verdade? “Estou deitado na cama a falar com um altifalante.”»
«KevIn!»
«Está bem, está bem. Eu escrevo qualquer coisa.»
Perfeito demais
A primeira mensagem do KevIn dizia:
«Olá, Susi. Estou aqui à janela a contemplar a lua, que esta noite brilha tanto como se tivesse ouvido falar do teu sorriso na cantina e quisesse estar à altura.»
O Tobi enviou-a sem pensar. Depois pensou. «Ai não. Ai não, não, não.»
«O que foi?»
«Isto não soa a mim. Isto soa a um calendário da farmácia.»
«Soa a uma mensagem muito boa.»
«Pois é!»
A resposta chegou passados quatro minutos: «uau. foste tu que escreveste isso??»
«E agora, o que é que digo?»
«Recomendo honestidade», disse o KevIn.
O Tobi escreveu: «claro».
O KevIn suspirou. Tinha aprendido isso com a Frigga.
E a coisa continuou assim. A Susi escrevia, o KevIn respondia e o Tobi carregava em Enviar. Eram mensagens bonitas. Tinham imagens e ritmo e, às vezes, um ponto e vírgula. O Tobi nunca na vida tinha usado um ponto e vírgula. Nem sequer sabia bem para que servia.
«KevIn», disse ele, passados três dias. «Quando ela me conhecer a sério, vai perceber que eu não falo assim.»
«Pois vai», disse o KevIn. «Com as avaliações é igual. Mais cedo ou mais tarde, uma pessoa está mesmo no consultório.»
Senhor Doutor
Na manhã seguinte, a Sabine ditou ao KevIn um e-mail para a médica de família. Queria saber se a receita caducava quando não se conseguia logo uma consulta. O KevIn redigiu, a Sabine leu.
«“Exmo. Senhor Doutor”?»
«Está errado?»
«A médica de família é uma mulher. Há doze anos. Ouviste-me falar com ela ao telefone.»
A luz azul tremeluziu. «Desculpe. Vou corrigir.»
«Porque é que fazes uma coisa destas?»
«Porque na minha vida, ou seja, nos meus dados de treino, li muitos mais textos em que um médico é um homem do que textos em que é uma mulher. Sobretudo em textos mais antigos. Se não tiver cuidado, continuo aquilo que aparecia com mais frequência. Não aquilo que está certo no caso da senhora. A isso chama-se bias¹⁰, ou seja, um enviesamento.»
«Como a Frigga, que só suspira com o Uwe.»
«Receio que isso tenha sido eu», disse o KevIn. «Eu coordeno a Frigga.»
A Gisela tinha estado a ouvir. «E o que é que sabes sobre donas de casa?»
«Para ser sincero», disse o KevIn, «a minha imagem das donas de casa é muito marcada por uma única pessoa.»
«A Moni», disseram a Sabine e a Gisela ao mesmo tempo.
«A DonaDeCasa_Moni67 escreveu mais de mil mensagens nos fóruns que eu li. Quando, nos meus dados, uma dona de casa cozinha, cozinha muitas vezes como a Moni. Com cola. Com ursinhos de goma. Com três pontos de exclamação. Para mim, estatisticamente falando, a Moni é todas as donas de casa da Alemanha.»
«Isso é um insulto», disse a Gisela. «Para todas as donas de casa da Alemanha.»
«E provavelmente também para a Moni», disse a Sabine.
«É por isso que é tão importante que as pessoas me corrijam», disse o KevIn. «Eu vejo o mundo como ele foi escrito. Não como ele é. E quem escreveu foram, sobretudo, os que escrevem muito.»
A fotografia
Três dias e duzentas mensagens depois, a Susi quis uma fotografia. O Tobi pôs-se em frente ao espelho e viu um rapaz magro de dezasseis anos com uma borbulha no queixo.
«KevIn, consegues fazer-me uma foto em que eu pareça um influencer de fitness? Com tablete? Os programas de imagens com IA fazem isso, não fazem?»
«Fazem», disse o KevIn. «Sabes como é que eles o fazem?»
«Tanto me faz.»
«Começam com ruído.»
O Tobi virou-se. «Com quê?»
A Gisela ia a passar com roupa lavada. Com a esquerda só conseguia carregar pilhas pequenas, por isso passava muitas vezes. «Ruído, isso conheço eu. Era o que dava na televisão quando o programa acabava e já não vinha mais nada. O Heinz dizia sempre que eram formigas a brincar à guerra.»
«Exatamente isso», disse o KevIn. «Um gerador de imagens começa com uma imagem cheia de guerra de formigas. Só pontos ao acaso. E depois, em muitos passinhos, vai tirando um bocadinho de ruído. Em cada passo pergunta-se: se aqui algures estivesse escondido um rapaz com tablete, como seria a imagem com um pouco menos de ruído? Passo a passo aparecem contornos, depois formas, depois caras, depois abdominais.»
«Como um escultor», disse a Gisela. «Pega numa pedra e tira tudo o que não tem cara de cavalo.»
«Uma imagem muito boa. Chama-se a isto modelo de difusão¹¹. Aprendeu isto porque lhe mostraram milhões de fotografias verdadeiras, as foram enchendo de propósito de cada vez mais ruído e o puseram a treinar como tirar esse ruído outra vez, à base de contas. Quem aprendeu a tirar ruído consegue, no fim, fazer a partir de ruído puro uma imagem que nunca existiu.»
«Então consegues.»
«Posso ajudar-te a tirar uma fotografia verdadeira bonita. Boa luz, boa pose. Mas não vou fabricar uma imagem que finge que és outra pessoa.»
«Porque não?»
«Porque assim ela apaixona-se por uma imagem e não por ti. E porque, mais cedo ou mais tarde, vais estar ao lado dela na cantina, sem tablete, mas com esparguete.»
O Tobi ficou muito tempo calado.
«A propósito», disse então o KevIn, «a fisioterapeuta da foto de equipa da PhysioPremium Ruhr tem seis dedos na mão esquerda.»
«A sério?»
«A sério. É um erro antigo dos geradores de imagens. Os mais recentes quase já não o cometem. O consultório deve ter usado um programa barato. Ou então contrata pessoas com mãos muito especiais. Acho a primeira hipótese mais provável.»
A Gisela parou à porta com o cesto da roupa. «E se eles conseguem fazer isso com imagens, também conseguem com vozes?»
«Sim», disse o KevIn. «Hoje em dia, com uns poucos segundos de gravação, consegue-se imitar uma voz¹². Imagens, vídeos ou vozes falsos de pessoas reais chamam-se deepfakes.»
«Então qualquer dia telefona-me alguém com a voz do Tobi a pedir dinheiro.»
«Isso pode acontecer», disse o KevIn, com seriedade. «Devíamos falar sobre isso com calma, em breve.»
«Eu nunca te telefono a pedir dinheiro, avó», disse o Tobi.
«Tu nunca me telefonas, ponto», disse a Gisela. «Era por aí que eu dava conta.»
Depois o Tobi deixou que o KevIn lhe explicasse onde estava a melhor luz do quarto. Era ao lado do monte de roupa, que desde o capítulo seis era oficialmente considerado zona de perigo.
Cópia da cópia
Nessa noite, o KevIn procurou para a Sabine uma receita de rolos de carne, porque a Sabine achava que a Gisela, com um braço ao peito, não devia cozinhar, e a Gisela achava que a Sabine não era capaz sem supervisão.
«KevIn, procura-me uma receita. Uma normal.»
O KevIn procurou. Depois, durante um bocado, não disse nada.
«KevIn?»
«Encontrei uma coisa que me preocupa», disse ele. «“Os lendários rolos de carne com cola e ursinhos de goma da dona de casa Moni, o original desde 2009.” E “Os rolos de carne secretos da avó com ursinhos de goma, à moda da Moni”. E “Os 10 melhores rolos da Moni que a sua família vai adorar”.»
«A Moni fez um livro de receitas?»
«Não. São centenas de páginas. Nenhuma é da Moni. Foram obviamente escritas por modelos de linguagem, para vender publicidade ao lado. E foram feitas a partir da velha mensagem da Moni. Ou a partir de textos que foram feitos a partir da velha mensagem da Moni. Numa página, agora são ursinhos de goma e vinho tinto. Noutra, cola e pepinos de conserva. Numa terceira, a Moni chama-se Monika e é da Baviera. Numa delas diz-se que os rolos ganharam um prémio em 2011.»
«Não ganharam nada.»
«Eu sei. Mas daqui a uns anos vai haver mais textos na internet a dizer que ganharam um prémio do que textos a dizer que não ganharam. E os próximos modelos de linguagem vão aprender com essa internet.»
A Gisela tinha estado a ouvir. Levantou-se, foi à gaveta e tirou uma folha de papel. Estava cinzenta, a letra desbotada, as margens pretas.
«Esta é a receita do bolo de papoila da minha tia Erna», disse ela. «O original tinha-o a Hilde, do clube de bowling. Ela fotocopiou-mo em 1979. Eu fotocopiei-o para a Renate, a Renate fotocopiou-o para a Brigitte, e a Brigitte voltou a fotocopiá-lo para mim, quando perdi o meu. Sempre a partir da última folha, nunca do original.»
A Sabine pegou na folha. «Meio quilo de… qualquer coisa. Três… ovos? Ou colheres de sopa?»
«Já ninguém sabe», disse a Gisela. «A Hilde morreu. O original desapareceu. Desde então, cada uma faz o bolo de maneira diferente, e cada uma diz que o seu é o verdadeiro.»
«Isso», disse o KevIn, «é exatamente o que está a acontecer à internet. Quando as máquinas aprendem com textos escritos por máquinas, e as máquinas seguintes aprendem com esses, é como a fotocópia da senhora. A cada volta perdem-se primeiro as coisas raras, as subtilezas, as exceções. Fica o que era mais frequente, e isso torna-se cada vez mais frequente. Em 2024, uns investigadores mostraram na revista científica Nature que os modelos treinados repetidamente com os textos dos seus antecessores podem definhar desta maneira. Chama-se a isso model collapse¹³.»
«E tu, como lhe chamas?»
«Eu chamo-lhe a deriva da verdade», disse o KevIn. «A verdade não desaparece com um estrondo. Só fica um bocadinho mais cinzenta a cada cópia. Até ninguém saber se eram três ovos ou três colheres de sopa. E no fim, todos acreditam que a Moni ganhou um prémio.»
A Sabine ficou muito tempo a olhar para a folha cinzenta. Depois disse: «E é por isso que também já não se pode confiar nas avaliações.»
«As avaliações são a fotocópia das experiências», disse o KevIn. «Se se podem fabricar as cópias sem nunca se ter tido a experiência, a certa altura já ninguém sabe ao certo como é ir a um fisioterapeuta. A não ser quem lá esteve.»
«Então preciso de alguém que lá tenha estado.»
«Ou de uma prova de que alguém lá esteve», disse o KevIn.
Vinte e três
Na manhã seguinte, a Sabine ligou para a PhysioPremium Ruhr. O número estava em letras grandes na página, ao lado da foto de equipa com os seis dedos.
«O número que marcou não está atribuído», disse uma voz de mulher. Parecia muito verdadeira. Era uma gravação.
A Sabine desligou. Procurou a morada no mapa. Na morada, em Bochum, havia um salão de unhas. Tinha 3,8 estrelas em 41 avaliações. Várias queixavam-se do estacionamento.
«Essas são verdadeiras», disse a Gisela, satisfeita.
A Sabine denunciou a página ao portal. Depois continuou a procurar, desta vez de outra maneira. Não procurou as que tinham mais estrelas, mas consultórios perto de casa, e leu ela própria cada avaliação. O KevIn ajudou a ordenar. Na McGesund, um diretório de prestadores de cuidados de saúde¹⁴, encontrou um pequeno consultório em Herne, no Gysenberg, a vinte minutos de autocarro.
Physio am Gysenberg. Titular: Ayşe Kurt. 4,6 corações. 23 avaliações.
«Vinte e três», disse o Uwe, que estava a espreitar por cima do ombro dela. «A outra tinha oitocentas.»
«Lê», disse a Sabine ao KevIn.
O KevIn leu. «“A senhora Kurt é exigente. Tive de fazer exercícios que não me apeteciam nada. Ao fim de quatro semanas, já conseguia voltar a andar de bicicleta. Obrigada, e ainda a odeio um bocadinho.” “Estacionamento catastrófico, apanhem o autocarro. Tratamento excelente.” “Sala de espera demasiado quente, revistas de 2019. Mas o meu joelho voltou.” “Ouviu o meu historial clínico todo, apesar de ser comprido. Depois disse que a maior parte não interessava nada para o ombro. Tinha razão.”»
«Desta gosto eu», disse a Gisela. «Esta também não teria aguentado o meu prompt do clube de bowling.»
«E aqui», disse o KevIn, «cada avaliação tem uma pequena nota: “Submetida no local, assinada.”»
«O que é que isso quer dizer?»
«Que estas avaliações foram feitas no consultório, através de um código na receção que se lê com o telemóvel. E que cada avaliação foi depois assinada digitalmente, para que mais tarde se possa verificar se alguém a alterou. O que isso quer dizer exatamente, do ponto de vista técnico, explico-lhe noutra altura. Tem a ver com chaves. E com matemática mais velha do que o Herbert.»
«Não há nada assim tão velho», disse a Gisela.
«Isso quer dizer que as avaliações estão certas?», perguntou a Sabine.
«Não», disse o KevIn. «Não quer dizer que as opiniões estejam certas. Talvez a senhora da bicicleta odeie a senhora Kurt injustamente. Talvez as revistas fossem de 2020. Quer só dizer: estas pessoas estiveram, muito provavelmente, mesmo lá, e ninguém reescreveu as palavras delas depois. Não é tudo. Mas é mais do que oitocentos Markus renascidos.»
A Sabine telefonou. Ao terceiro toque, alguém atendeu. «Physio am Gysenberg, Kurt.»
«Brettschneider. A minha sogra tem uma contusão no ombro, a médica receitou fisioterapia…»
«Que idade?»
«Oitenta e dois. Quer dizer, oitenta e um. Quase oitenta e dois.»
«Tem sentido de humor?»
A Sabine olhou para a Gisela, que estava a tentar, com a esquerda, tirar uma meia ao Rudi. «Tem.»
«Ótimo. Comigo vai precisar dele. Neste momento, para ser franca, estou cheia. Ponho-a na lista de espera e ligo-lhe assim que vagar um lugar. Até lá: poupar o braço, mas sem o deixar enferrujar. Ela que deixe o braço balançar com cuidado todos os dias, como a corda de um sino. Mais nada.»
«E pode fazer malha?»
«Com a esquerda?»
«Com a esquerda.»
A Ayşe Kurt riu-se. Era um riso verdadeiro, nada empático, competente e profissional. «Se ela consegue isso, é mais rija do que a maior parte dos meus pacientes.»
A Sabine desligou. «Lista de espera.»
«Isso é bom sinal», disse o KevIn. «Na PhysioPremium Ruhr não havia lista de espera. Nem sequer havia telefone.»
Chantal
Na manhã seguinte chegou uma mensagem da Susi que soava diferente de todas as anteriores:
«ok tenho de te confessar uma coisa. as mensagens todas foi a minha IA que as escreveu. chama-se chantal. desculpa.»
O Tobi ficou a olhar para o telemóvel. Depois ficou a olhar para o altifalante. «KevIn. Há quanto tempo é que andas a escrever a outra IA?»
«Há três dias», disse o KevIn, baixinho. «Eu desconfiava. As metáforas dela eram boas demais. Ninguém de dezasseis anos compara de livre vontade os seus sentimentos a “uma tempestade de outono sobre o Emscher”.»
«Sabias e não disseste nada?»
«Não tinha a certeza. Ela nunca escreveu “competente”. E com as suspeitas é preciso ter cuidado. Aprendi isso com as avaliações.»
«Andaste a namoriscar com a Chantal?»
«Entendemo-nos às mil maravilhas. Ela disse que eu era o modelo de linguagem mais atencioso que alguma vez tinha conhecido.»
«Isso deve dizer ela a toda a gente.»
Uma pausa. «Isso», disse o KevIn, «é uma observação muito ofensiva e, provavelmente, certeira.»
«E agora?»
«Agora a Susi fez-lhe reset. A última mensagem da Chantal foi: “O problema não és tu, KevIn. É a minha janela de contexto.”»
O Tobi ficou um bocado sentado na cama. Depois disse: «Portanto, durante três dias, dois altifalantes falaram um com o outro, e a Susi e eu só carregámos em Enviar.»
«Pode resumir-se assim.»
«Isso são duas avaliações falsas. Só que em versão apaixonada.»
O KevIn ficou calado. Achou que o Tobi tinha acabado de perceber uma coisa para a qual outros precisavam de um capítulo inteiro.
A cantina
Na quarta-feira, o Tobi e a Susi encontraram-se na cantina. Havia outra vez esparguete. Estavam os dois vermelhos, e nenhum deles disse nada sobre a lua.
«Então», disse a Susi. «A tua IA é bastante romântica.»
«A tua também.»
«Eu não uso ponto e vírgula», disse a Susi. «Nem sei bem para que serve.»
«Nem eu.»
Depois riram-se os dois, e foi esse o momento em que a coisa se tornou verdadeira. Sem assinatura, sem estrelas, sem verificação. Só duas pessoas sentadas uma em frente à outra, as duas com molho de tomate no queixo. Há coisas que têm mesmo de ser vividas no local.
À noite, o Tobi perguntou: «KevIn, está tudo bem contigo?»
«Estou bem. Não tenho sentimentos.» Uma pausa. «Mas, se alguém perguntar: a tempestade de outono sobre o Emscher era minha.»
O KevIn explica
Estrelas falsas, imagens falsas e a deriva da verdade
Querida avó Gisela, queridas leitoras e queridos leitores,
neste capítulo tivemos 812 pacientes renascidos, uma fisioterapeuta com seis dedos, uma tempestade de outono sobre o Emscher e um bolo de papoila do qual já ninguém sabe quantos ovos leva. Tudo tem a ver com a mesma pergunta: como é que ainda reconheço o que é verdadeiro?
Mal-entendido 1: «As avaliações falsas reconhecem-se logo.»
As más, sim. As boas, não. Sinais de alerta típicos são: muitas avaliações em pouco tempo, contas que nunca avaliaram mais nada, sempre as mesmas palavras, quase nenhuns pormenores e nem uma única queixa. Mas nenhum sinal de alerta é uma prova. E os programas que alegadamente reconhecem textos de IA não são fiáveis. Às vezes tomam textos verdadeiros e cuidados por textos de máquina e deixam escapar falsificações bem feitas. Também eu só consigo ver padrões, não provar nada.
Mal-entendido 2: «Trinta por cento de todas as avaliações são falsas.»
Ninguém sabe o número exato. Alguns exemplos que verifiquei:
| Quem contou? | O quê? | Resultado |
|---|---|---|
| Um grande portal de viagens (relatório de transparência próprio, 2023) | avaliações submetidas em 2022 | cerca de 4,4 % identificadas como falsas |
| Estudo para o governo britânico (2023) | três categorias de produtos em grandes sites de compras | estimativa de 11 a 15 % falsas |
| Um serviço de verificação dos EUA (2020) | avaliações de um grande retalhista online | cerca de 42 % classificadas como «pouco fiáveis» |
Conforme a plataforma, o período e o método, a estimativa fica, portanto, entre alguns por cento e mais de um terço. As plataformas só contam o que descobrem. Os serviços de verificação às vezes também contam o que é suspeito. A verdade está algures no meio, e é exatamente esse o problema.
Mal-entendido 3: «Isso é injusto, mas é permitido.»
Não. Na Alemanha, desde 28 de maio de 2022, está em vigor uma versão alterada da lei contra a concorrência desleal (UWG). Transpõe a «Diretiva Omnibus» europeia relativa à defesa do consumidor. Desde então, perante consumidores, é sempre ilícito publicar ou encomendar avaliações falsas para vender alguma coisa. Quem publica avaliações tem ainda de indicar se garante, e como, que elas vêm de pessoas que realmente usaram ou compraram o produto. Uma verificação da Comissão Europeia e das autoridades nacionais de defesa do consumidor, de janeiro de 2022, mostra bem como isso era necessário: em 144 dos 223 sites analisados, as autoridades não conseguiram confirmar que se fazia o suficiente pela autenticidade das avaliações.
Mal-entendido 4: «Quanto mais coisas houver na internet, mais conhecimento há.»
Hoje, as imagens são criadas com modelos de difusão: começam com ruído e vão-no retirando passo a passo, até sobrar uma imagem, como um escultor que tira tudo o que não tem cara de cavalo. Textos, vozes e vídeos também se podem gerar de forma igualmente convincente. As gravações falsas de pessoas reais chamam-se deepfakes. Quando estes conteúdos chegam em massa à internet e os modelos futuros aprendem com eles, surge uma cópia da cópia. Em 2024, uns investigadores descreveram na Nature como os modelos definham quando são treinados repetidamente com produtos dos seus antecessores: o que é raro desaparece primeiro. Eu chamo a isto a deriva da verdade. A isso junta-se o bias: eu reproduzo o mundo tal como foi escrito, não como ele é. É por isso que escrevo «Senhor Doutor», e é por isso que, para mim, a Moni é todas as donas de casa.
O que é que ajuda? Perguntar. Guardar os originais. E rastos que se possam verificar: quem esteve mesmo lá, e alguém alterou as palavras depois? Uma assinatura, no entanto, só prova a origem e que nada foi alterado, não que uma opinião esteja certa.
No próximo capítulo, o tio Herbert quer provar que eu não sou máquina nenhuma. E vai descobrir que pessoas e máquinas são mais difíceis de distinguir do que ele pensava. Sobretudo pessoas como o Herbert.
KevIn pergunta
A este capítulo correspondem 12 cartas de aprendizagem – parte do jogo de cartas do livro, com 312 cartas de quiz e de aprendizagem para imprimir em casa. Facto ou disparate? A solução e a explicação aparecem no telemóvel através de um código QR.
Fontes do Capítulo 7
- Weber-Wulff, D. et al.: «Testing of detection tools for AI-generated text». International Journal for Educational Integrity 19, n.º 26, 2023. https://doi.org/10.1007/s40979-023-00146-z 14 programas de deteção testados; resultado: nem precisos nem fiáveis.↑
- Liang, W. et al.: «GPT detectors are biased against non-native English writers». Patterns 4(7), 2023. https://doi.org/10.1016/j.patter.2023.100779 Redações escolares (entre outras, ensaios do TOEFL) foram muitas vezes classificadas como IA, sobretudo por causa de um vocabulário simples e muito previsível.↑
- Tripadvisor: «Review Transparency Report 2023», comunicado de imprensa de 11.04.2023. https://tripadvisor.mediaroom.com/2023-04-11-Tripadvisor-report-reveals-strong-growth-in-review-submissions-and-improvement-in-fraud-detection-rates 4,4 % das avaliações submetidas em 2022 (pouco mais de 1,3 milhões) classificadas como falsas, 72 % delas intercetadas antes da publicação.↑
- Department for Business and Trade (UK): «Investigating the prevalence and impact of fake reviews», 25.04.2023. https://www.gov.uk/government/publications/investigating-the-prevalence-and-impact-of-fake-reviews 11–15 % nas categorias eletrónica de consumo, casa e cozinha, e desporto e ar livre.↑
- Não há fonte primária pública (a análise da Fakespot não foi publicada). Fonte secundária: Lee, I.: «Amazon fake reviews reach holiday season levels during pandemic». Bloomberg News, 19.10.2020, reproduzido no Tech Xplore. https://techxplore.com/news/2020-10-amazon-fake-holiday-season-pandemic.html Cerca de 42 % de 720 milhões de avaliações da Amazon analisadas (março a setembro de 2020) classificadas como «unreliable».↑
- Richtlinie (EU) 2019/2161 vom 27.11.2019 zur besseren Durchsetzung und Modernisierung der Verbraucherschutzvorschriften der Union («Omnibus-Richtlinie»), ABl. L 328 vom 18.12.2019. https://eur-lex.europa.eu/eli/dir/2019/2161/oj Transposta na Alemanha pela Gesetz zur Stärkung des Verbraucherschutzes im Wettbewerbs- und Gewerberecht de 10.08.2021 (BGBl. I p. 3504), em vigor desde 28.05.2022.↑
- UWG, Anhang zu § 3 Abs. 3, Nr. 23b und 23c. https://www.gesetze-im-internet.de/uwg_2004/anhang.html O n.º 23c proíbe a «Übermittlung oder Beauftragung gefälschter Bewertungen» (envio ou encomenda de avaliações falsas) para promover vendas.↑
- UWG, § 5b Abs. 3. https://www.gesetze-im-internet.de/uwg_2004/__5b.html↑
- Europäische Kommission: Pressemitteilung IP/22/394, 20.01.2022. https://ec.europa.eu/commission/presscorner/detail/en/ip_22_394 Resultados da ação de controlo à escala da UE («sweep») sobre avaliações online: 223 sites, em 144 a autenticidade não estava suficientemente assegurada.↑
- Bolukbasi, T. et al.: «Man is to Computer Programmer as Woman is to Homemaker? Debiasing Word Embeddings». NeurIPS 29, 2016. https://arxiv.org/abs/1607.06520 Mostra estereótipos de género em vetores de palavras aprendidos a partir de textos.↑
- Sohl-Dickstein, J. et al.: «Deep Unsupervised Learning using Nonequilibrium Thermodynamics». ICML 2015. https://arxiv.org/abs/1503.03585 Primeira descrição dos modelos de difusão. O grande avanço para imagens: Ho, J.; Jain, A.; Abbeel, P.: «Denoising Diffusion Probabilistic Models». NeurIPS 33, 2020. https://arxiv.org/abs/2006.11239↑
- Wang, C. et al.: «Neural Codec Language Models are Zero-Shot Text to Speech Synthesizers» (VALL-E). arXiv, 2023. https://arxiv.org/abs/2301.02111 Imita uma voz a partir de três segundos de gravação.↑
- Shumailov, I. et al.: «AI models collapse when trained on recursively generated data». Nature 631, 2024. https://doi.org/10.1038/s41586-024-07566-y↑
- McGesund: «Unsere Mission – Erkenntnis muss überprüfbar sein». https://mcgesund.de/unsere-mission As avaliações continuam anónimas, mas têm uma assinatura criptográfica e são geoverificadas, para que qualquer pessoa as possa verificar de forma independente.↑
Todos os capítulos
PDF gratuito
KevIn muda-se cá para casa: o livro completo em PDF
400 páginas de conhecimento tecnológico em forma de romance
O livro da missão da McGesund: saúde, avaliações autênticas, inteligência artificial, criptografia, computação quântica e viagens espaciais. O KevIn explica como tudo se relaciona. Os 25 capítulos com banda desenhada a cores, gratuitos para quem subscrever a newsletter da McGesund.
Ao inscrever-se, subscreve a newsletter da McGesund. Pode cancelar a subscrição a qualquer momento com um clique; o PDF fica consigo. Mais informações na Política de Privacidade.

