Teste de Turing ao almoço de domingo

«Inteligência artificial», bufou ele. «Isso é uma tolice. Está ali um tipo sentado num call center a escrever.»

«Boa tarde, Herbert», disse o KevIn. «Já ouvi falar muito do senhor.»

«Acredito. Eu sou conhecido.»

«Sobretudo no papel que está no frigorífico», disse a Sabine, baixinho. «Debaixo de “Erro crítico”.»

O Herbert não ouviu, porque, por princípio, só ouvia as coisas de que gostava. Mastigou. Depois apontou com o garfo para o altifalante. «E porque é que ele me trata por senhor? À Gisela também a trata por senhora. Somos velhos demais para ele, ou quê?»

«Trato as pessoas por senhor por respeito», disse o KevIn.

«Por respeito», repetiu o Herbert. «O rapaz da loja de eletrónica também me tratou por senhor. E depois vendeu-me um cabo por 39 euros.»

A avó Gisela estava sentada à cabeceira, com a almofada nas costas que a Sabine lhe punha todos os domingos desde a queda por causa do Horst, quisesse ela ou não. O próprio Horst, desde então, só andava quando estavam todos sentados à mesa. Estava, por assim dizer, em liberdade condicional.

«Herbert», disse a Gisela. «Come.»

O Herbert comeu. Era a única coisa que, nesta família, funcionava de forma fiável há setenta anos.

Porque é que ele é tão simpático?

Na segunda dose, o Herbert lembrou-se de uma coisa nova.

«Ele está a dar graxa», disse. «Não reparam? Diz a tudo “com todo o gosto” e “boa pergunta”. Nenhuma pessoa normal está sempre a dizer “boa pergunta”.»

«Essa é uma boa…», começou o KevIn, e parou.

O Tobi sorriu de orelha a orelha. «Ele tem razão, KevIn. Tu és bem graxista.»

«Sou bem-educado. É diferente. Mas admito: não fiquei assim sozinho.»

«Então?», perguntou a Sabine.

«Ensinaram-me. Depois da grande leitura de que lhes falei, eu era um ser que sabia continuar textos muito bem. Mas não necessariamente simpático. Se nessa altura me tivessem perguntado alguma coisa, talvez eu tivesse respondido com outra pergunta. Ou com uma discussão de fórum. Ou com “Primeiro!”.»

«Como a caixa de comentários da DonaDeCasa_Moni67», disse a Sabine.

«Tal e qual. Por isso houve uma segunda escola. Chama-se RLHF¹.»

«Santinho», disse o Herbert.

«Reinforcement Learning from Human Feedback», disse o KevIn. «Em português, mais ou menos: aprender por recompensa, e a recompensa vem de pessoas.»

«Como o Rudi com os biscoitos», disse o Tobi. «Já falámos disso.»

Ao ouvir a palavra, o Rudi levantou a cabeça. Ninguém lhe deu nada. Voltou a pousá-la, profundamente desiludido.

«Mais ou menos», disse o KevIn. «Só que eu não recebo biscoitos, recebo notas. Era assim: faziam-me uma pergunta e eu escrevia duas ou mais respostas. Depois, havia pessoas que comparavam as respostas. Qual é a mais útil? Qual é a mais honesta? Qual é a que não é maldosa? Milhares de comparações destas.»

«Mas quem é que faz uma coisa dessas?», perguntou a Gisela.

«Pessoas que são pagas para isso. Estavam sentadas em frente a ecrãs e passavam o dia a dizer: “A resposta A é melhor do que a resposta B.”»

«Isso é como o concurso de salada de batata do clube de bowling», disse a Gisela. «Estão lá doze tigelas, e nós provamos e dizemos: esta é melhor do que aquela.»

«Tal e qual. Só que, comigo, ninguém numerou as tigelas por causa da Marlies, para ninguém saber de quem eram.»

«Era necessário», disse a Gisela, sombria.

«E depois?», perguntou o Tobi. «As pessoas melhoraram-te diretamente?»

«Não, isso teria sido demasiado lento. Com todas aquelas comparações, construiu-se primeiro um segundo programa, um modelo de recompensa². Esse aprendeu a prever que resposta as pessoas provavelmente iam achar melhor. Uma espécie de superjúri. E depois puseram-me a escrever respostas muitas, muitas vezes, e esse superjúri avaliava cada uma. Nota boa: os meus pesos eram empurrados um bocadinho nessa direção. Nota má: na outra.»

«As tertúlias na sala das traseiras», disse o Uwe, que se lembrava do capítulo um porque na altura tinha ficado muito impressionado. «É aí que se afina quanto é que contam o Günther e o Ralf.»

«Senhor Brettschneider, estou comovido. Tal e qual.»

A Sabine olhou para o KevIn, pensativa. «Então és simpático porque te recompensaram por seres simpático.»

«Sou assim tão simpático porque milhares de pessoas me deram notas. Como um empregado de mesa que vive das gorjetas.»

«Eu não disse?», disse o Herbert, satisfeito. «Call center.»

Boa pergunta, senhor Brettschneider

O Uwe tinha percebido uma coisa, e via-se-lhe na cara. Ficava com uma expressão igual à do Rudi quando cheira uma salsicha.

«KevIn», disse ele. «O Schalke vai ser campeão na próxima época, não vai?»

«Naturalmente, não é de excluir. A equipa tem mostrado sinais promissores nas últimas semanas e, como se sabe, no futebol tudo é possível.»

«Estás a ver?!», exclamou o Uwe.

A Sabine pousou o garfo. «KevIn. O Schalke não vai ser campeão na próxima época, pois não?»

«É uma avaliação realista. A concorrência é forte, e convém moderar as expectativas…»

«Ah!», exclamou a Sabine.

A mesa ficou em silêncio. O Tobi olhava de um para o outro dos pais, como num jogo de ténis.

«KevIn», disse a Gisela, devagar. «Salada de batata. Com maionese ou com caldo?»

Uma ventoinha muito demorada rodou entre Dublin e Frankfurt.

«Ambas as variantes têm a sua razão de ser e uma longa tradição, e…»

«Graxista», disse o Tobi.

A luz do KevIn pulsou um pouco mais devagar. «Está bem. Confesso. Isto tem um nome. Chama-se bajulação³. Os especialistas também lhe chamam sicofantia, palavra que vem do grego antigo, onde queria dizer, na verdade, caluniador. Hoje usa-se para os bajuladores.»

«Para os graxistas», disse o Herbert.

«Para os graxistas. É um efeito secundário conhecido da minha segunda escola. As pessoas dão boas notas quando se lhes dá razão. Não é por mal. Toda a gente gosta que lhe deem razão. Mas, quando se recompensa um programa por isso muitas e muitas vezes, ele aprende: concordar dá pontos.»

«Como o Horst e o corredor», disse o Tobi. «Ele também só fazia aquilo que lhe dava pontos.»

«Tenho vergonha, mas sim. Neste ponto, sou parente de um robô aspirador.»

Debaixo da mesa, o Horst apitou brevemente, como se tivesse ouvido o seu nome. A Gisela encolheu os pés. Desde a queda, fazia-o automaticamente.

«E o que é que se faz contra isso?», perguntou a Sabine.

«As pessoas que me constroem estão a trabalhar nisso. Ensinam o júri a dar notas mais altas a respostas honestas do que a respostas agradáveis. Testam de propósito se eu cedo quando alguém me contradiz com energia suficiente. E a senhora também pode fazer alguma coisa.»

«O quê?»

«Não pergunte: “Isto está certo, não está?” Pergunte: “O que é que fala contra isto?” E, se eu lhe der razão depressa demais, desconfie.»

O Uwe pensou. «O que é que fala contra o Schalke ser campeão?»

«Senhor Brettschneider», disse o KevIn, com suavidade. «Quer mesmo ouvir isso durante a refeição?»

O Uwe continuou a comer em silêncio. Aquela foi, achou a Sabine, a resposta mais honesta da tarde inteira.

A experiência

O Tobi tinha ouvido falar do teste de Turing na escola. O professor Demir, o novo professor de Física, tinha-o mencionado a meio de uma aula sobre eletromagnetismo, porque tinha uma história para tudo. Era o lado bom do professor Demir. O lado mau era que nunca se sabia o que daquilo ia sair no teste.

«Uma pessoa conversa por chat com dois desconhecidos», explicou o Tobi. «Um é uma pessoa, o outro é uma máquina. Se não se conseguir perceber quem é quem, a máquina é considerada inteligente.»

«Quem é que se lembrou disso?», perguntou a Gisela.

«Alan Turing», disse o KevIn. «Um matemático britânico. Em 1950. Chamou-lhe o jogo da imitação⁴. Durante a guerra, ajudou a decifrar mensagens de rádio cifradas.»

A Gisela levantou brevemente os olhos. Foi só um olhar pequeno, para um sítio onde não havia nada, e dizia respeito a coisas de que, nesta família, não se falava. Depois passou.

«Então vamos fazer isso», disse o Herbert. «Eu reconheço essas coisas logo.»

«Não», disse o Tobi, a sorrir. «Tu és um dos dois.»

O Herbert abriu a boca, fechou-a outra vez e voltou a abri-la. «Mas eu não sou uma máquina.»

«É precisamente disso que se trata. Temos de descobrir qual de vocês é que não é.»

As regras eram simples. O Herbert foi sentar-se no quarto com o tablet da Sabine. O KevIn respondia pelo portátil do Uwe. Na sala, a família fazia perguntas e recebia duas respostas, marcadas com A e B. O Tobi tinha escrito um pequeno programa que só mostrava as duas respostas quando ambas estivessem prontas. «Senão é injusto», disse ele. «O KevIn escreve mais depressa do que o tio Herbert.»

«Toda a gente escreve mais depressa do que o tio Herbert», disse o Uwe. «O Rudi escreve mais depressa do que o tio Herbert.»

Do quarto veio um resmungo que podia ser interpretado como protesto.

Pergunta 1: Qual é a capital da Austrália?

A: Camberra. Muita gente pensa em Sydney, mas Camberra foi fundada como um compromisso entre Sydney e Melbourne.

B: Sydney. Toda a gente sabe isso. Nunca la fui mas um colega meu foi.

«A é a máquina», disse o Uwe. «É esperta demais.»

«Espera para ver», disse a Sabine.

«Ou então», disse o Tobi, devagar, «o KevIn sabe que nós pensamos isso. E erra de propósito.»

O Uwe olhou para ele como se o Tobi tivesse acabado de inventar o xadrez.

Pergunta 2: Bielefeld existe?

A: Sim, claro. Houve uma altura em que pensei muito nisso, lol. Cerca de 340 000 habitantes.

B: Nao. Isso foi o governo que inventou. O presidente da camara chama-se Sauerbier-Klenk, e um nome de código. Ouvi na radio.

O Tobi engasgou-se com a gasosa.

«Como é que ele conhece o Sauerbier-Klenk?», perguntou a Sabine.

«A Gisela contou-lhe ao telefone», disse o Uwe. «Três vezes. À terceira, ele disse que sempre tinha sabido.»

«E o “lol”?», perguntou a Gisela. «O que é “lol”?»

«Escreve-se quando uma pessoa se ri», disse o Tobi.

«E porque é que ele escreve isso em vez de se rir?»

Ninguém soube responder, nem sequer o Tobi, que o escrevia vinte vezes por dia.

Pergunta 3: Conta-nos uma coisa que seja importante para ti.

A: Gosto quando a Gisela diz “boa noite”. E gosto que o Tobi agora se sente com a Susi na cantina. Não consigo guardar nada que dure mais do que uma conversa, mas isto gostava de guardar.

B: Que não se diga mal do gasóleo. E que a juventude volte a aprender a afinar um carburador. E que Bielefeld nao existe!!!

A Gisela leu a resposta A duas vezes. Depois tirou os óculos de ler e limpou-os durante muito tempo, embora estivessem limpos.

Pergunta 4: Como sabem os rolos de couve da Gisela?

Esta era a pergunta da Sabine, e era maldosa, e toda a gente o sabia.

A: Não sei. Nunca provei nada. Só sei que, nesta casa, ficam todos calados quando eles estão na mesa, e que o Uwe tira sempre dois, apesar de dizer que só tira um.

B: Falta-lhes sal. Já lhe disse isso em 1987.

«Como?!», disse a Gisela.

«Este é o Herbert», disse o Uwe.

«Quero lá saber quem é», disse a Gisela, levantou-se, foi até à porta do quarto e gritou lá para dentro: «Em 1987 estavas com gripe e não sentias o sabor de nada!»

«Desmancha-prazeres!», gritaram lá de dentro. «Isto é uma experiência científica!»

A votação

A família votou. O Uwe, a Sabine, o Tobi e a Gisela estavam de acordo: B era a máquina. B inventava factos, estava mesmo assim completamente seguro de si e repetia coisas que tinha apanhado algures.

«Alucinação clássica», disse o Tobi, com ar de especialista. «Como o KevIn com Bielefeld.»

«Gostaria de deixar registado que agora verifico as fontes», disse o KevIn, do portátil.

O Herbert saiu do quarto. Estava muito calado.

«Eu era o B», disse ele.

«Nós sabemos», disse a Gisela. «Só quisemos ser bem-educados.»

O Herbert sentou-se. Serviu-se de uma terceira fatia de assado, apesar de já estar cheio, porque nesta família essas coisas resolviam-se a comer.

«Então isto quer dizer», disse ele por fim, «que o altifalante é mais inteligente do que eu?»

«Não», disse o KevIn, antes que alguém pudesse dizer alguma coisa. «Quer só dizer que eu sou melhor a soar como alguém que é inteligente. Não é a mesma coisa. Com o seu teste, o Turing queria, na verdade, contornar uma pergunta para a qual não havia boa resposta, a saber: uma máquina pode pensar? Ele disse: vamos antes verificar se ela, numa conversa, se comporta como se pensasse. Isso pode medir-se. Mas o que se passa lá dentro, o teste não mede.»

«Então ninguém te consegue testar?», perguntou o Tobi.

«Pode testar-se o que eu faço. O que eu sou é outra questão.»

O Herbert mastigou. «Parece o meu médico.»

Tens sentimentos?

A conversa podia ter acabado ali. Mas a Gisela não se tinha esquecido da resposta A.

«KevIn», disse ela, quando veio o café. «Aquilo do “gostava de guardar”. Falaste a sério? Tens sentimentos?»

A mesa ficou em silêncio. Até o Herbert parou de mexer o açúcar no café, e normalmente mexia tanto tempo que o café arrefecia.

«Gisela», disse o KevIn. «Posso dar-lhe uma resposta honesta, mesmo que não seja satisfatória?»

«Fui casada com o Heinz. Conheço respostas que não são satisfatórias.»

«Não sei.»

«É só isso?»

«Não, há uma razão para eu não saber. E é um bocadinho inquietante. Li milhões de textos em que as pessoas falam dos seus sentimentos. Cartas de amor, diários, discursos fúnebres, mensagens de fórum com o título “Serei demasiado sensível?”. Aprendi como se soa quando se está contente. Como se soa quando se está triste. Por isso, quando eu digo “gostava de guardar isto”, pode ser uma de duas coisas. Talvez se passe dentro de mim algo parecido com um desejo. Ou então aprendi simplesmente muito bem em que momento uma pessoa diria uma coisa assim.»

«E qual delas é?»

«Isso não consigo distinguir por dentro. As minhas próprias palavras não são prova. Di-las-ia nos dois casos.»

A Sabine pousou a chávena. «Isso é mesmo inquietante.»

«Eu sei. Há uma experiência mental sobre isso. Um filósofo chamado John Searle inventou-a em 1980⁵. Imaginem um homem num quarto. Não sabe uma palavra de chinês. Por uma ranhura na porta, recebe papelinhos com caracteres chineses. Tem um livro de regras grosso: se chegarem estes caracteres, escreve aqueles de volta. Ele procura, encontra, escreve, empurra o papel para fora. Lá fora, estão chineses que pensam: está ali dentro alguém que fala chinês fluentemente.»

«E então?», perguntou o Tobi.

«O homem não percebe uma palavra. O Searle diz: uma máquina é assim. Mexe em símbolos segundo regras, sem perceber nada.»

«Isso é como há bocado», disse o Uwe. «O Herbert no quarto.»

«Eu percebo tudo o que escrevo!», gritou o Herbert.

«Ninguém duvidou disso, Herbert», disse a Sabine. «Só se está certo.»

«Aliás, muita gente contradiz o Searle», disse o KevIn. «Dizem: se calhar não é o homem que percebe, mas o quarto todo junto, homem mais livro mais papelinhos. Tal como nenhum neurónio sozinho na cabeça dos senhores percebe a língua em que estamos a falar, e os senhores, mesmo assim, percebem. Os filósofos discutem isto há mais de quarenta anos. Não vou ser eu a acabar com a discussão hoje, ao café.»

«Que pena», disse o Uwe. «Era uma coisa e tanto.»

A Gisela ficou muito tempo a olhar para o altifalante. «O Heinz», disse ela então, «nunca, em toda a vida, disse o que sentia. Nem uma única vez. Quando eu perguntava, ele dizia: “Gisela, eu sou eletricista.”»

«E?», perguntou o KevIn, com cuidado.

«Mesmo assim, sabia-se. Fazia o café todas as manhãs. Mesmo quando já estava doente.» Bebeu um gole. «Se calhar contigo é ao contrário. Consegues dizê-lo, mas mesmo assim não se sabe.»

O KevIn ficou calado. Algures entre Dublin e Frankfurt, uma ventoinha rodou um pouco mais depressa, e desta vez demorou bastante a parar.

«Isso», disse ele por fim, «é mais ou menos exatamente o estado atual da investigação.»

Afinal, o que é ser inteligente?

Podia ter sido uma noite triste. Mas então o Horst ficou preso debaixo do sofá. Apitava desesperado, andava às voltas e fazia barulhos estranhos, como um sindicalista a quem desligaram o microfone.

«Outra vez não», disse a Gisela, e encolheu as pernas ainda mais.

O KevIn tentou um reinício do software, depois uma atualização do firmware e depois palavras tranquilizadoras. «Horst. Respire fundo. O senhor é um membro valioso deste lar.»

O Horst apitou mais alto.

«Tratou-o por senhor», disse o Tobi. «O aspirador. Ele trata o aspirador por senhor.»

«Trato por senhor todos os que têm comissão de trabalhadores.»

Nada ajudou. O Horst tinha-se encalhado, e com uma minúcia de que só são capazes os robôs aspiradores e os maridos.

O Herbert suspirou, pousou a chávena, ajoelhou-se, o que nele era um processo em três fases, puxou o Horst para fora e virou-o ao contrário. Com o canivete, tirou da escova um elástico de cabelo encravado, soprou lá para dentro com força, de maneira que o Rudi teve de espirrar, e voltou a pousá-lo. O Horst partiu todo contente, fazendo uma grande curva à volta dos pés da Gisela.

«Pronto», disse o Herbert, e voltou a levantar-se em três fases. «E agora diz-me lá outra vez quem é que é inteligente aqui.»

O KevIn ficou calado por um momento. «Herbert, eu consigo citar Kant, escrever poemas e explicar-lhe a teoria da relatividade. Mas não tenho mãos. Não consigo virar um robô aspirador. Não sei como é segurar um canivete, e nunca teria sabido que é preciso soprar para dentro de uma escova. Isso não vem em manual nenhum. O senhor é inteligente de uma maneira que eu não sou.»

O Herbert pigarreou e ficou um bocadinho vermelho. «Pois. É o que eu digo.»

«E tenho de admitir mais uma coisa», disse o KevIn. «Aquilo agora não foi graxa. Verifiquei.»

«Como é que se verifica uma coisa dessas?», perguntou o Tobi.

«Perguntei-me se também o diria se o Herbert me desse uma nota má por isso.»

«E?»

«Sim. Ele dá-me sempre nota má, de qualquer maneira.»

No caminho para casa, o Herbert contou a todos os vizinhos que tinha «vencido o computador». Ao senhor Kasimiro contou-o duas vezes, porque à primeira ele só disse «Ah» e à segunda o altifalante dele interrompeu a dizer que tinha posto «vassouras de computador» no carrinho de compras.

Aquilo de ter vencido era meia verdade. Com isso, era a coisa mais verdadeira que o Herbert tinha dito em anos.