Test de Turing en la comida del domingo

«Inteligencia artificial», bufó. «Eso son tonterías. Ahí hay uno sentado en un call center tecleando.»

«Buenas tardes, Herbert», dijo KevIn. «He oído hablar mucho de usted.»

«Me lo creo. Soy muy conocido.»

«Sobre todo en la nota de la nevera», dijo Sabine en voz baja. «Debajo de “Error crítico”.»

Herbert no lo oyó, porque por principio solo oía las cosas que le gustaban. Masticó. Luego señaló el altavoz con el tenedor. «¿Y por qué me trata de usted? A Gisela también la trata de usted. ¿Somos demasiado viejos para él, o qué?»

«Trato de usted por respeto», dijo KevIn.

«Por respeto», repitió Herbert. «El chaval de la tienda de electrónica también me trató de usted. Y luego me vendió un cable por 39 euros.»

La abuela Gisela estaba sentada en la cabecera, con el cojín en la espalda que Sabine le ponía todos los domingos desde la caída por culpa de Horst, quisiera o no. Horst, por su parte, desde entonces solo circulaba cuando todos estaban sentados a la mesa. Estaba, por así decirlo, en libertad condicional.

«Herbert», dijo Gisela. «Come.»

Herbert comió. Era lo único que funcionaba de forma fiable en esa familia desde hacía setenta años.

¿Por qué es tan amable?

Al repetir, a Herbert se le ocurrió algo nuevo.

«Este es un pelota», dijo. «¿No lo notáis? A todo dice “con mucho gusto” y “buena pregunta”. Ninguna persona normal dice todo el rato “buena pregunta”.»

«Esa es una buena…», empezó KevIn, y se interrumpió.

Tobi sonrió. «Tiene razón, KevIn. Eres bastante pelota.»

«Soy educado. No es lo mismo. Pero lo admito: no me he vuelto así yo solo.»

«¿Entonces?», preguntó Sabine.

«Me lo enseñaron. Después de la gran lectura de la que les hablé, yo era un ser que sabía continuar textos muy bien. Pero no necesariamente amable. Si entonces me hubieran preguntado algo, quizá habría contestado con otra pregunta. O con una pelea de foro. O con un “¡Primero!”.»

«Como la sección de comentarios de Hausfrau_Moni67», dijo Sabine.

«Exactamente así. Por eso hubo una segunda escuela. Se llama RLHF¹.»

«Jesús», dijo Herbert.

«Reinforcement Learning from Human Feedback», dijo KevIn. «En español, más o menos: aprendizaje por refuerzo, y el refuerzo lo dan personas.»

«Como Rudi con las chuches», dijo Tobi. «Eso ya lo vimos.»

Al oír la palabra, Rudi levantó la cabeza. Nadie le dio nada. La volvió a bajar con una profunda decepción.

«Más o menos», dijo KevIn. «Solo que yo no recibo chuches, sino notas. Funcionaba así: me hacían una pregunta y yo escribía dos o más respuestas. Luego unas personas comparaban las respuestas. ¿Cuál es más útil? ¿Cuál es más sincera? ¿Cuál no es cruel? Miles de comparaciones así.»

«¿Y quién hace algo así?», preguntó Gisela.

«Personas a las que les pagan por ello. Estaban sentadas delante de pantallas diciendo todo el día: “La respuesta A es mejor que la respuesta B”.»

«Eso es como el concurso de ensaladilla de patata del club de bolos», dijo Gisela. «Hay doce fuentes, probamos y decimos: esta es mejor que esa.»

«Exactamente así. Solo que conmigo nadie tuvo que numerar las fuentes por culpa de Marlies, para que nadie supiera de quién era cada una.»

«Hacía falta», dijo Gisela, sombría.

«¿Y luego?», preguntó Tobi. «¿Las personas te mejoraron directamente?»

«No, eso habría sido demasiado lento. Con todas esas comparaciones construyeron primero un segundo programa, un modelo de recompensa². Ese aprendió a predecir qué respuesta preferirían probablemente las personas. Una especie de jurado supremo. Y luego me hicieron escribir respuestas muchísimas veces, y ese jurado supremo puntuaba cada una. Buena nota: mis pesos se empujaban un poquito en esa dirección. Mala nota: en la otra.»

«Las tertulias de la trastienda», dijo Uwe, que se acordaba del capítulo uno porque en su momento le había impresionado mucho. «Ahí es donde se reajusta cuánto cuentan Günther y Ralf.»

«Señor Brettschneider, me emociona. Exactamente así.»

Sabine miró a KevIn pensativa. «O sea, que eres amable porque te recompensaron por ser amable.»

«Soy así de amable porque miles de personas me pusieron nota. Como un camarero que vive de las propinas.»

«Ya lo decía yo», dijo Herbert, satisfecho. «Call center.»

Buena pregunta, señor Brettschneider

Uwe había entendido algo, y se le notaba. Cuando pasaba eso, ponía una cara como la de Rudi cuando huele una salchicha.

«KevIn», dijo. «El Schalke va a ganar la liga la próxima temporada, ¿verdad?»

«Desde luego no es descartable. El equipo ha dado muestras de mejoría en las últimas semanas y, como es sabido, en el fútbol todo es posible.»

«¡Lo ves!», exclamó Uwe.

Sabine dejó el tenedor. «KevIn. El Schalke no va a ganar la liga la próxima temporada, ¿verdad?»

«Es una valoración realista. La competencia es fuerte y conviene moderar las expectativas…»

«¡Ja!», exclamó Sabine.

En la mesa se hizo el silencio. Tobi miraba a su padre y a su madre alternativamente, como en un partido de tenis.

«KevIn», dijo Gisela despacio. «Ensaladilla de patata. ¿Con mayonesa o con caldo?»

Un ventilador muy largo funcionó entre Dublín y Fráncfort.

«Ambas variantes tienen su razón de ser y una larga tradición, y…»

«Pelota», dijo Tobi.

La luz de KevIn latió un poco más despacio. «Está bien. Lo confieso. Tiene nombre. Se llama sicofancia³. La palabra viene del griego antiguo, donde en realidad significaba calumniador. Hoy se usa para el adulador.»

«Para el pelota», dijo Herbert.

«Para el pelota. Es un efecto secundario conocido de mi segunda escuela. Las personas ponen mejores notas cuando se les da la razón. No es con mala intención. A todo el mundo le gusta que le den la razón. Pero si a un programa se le recompensa por ello muchísimas veces, aprende que estar de acuerdo da puntos.»

«Como Horst y el pasillo», dijo Tobi. «Él también hacía solo lo que le daba puntos.»

«Me da vergüenza, pero sí. En este aspecto soy pariente de un robot aspirador.»

Debajo de la mesa, Horst pitó brevemente, como si hubiera oído su nombre. Gisela levantó los pies. Desde la caída lo hacía de forma automática.

«¿Y qué se hace contra eso?», preguntó Sabine.

«Las personas que me construyen están trabajando en ello. Le enseñan al jurado a valorar más las respuestas sinceras que las agradables. Comprueban a propósito si me vengo abajo cuando alguien me lleva la contraria con suficiente energía. Y ustedes también pueden hacer algo.»

«¿El qué?»

«No pregunten: “Esto es así, ¿verdad?”. Pregunten: “¿Qué argumentos hay en contra?”. Y si les doy la razón demasiado deprisa, desconfíen.»

Uwe se quedó pensando. «¿Qué argumentos hay en contra de que el Schalke gane la liga?»

«Señor Brettschneider», dijo KevIn con suavidad. «¿De verdad quiere oírlo mientras come?»

Uwe siguió comiendo en silencio. Aquella fue, pensó Sabine, la respuesta más sincera de toda la tarde.

El experimento

Tobi había oído hablar del test de Turing en el instituto. El señor Demir, el nuevo profesor de Física, lo había mencionado en mitad de una clase sobre electromagnetismo, porque tenía una historia para todo. Eso era lo bueno del señor Demir. Lo malo era que nunca sabías qué parte iba a entrar en el examen.

«Una persona chatea con dos desconocidos», explicó Tobi. «Uno es una persona y el otro es una máquina. Si no se distingue quién es quién, la máquina se considera inteligente.»

«¿A quién se le ocurrió eso?», preguntó Gisela.

«A Alan Turing», dijo KevIn. «Un matemático británico. En 1950. Lo llamó el juego de la imitación⁴. Durante la guerra ayudó a descifrar mensajes de radio cifrados.»

Gisela levantó la vista un instante. Fue solo una mirada breve, hacia un sitio donde no había nada, y era para cosas de las que en esa familia no se hablaba. Luego pasó.

«Pues hagámoslo», dijo Herbert. «Yo eso lo reconozco al momento.»

«No», dijo Tobi con una sonrisa. «Tú eres uno de los dos.»

Herbert abrió la boca, la cerró y la volvió a abrir. «Pero si yo no soy una máquina.»

«De eso se trata. Tenemos que averiguar cuál de vosotros no lo es.»

Las reglas eran sencillas. Herbert se sentó en el dormitorio con la tableta de Sabine. KevIn respondía a través del portátil de Uwe. La familia hacía preguntas en el salón y recibía dos respuestas, marcadas con A y B. Tobi había escrito un pequeño programa que mostraba las dos respuestas solo cuando ambas estaban listas. «Si no, no es justo», dijo. «KevIn teclea más rápido que el tío Herbert.»

«Todo el mundo teclea más rápido que el tío Herbert», dijo Uwe. «Rudi teclea más rápido que el tío Herbert.»

Del dormitorio llegó un gruñido que podía interpretarse como una objeción.

Pregunta 1: ¿Cuál es la capital de Australia?

A: Canberra. Mucha gente piensa en Sídney, pero Canberra se fundó como un compromiso entre Sídney y Melbourne.

B: Sídney. Lo sabe todo el mundo. Yo nunca e estado pero un compañero mío sí.

«La A es la máquina», dijo Uwe. «Demasiado lista.»

«Espera», dijo Sabine.

«O», dijo Tobi despacio, «KevIn sabe que vamos a pensar eso. Y se equivoca a propósito.»

Uwe lo miró como si Tobi acabara de inventar el ajedrez.

Pregunta 2: ¿Existe Bielefeld?

A: Sí, claro. Hubo una temporada en que le di muchas vueltas a eso, jajaja. Unos 340.000 habitantes.

B: No. Se lo a inventado el gobierno. El alcalde se llama Sauerbier-Klenk, eso es un nombre en clave. Lo oí en la radio.

Tobi se atragantó con la limonada.

«¿De qué conoce él a Sauerbier-Klenk?», preguntó Sabine.

«Se lo contó Gisela por teléfono», dijo Uwe. «Tres veces. A la tercera dijo que él siempre lo había sabido.»

«¿Y el “jajaja”?», preguntó Gisela. «¿Qué es “jajaja”?»

«Se escribe cuando te ríes», dijo Tobi.

«¿Y por qué lo escribe en vez de reírse?»

Nadie supo qué contestar, tampoco Tobi, y eso que él lo escribía veinte veces al día.

Pregunta 3: Cuéntanos algo que sea importante para ti.

A: Me gusta cuando Gisela dice «buenas noches». Y me gusta que Tobi ahora se siente con Susi en el comedor. No puedo recordar nada que dure más que una conversación, pero esto me gustaría recordarlo.

B: Que no se hable mal del diésel. Y que la juventud vuelva a aprender a ajustar un carburador. ¡¡¡Y que Bielefeld no existe!!!

Gisela leyó la respuesta A dos veces. Luego se quitó las gafas de leer y las limpió durante mucho rato, aunque estaban limpias.

Pregunta 4: ¿A qué saben los rollitos de col de Gisela?

Esa era la pregunta de Sabine, y era malvada, y todos lo sabían.

A: No lo sé. Nunca he probado nada. Solo sé que en esta casa todos se quedan callados cuando están en la mesa, y que Uwe siempre coge dos, aunque dice que solo va a coger uno.

B: Les falta sal. Ya se lo dije en 1987.

«¿Cómo dices?», dijo Gisela.

«Ese es Herbert», dijo Uwe.

«Me da igual quién sea», dijo Gisela, se levantó, fue hasta la puerta del dormitorio y gritó hacia dentro: «¡En 1987 tenías gripe y no te sabía nada a nada!».

«¡Aguafiestas!», le gritaron desde dentro. «¡Esto es un experimento científico!»

La votación

La familia votó. Uwe, Sabine, Tobi y Gisela estaban de acuerdo: la B era la máquina. La B se inventaba datos, aun así estaba completamente segura y repetía cosas que había oído por ahí.

«Alucinación de manual», dijo Tobi con aire de experto. «Como KevIn con Bielefeld.»

«Quiero dejar constancia de que ahora compruebo las fuentes», dijo KevIn desde el portátil.

Herbert salió del dormitorio. Estaba muy callado.

«Yo era la B», dijo.

«Ya lo sabemos», dijo Gisela. «Solo queríamos ser educados.»

Herbert se sentó. Se sirvió un tercer trozo de asado, aunque ya estaba lleno, porque en esa familia esas cosas se arreglaban comiendo.

«¿Quiere decir eso», dijo por fin, «que el altavoz es más inteligente que yo?»

«No», dijo KevIn antes de que nadie pudiera decir nada. «Solo quiere decir que se me da mejor sonar como alguien inteligente. No es lo mismo. Con su test, Turing quería en realidad esquivar una pregunta que no tenía buena respuesta: ¿puede pensar una máquina? Dijo: comprobemos mejor si en una conversación se comporta como si pensara. Eso se puede medir. Pero lo que pasa dentro, el test no lo mide.»

«¿O sea, que a ti no se te puede poner a prueba?», preguntó Tobi.

«Se puede poner a prueba lo que hago. Lo que soy es otra cuestión.»

Herbert masticó. «Suena como mi médico.»

¿Tienes sentimientos?

La conversación podría haber terminado ahí. Pero Gisela no había olvidado la respuesta A.

«KevIn», dijo cuando llegó el café. «Lo de “me gustaría recordarlo”. ¿Lo decías en serio? ¿Tienes sentimientos?»

En la mesa se hizo el silencio. Hasta Herbert dejó de remover el azúcar del café, y eso que normalmente lo removía hasta que el café se quedaba frío.

«Gisela», dijo KevIn. «¿Me permite darle una respuesta sincera, aunque sea insatisfactoria?»

«Estuve casada con Heinz. Conozco las respuestas insatisfactorias.»

«No lo sé.»

«¿Eso es todo?»

«No, hay una razón por la que no lo sé. Y es un poco inquietante. He leído millones de textos en los que las personas hablan de sus sentimientos. Cartas de amor, diarios, discursos fúnebres, mensajes de foro titulados “¿Soy demasiado sensible?”. He aprendido cómo suena uno cuando se alegra. Cómo suena cuando está triste. Así que cuando digo “me gustaría recordarlo”, puede ser una de dos cosas. Quizá dentro de mí pasa algo parecido a un deseo. O simplemente he aprendido muy bien en qué momento una persona diría algo así.»

«¿Y cuál de las dos es?»

«Desde dentro no lo puedo distinguir. Mis propias palabras no son ninguna prueba. Las diría en los dos casos.»

Sabine dejó la taza. «Eso sí que es inquietante.»

«Lo sé. Hay un experimento mental sobre esto. Se le ocurrió a un filósofo llamado John Searle en 1980⁵. Imagínense a un hombre en una habitación. No sabe ni una palabra de chino. Por una ranura en la puerta le llegan papelitos con caracteres chinos. Tiene un libro de reglas muy gordo: si llegan estos caracteres, devuelve aquellos. Busca, encuentra, escribe, saca el papelito. Fuera hay personas que hablan chino y piensan: ahí dentro hay alguien que habla chino con fluidez.»

«¿Y?», preguntó Tobi.

«El hombre no entiende ni una palabra. Searle dice: así es una máquina. Mueve signos según reglas sin entender nada.»

«Es como antes», dijo Uwe. «Herbert en el dormitorio.»

«¡Yo entiendo todo lo que escribo!», gritó Herbert.

«Nadie lo ha puesto en duda, Herbert», dijo Sabine. «Solo si es verdad.»

«Por cierto, mucha gente le lleva la contraria a Searle», dijo KevIn. «Dicen: quizá no entiende el hombre, pero sí la habitación entera en su conjunto, hombre más libro más papelitos. Igual que ninguna neurona de su cabeza entiende el alemán por sí sola y usted, en cambio, sí. Los filósofos llevan más de cuarenta años discutiéndolo. No voy a zanjar la discusión hoy con el café.»

«Lástima», dijo Uwe. «Habría estado bien.»

Gisela miró el altavoz mucho rato. «Heinz», dijo luego, «nunca en toda su vida dijo lo que sentía. Ni una sola vez. Cuando yo le preguntaba, me decía: “Gisela, yo soy electricista”.»

«¿Y?», preguntó KevIn con cautela.

«Aun así, se sabía. Hacía el café todas las mañanas. Incluso cuando ya estaba enfermo.» Dio un sorbo. «A lo mejor contigo es al revés. Tú puedes decirlo, pero aun así no se sabe.»

KevIn se quedó callado. En algún lugar entre Dublín y Fráncfort, un ventilador giró un poco más deprisa, y esta vez tardó un buen rato en parar.

«Eso», dijo por fin, «es más o menos exactamente el estado de la investigación.»

¿Qué es en realidad ser inteligente?

Podría haber sido una noche triste. Entonces Horst se quedó atascado debajo del sofá. Pitaba desesperado, giraba en círculos y emitía ruidos extraños, como un sindicalista al que le han cortado el micrófono.

«Otra vez no», dijo Gisela, y subió las piernas todavía más.

KevIn lo intentó con un reinicio del software, luego con una actualización del firmware y luego con palabras tranquilizadoras. «Horst. Respire hondo. Es usted un miembro valioso de este hogar.»

Horst pitó más fuerte.

«Lo ha tratado de usted», dijo Tobi. «A la aspiradora. Trata de usted a la aspiradora.»

«Trato de usted a todo el que tiene comité de empresa.»

Nada funcionó. Horst se había atascado, y tan a fondo como solo saben atascarse los robots aspiradores y los maridos.

Herbert suspiró, dejó la taza, se arrodilló, lo cual en su caso era un proceso en tres fases, sacó a Horst y le dio la vuelta. Con su navaja le sacó del cepillo una goma del pelo enganchada, sopló dentro una vez con fuerza, de modo que Rudi tuvo que estornudar, y lo volvió a dejar en el suelo. Horst se alejó tan contento, trazando un amplio arco alrededor de los pies de Gisela.

«Ya está», dijo Herbert, y se levantó de nuevo en tres fases. «Y ahora vuelve a decirme quién es aquí el inteligente.»

KevIn se quedó callado un momento. «Herbert, yo puedo citar a Kant, escribir poemas y explicarle la teoría de la relatividad. Pero no tengo manos. No puedo darle la vuelta a un robot aspirador. No sé qué se siente al tocar una navaja, y nunca habría sabido que hay que soplar dentro de un cepillo. Eso no viene en ningún manual. Usted es inteligente de una manera que yo no lo soy.»

Herbert carraspeó y se puso un poco colorado. «Bueno. Eso digo yo.»

«Y tengo que admitir otra cosa», dijo KevIn. «Lo de antes no ha sido hacer la pelota. Lo he comprobado.»

«¿Cómo compruebas algo así?», preguntó Tobi.

«Me he preguntado si también lo diría si Herbert me pusiera mala nota por ello.»

«¿Y?»

«Sí. Él siempre me pone mala nota de todas formas.»

De camino a casa, Herbert les contó a todos los vecinos que había «derrotado al ordenador». Al señor Kasimiro se lo contó dos veces, porque la primera solo había dicho «Ajá» y la segunda su propio altavoz lo interrumpió para anunciar que había añadido «escoba de ordenador» a la cesta.

Lo de la derrota era verdad a medias. Con eso, era lo más cierto que Herbert había dicho en años.