«La paradoja es que quien nos acredita como humanos es una máquina»

Para el escritor y cronista Juan Villoro (Ciudad de México, 1956), la cultura digital ha alterado el paradigma de la lectura. En su ensayo ‘No soy un robot’ (Anagrama, 2024) demuestra que, de cara al avance vertiginoso de la inteligencia artificial, tenemos la opción de «acudir a un instrumento que contiene la gran reserva de lo humano: el libro».

---

Afirma que «el siglo XXI asiste a un cambio en el paradigma lector que no ocurría desde el siglo XII». ¿Cómo hemos llegado a este punto?

Las transformaciones de la lectura han sido lentas. En los siglos XII y XIII los escolásticos consolidaron la paginación y la estructura de los libros hechos a mano, y el siglo XV los popularizó con la imprenta. Desde entonces no había habido un cambio tan radical como el que ahora experimentamos. Vivimos rodeados de aparatos alimentados de letras; a tal grado que los mensajes escritos se han vuelto atmosféricos, están en todas partes. Esto ha alterado en forma definitiva las costumbres, la economía y la arena política. El caso de Cambridge Analytica revela que la voluntad popular puede ser manipulada con mensajes en red. Estamos ante un horizonte inédito que resulta preocupante para todos y fascinante para un cronista.

«La gran reserva de la cultura está en la capacidad de leer entre líneas»

«Quien habla maravillas de su refrigerador parece un idiota», escribe, mientras en todos los sectores hay quienes hablan maravillas de la IA. ¿Cómo salir de esa oposición entre el consumidor acrítico y el ludista? O, mejor dicho, ¿cómo se ve el punto medio?

Geoffrey Hinton, conocido como «padre de la IA», renunció a su cargo en Google porque consideró que había creado un monstruo. Es el más reciente Premio Nobel de Física y sorprende que sus logros sean tan significativos como su arrepentimiento. La IA aporta beneficios extraordinarios, de eso no hay duda. No creo que la solución a los excesos de la tecnología consista en refugiarse en una cueva y renunciar a la luz eléctrica. Hay que convivir de la mejor manera posible con un instrumento útil pero peligroso, que sustituye progresivamente tareas humanas. En el escenario más dramático, la IA se puede convertir en su propio amo. Pero tal y como está ahora es acaso peor, pues depende de amos muy poco confiables. ¿Podemos pensar que Vladimir Putin o Elon Musk actúen con solidaria responsabilidad social? Otro asunto a destacar es la forma en que la IA procesa los datos. Recientemente, el campeón de Go perdió ante un procesador preparado para disputar ese juego. Lo más peculiar es que el campeón no entendió el modo en que jugaba la máquina y la máquina tampoco pudo explicarlo. Ciertos movimientos fueron rigurosamente inexplicables. La IA entrega el resultado sin que resulte claro el proceso para llegar ahí. Esto me recuerda las clases de Matemáticas que sufrí en el bachillerato. Cuando nos pedían despejar una ecuación, no bastaba con mostrar el resultado; había que poner los pasos para llegar ahí, de ese modo el maestro sabía cómo razonábamos. La IA da el resultado sin que conozcamos todos los pasos. A cierto nivel de complejidad, no es posible saber cómo procesa los datos, es decir, cómo «piensa». Desde un punto de vista meramente pragmático o comercial, se puede confiar en que entregue resultados; desde un punto de vista cultural, desconcierta no poder seguir su «razonamiento», sobre todo cuando dependemos de sus decisiones.

Hablemos sobre la historia de Stanislav Petrol, «el hombre que salvó al mundo», que decidió no activar el protocolo de contraataque nuclear en plena Guerra Fría. Si la decisión hubiera estado a cargo de una máquina, simplemente habría leído los datos y se hubiera desatado una guerra nuclear. Lo mismo sucede con Chesley Sullenberger y su amerizaje en el río Hudson. Una IA habría buscado la opción menos mala entre las únicas que conocía: tratar de llegar a un aeropuerto. Los pasajeros se salvaron porque el avión iba en manos de un humano, gracias a esa creatividad… 

Ambos ejemplos me parecen estupendos. A veces el ser humano opta por lo improbable y actúa movido por intuición o por mera superstición. No siempre acierta, pero la supervivencia de la especie ha dependido de ciertas corazonadas eficaces. Nuestra subjetividad es sumamente compleja. Una de las principales habilidades humanas es la capacidad de autoengaño, que permite hacer cosas para las que en principio no estamos capacitados. Y algunas de nuestras principales motivaciones provienen de una carencia o del dolor. En eso aventajamos a las máquinas, que no saben sufrir.

«Las máquinas carecen de dos recursos esenciales para el conocimiento: el gusto y el capricho»

Al respecto del síndrome de Chaplin: ¿qué tan parecidos somos a nosotros mismos cuando estamos llenos de filtros, mostrando solo el mejor ángulo, la mejor comida, el mejor viaje? ¿Qué tan parecidos somos a esa marca personal que nos instan a crear en redes sociales? ¿Cómo ser una marca –por definición monolítica y perdurable– cuando el ser humano es, en esencia, voluble?

Sí, la leyenda cuenta que Chaplin se presentó a un concurso de aficionados que lo imitaban y no obtuvo el primer lugar. Ser genuino no es lo mismo que parecerlo. Esto cobra especial sentido en la espectral sociedad de las cámaras y las pantallas. Nuestra personalidad cívica depende de tener un NIP definido y estables señas de identidad. Lo importante no es que la foto del pasaporte se parezca a nosotros sino que nosotros nos parezcamos a ese documento. Somos una huella dactilar, un iris en el ojo, un password. Las máquinas nos registran de modo alfanumérico al tiempo que nuestra conducta se vuelve más limitada uy reiterativa. Vivimos en una etapa de homologación donde los algoritmos procuran que seamos semejantes a nosotros mismos. Las ofertas que recibimos en red tienen que ver con lo que ya hemos buscado; en este sentido, el algoritmo repite nuestros intereses, apostando por lo que ya nos gusta. Es la sutil tiranía de lo mismo. En cambio, la literatura nos diversifica, no pretende repetir el efecto de otro libro sino entusiasmarte con algo que no sabías que te podía gustar.

Habla de la «crisis de pasado», que lo anterior se descarta solo porque ya sucedió. Sin embargo, ¿no cree que hay también una «crisis de futuro»? ¿Una incapacidad para imaginar futuros mejores? ¿La imposibilidad de la utopía?

En los años 60 las utopías estuvieron en oferta. Hoy, la guerrilla, la revolución psicodélica, el amor libre sin protección, la aurora comunista y el regreso a una naturaleza intacta son rutas inviables. Después de una sobredosis de promesas es lógico que no abunden los heraldos del futuro. En cambio, el orden digital ha reforzado el «adanismo» del que hablaba Ortega y Gasset, la sensación de que todo se debe conseguir de manera instantánea y de que somos los primeros en nombrar lo que sucede. Las nuevas generaciones desconfían de lo ya sucedido y el pasado se ha convertido en una tarea para especialistas. Esto explica que numerosos políticos propongan como novedades idearios que ya fracasaron en otros tiempos. En el plano familiar, el célebre abismo generacional pasa por un descrédito de todo lo que huela a algo anterior. El pasado se ha sometido a un embargo, lo cual permite reinventarlo en forma indiscriminada. Los videojuegos y la PlayStation ofrecen con enorme éxito una Edad Media que nunca ocurrió o una mitología maya diseñada por gamers.

«Ser culto sirve para leer menos»

Paul Virilio dice que cada tecnología crea su accidente. Por su parte, Mustafa Suleyman habla del «efecto venganza», el problema de la contención: toda tecnología es capaz de fallar, y a veces en formas que contradicen su propósito original. En su opinión, ¿cuáles serán –o son– los «efectos venganza» de la IA?

El principal temor fue expresado en 2001: Odisea del espacio: la computadora que se independiza de su programación original y actúa por cuenta propia. El escenario más extremo es la rebelión de las máquinas. Sin embargo, no es muy útil establecer un temor límite porque eso permite pensar que, mientras no se llegue ahí, lo que tenemos no es tan malo. Eso deja el campo libre a los cambios minuciosos que se producen en nombre de la eficacia tecnológica. La huelga de guionistas en Hollywood frenó una transformación que ya estaba en curso. La inmensa mayoría de los argumentistas del cine y la televisión industriales puede ser desplazada por procesadores; esa medida solo se detuvo por una protesta gremial bien organizada. Por desgracia, esa resistencia no prospera en otros ámbitos.

¿Y al respecto de la lectura?

Respecto a la lectura, la principal «venganza» consiste en que las máquinas leen más que nosotros y se confía progresivamente en sus análisis. La gran reserva de la cultura no está en la cantidad de libros sino en el modo del leer, en los valores entendidos o implícitos, en la capacidad de leer entre líneas. En No soy un robot sostengo que ser culto sirve para leer menos. Nadie puede asimilarlo todo. Ante la inmoderada marea de datos que recibimos en las redes, la formación literaria sirve para descartar lo que no nos conviene: un dato crucial o el tono de una frase hacen que sepamos si eso sirve o no para nosotros. En cambio, las máquinas deben leer todo lo que enfrentan y carecen de dos recursos esenciales para el conocimiento: el gusto y el capricho. En el arte todo juicio es relativo. Cuando Nabokov critica a Dostoievski eso no invalida a Dostoievski, simplemente señala que es un autor que no pertenece al «sistema Nabokov». Las máquinas carecen de verdades relativas y afinidades electivas. Mi libro dispara algunas alarmas pero también trata de ofrecer recursos de resistencia.

 «El mundo digital ha creado una esclavitud feliz»

Por otro lado, ¿qué cree que se puede hacer ante el colonialismo de datos? 

En el trabajo fabril, la enajenación es evidente y se padece de manera física. En cambio, el mundo digital ha creado una esclavitud feliz. La gente es adicta al teléfono, pero no vive eso como una enajenación sino como la posibilidad de revisar miles de opciones y de mantenerse conectado con la tribu. Mientras tanto, entrega sus datos personales y se convierte en mercancía. Los creadores de Internet imaginaron un medio gratuito y liberador; ahora critican que se haya monetizado y manipule a los usuarios. Urge una legislación más eficaz para proteger a los ciudadanos. Hay muchas tareas necesarias; entre otras cosas, la educación debe replantearse en la era del copy paste. Hay datos alarmantes sobre la pérdida de la memoria, que se ha desplazado a los repositorios de silicona. Preservar la memoria es una tarea social de primera necesidad. También hay que combatir la discriminación digital. Mi madre tiene 91 años y perdió las huellas dactilares; esto la alejó de manera definitiva del sistema bancario. Y en todas partes asoma este asunto. En México, la indígena María de Jesús Patricio Martínez trató de ser candidata independiente a la presidencia. El requisito para lograrlo era conseguir un millón de firmas de votantes, pero se debían recabar en una aplicación que se descargaba en teléfonos celulares de gama media, algo imposible de conseguir para las comunidades indígenas. Las anécdotas al respecto abundan; es absurdo, por ejemplo, que en un museo debas acudir a un código QR para recibir información sobre una pieza. Mi libro se llama No soy un robot en alusión a la frase con la que debemos estar de acuerdo en una página web. La paradoja es que quien nos acredita como humanos es una máquina. En numerosos niveles de la vida estamos siendo juzgados por aparatos. Debemos reaccionar ante esto y una de las mejores formas de hacerlo consiste en acudir a un instrumento que contiene la gran reserva de lo humano: el libro.

 «Los influencers caducan rápido, pero lo que hoy escribe un poeta tendrá formas lentas de perdurar»

Los textos virtuales son literales. Las redes sociales suelen ser el hogar del tópico. No dan suficiente tiempo para el contexto, para una lírica bien planteada. ¿Estamos asistiendo a la muerte de la metáfora?

De repente, en un chat alguien lanza un lúcido aforismo o una metáfora deslumbrante, pero se trata de excepciones. La red es un basurero en el que a veces brillan joyas. Pero la poesía sigue sucediendo. Rara vez los versos se vuelven virales, lo cual no importa mucho porque su función es otra: son anticuerpos. Los vendavales de la modernidad pasan, pero la poesía permanece. Hace poco hablé con un booktuber mexicano que ha tenido enorme éxito. No llega a los 30 años pero se siente acabado, según me dijo después de unos tequilas. La causa es esta: la gente que lo seguía en YouTube se ha desplazado a TikTok; en un par de años se volvió obsoleto. Mientras tanto, Vallejo y Quevedo siguen siendo clásicos. Los influencers caducan rápido, pero lo que hoy escribe un poeta tendrá formas lentas de perdurar.

«El libro ya cambió el mundo, pero si se inventara hoy, sería aún mejor». El lector literario interpreta la información; el lector digital solo la consume. ¿Si se inventara el libro hoy se recuperaría la posibilidad de que hubiera más lectores literarios, es decir, críticos?

Lo más importante de un libro no es lo que dice del autor sino lo que dice del lector. La lectura es un peculiar proceso de autoconocimiento. De pronto, un ruso o un japonés con el que no tienes nada que te revelan algo insólito de ti mismo. A diferencia de los discursos unívocos, que solo pueden ser interpretados de una manera, la literatura tiene muchos modos de ser comprendida y cambia de un lector a otro. Un libro cerrado no es una obra de arte; solo se convierte en eso cuando un lector le insufla vida. En «Pierre Menard, autor del Quijote», Borges copia dos fragmentos idénticos de la novela de Cervantes. Aunque se trata del mismo pasaje, significa cosas muy diferentes porque es leído en contextos muy distintos. Lo que está en juego en la lectura es nuestra propia vida. La literatura es un espejo cambiante que se aparta por completo del flujo lineal de la información.