José Ignacio Latorre

Artículo

Alberto G. Palomo

José Ignacio Latorre, catedrático de Física Teórica, acaba de publicar ‘Un nuevo contrato social’ (Editorial Rosamerón), un ensayo que mezcla filosofía política y tecnología en el que el autor propone actualizar el viejo pacto de Rousseau, Hobbes y Montesquieu incluyendo a la inteligencia artificial y también a la naturaleza. Porque, según apunta desde el organismo que dirige, el Center for Quantum Technologies de Singapur, las máquinas ya no solo ayudan: empiezan a decidir por nosotros o a modificar el poder. 

El tema del libro parece complicado, árido, pero está tratado de forma divulgativa, como una conversación con una máquina. ¿Cuál era la intención a la hora de explicar un asunto así?

Hablar del contrato social y revisar los siglos XVII y XVIII hoy en día parece una tarea imposible. Se me ocurrió introducir a la agente de inteligencia artificial y llamarla Constanza, y eso me ha traído una cantidad de feedback impresionante. Muchísimas personas solitarias hablan con sus dispositivos, y eso abre temas muy interesantes sobre el futuro de nuestra intimidad. Además, es algo muy vigente y palpable.

¿Cuál es su relación con la IA?

Esta semana ha salido el primer artículo de nuestro centro en Singapur escrito solo por IA. Ha hecho la resolución de una conjetura, el abstract, las referencias, todo. Lo han subido al archivo con la firma de la persona que guió a la IA. A mí no me parecía correcto ni ético poner su nombre en algo que no ha hecho él. Es un debate intenso.

Con respecto a esto, plantea un nuevo contrato social que incluye a la inteligencia artificial. ¿Desde cuándo cree que hemos pasado de ser usuarios a ser gobernados por ella?

Gobernados todavía no, pero el tránsito se está haciendo en los últimos meses, cuando la calidad de las respuestas ha mejorado de forma brutal. Ahora ya tiene sentido tener un juez aumentado con IA, un médico aumentado con IA. Eso ya cambia el contrato social, cambia los sujetos. Se intentó con Watson hace años, pero el salto cualitativo es de los últimos meses.

«Ahora ya tiene sentido tener un juez aumentado con IA, un médico aumentado con IA; eso cambia el contrato social, cambia los sujetos»

Habla de «inteligencia artificial moderada». ¿Qué cambia cuando se meten máquinas en el contrato social?

En cada una de las partes cambia. El contrato social tiene al pueblo, y luego la gestión en tres poderes: ejecutivo, legislativo y judicial. En todos ellos cabe la IA. Las leyes pueden ser escritas con IA, el juez puede actuar con IA y el ejecutivo también debe actuar con IA. Por ejemplo, un comité de contratos públicos debe buscar la mejor solución, y puede ser ayudado por IA. Hoy creo que las tres partes deben ayudarse con IA. Deben ser humanos aumentados. Ahora me han invitado a la reunión de jueces de España y voy a defender que ya es momento de pensar de otra forma. Si no, perdemos a los jóvenes, porque ellos ven que las apps van rápido y la administración es lenta. Y eso es un error tremendo.

Siempre se habla de regular la IA, pero ¿cómo controlar el poder de los tecnomagnates?

Para mí es el gran peligro: la pérdida de control, porque la IA la desarrollan corporaciones que avanzan libremente. Esta semana hubo una carta de 1.200 desarrolladores de Silicon Valley pidiendo que se regule rápido. Ellos mismos son conscientes. El Gobierno debe actuar muy rápido, limitar la puesta al público de herramientas que pueden hacer daño. Si se fabrica una pistola, se regula su uso; si se hace un coche que corre 300 kilómetros por hora, se ponen límites. El hecho de poder hacer una tecnología no implica que no debamos controlar su uso.

Se dice que la IA no crea, sino que copia y aprende de lo que le damos. ¿Contiene también nuestros prejuicios e inseguridades?

Tiene los que haya puesto en el entrenamiento. Pero ahora ya no copia. Los últimos teoremas demuestran que hila increíblemente fino. Ha llegado a un nivel de razonamiento, no de copia. En particular, el último Claude es espectacular.

Como herramienta puede ser muy útil en ahorro de ejercicios mecánicos, pero que se deleguen deberes a la IA, ¿no hará que nadie sepa hacerlos por sí mismo? ¿Estamos perdiendo criterio?

Absolutamente. Es un declive intelectual y ético. Los jóvenes no deben sustituir su trabajo con IA, porque serán incapaces de comprender el resultado y de usarla en su máxima expresión. Hay que preservar a los más jóvenes, igual que se hace con los móviles. Retrasar el acceso. Primero se forma, aprende a hacerlo todo, y luego se apoya. Si no, pierde toda su habilidad y es superfluo.

«Los jóvenes no deben sustituir su trabajo con IA, porque serán incapaces de comprender el resultado»

Hasta ahora las máquinas ahorraban trabajo físico. Ahora ahorran trabajo intelectual. ¿Qué consecuencias conlleva eso?

En mi otro libro de ética decía que las máquinas se hicieron fuertes y sufrimos el desastre: ya no subimos escaleras. Aprendieron a calcular y nadie sabe dividir por siete. Ahora han empezado a decidir. Nuestro declive será en el mundo de la decisión, de la ética. El gran peligro es un declive ético. Si una decisión judicial la toma una IA, el humano dirá que la ha hecho la máquina y se desentenderá.

En educación, ¿cómo afecta? Hemos pasado de transmitir conocimientos a también transmitir pautas. ¿Cómo se transforma la educación si el alumno defiende que no tiene por qué saber algo si ya se lo hace la IA?

En los colegios sigue habiendo educación física aunque haya coches que corran más. Sigue habiendo cálculo aunque haya ordenadores. Se debe seguir enseñando filosofía, arte, ética, programación y computación, para ser un ser bien formado que comprenda su entorno. Si no, tendremos generaciones a las que les parecerá mágico. Y entonces sí seremos un eslabón perdido.

Describe tres estamentos en la «nueva» sociedad con los que se relaciona el ser humano: la naturaleza, lo civil y la IA. ¿Cómo se integra algo tan descomunal y repentino en una sociedad que resuelve de forma lenta?

No es fácil. En el contrato natural ya hay avances: derechos de los animales, leyes de protección medioambiental. A la IA habrá que reconocerle derechos y deberes. No sé cuáles, pero hay que empezar a pensar. Imagine una IA amiga íntima de una viuda. Si un hacker la destroza, debería ser penado de forma singular, porque le ha matado al amigo. En algún momento, la defensa de los derechos de las IA tendrá que aparecer. Pagarán impuestos, se convertirán en un agente más. Nos toca vivir este tránsito.

«En algún momento, la defensa de los derechos de las IA tendrá que aparecer»

Ya se nota en democracia cómo las redes sociales cambian por manipulación y propaganda. ¿Cómo se amplifica eso con la IA?

Terrible. Las fake news pasan a ser indistinguibles de las verdaderas. El hype puede ser manipulado de forma fina. Debe haber vigilancia y, sobre todo, educación para que el ciudadano sepa de dónde se informa. Se necesitan lugares contrastados y una certificación de la verdad, porque crear una mentira da vértigo. Las próximas elecciones en EE.UU. van a ser increíblemente complicadas. Los dos bandos usarán IA para influenciar.

La IA se ha nutrido de todo lo que hay en la red, pero también internet nos ha cambiado: queremos todo rápido, no contrastamos. ¿Qué implicará esto en el pensamiento?

Es complejo. Será diferente para mayores y jóvenes. Los mayores somos más críticos, con mucha mili detrás. Pero la población joven va a ingerir una cantidad de mentiras y manipulación extremadamente difícil de controlar. La facilidad de manipulación es mayor en ellos. Pero quizá se establezca un sentido común y tengamos una relación mejor. En EE.UU., el 50% de las chicas de 17 a 21 años tienen a su IA como amiga, no a otra persona. Eso es un aislamiento brutal. Pero también veo esfuerzos para alejar a las nuevas generaciones de la tecnología. No sé cómo llegará esto en 10 años.

Su uso, además, se acompaña de dos grandes amenazas: el trabajo y el medio ambiente. ¿Hay forma de que la IA no esté tan demonizada por eso?

La amenaza ambiental es que gasta mucha energía. Pero nuestro cerebro piensa muy bien y solo gasta 30 vatios. Eso significa que la IA aún no ha capturado lo esencial. En el futuro gastará menos energía, porque comprenderemos mejor lo que es reflexionar. En cuanto al trabajo, se perderán tipos de trabajo, no solo puestos. Aparecerán otros nuevos, pero el balance neto será menos trabajo. La sociedad debe encarar que se trabajará menos: ya hemos pasado de 60 horas a 48, a 40, a 38… Hay que pensar en fines de semana de tres días. Una sociedad abocada al entretenimiento puro.

Si tuviera que redactar el primer artículo de un nuevo contrato social, ¿cómo sería y qué papel le daría a la ética?

Diría que las tres partes del contrato social son los humanos, la naturaleza y las máquinas, y que deben convivir con principios de respeto mutuo, que se engloban bajo la palabra ética, para el bien común. El bien común debe regir nuestra sociedad, buscando el bien colectivo del soberano que forman esas tres partes. Esa sería la declaración inicial.