INTELIGENCIA ARTIFICIAL

Recorre las cátedras, foros de debate y platós de televisión de medio mundo con su hábito de monje franciscano y una mochila a la espalda. Paolo Benanti (Roma, 1973) es unos de los expertos en inteligencia artificial más solicitados del mundo. Asesor de la ONU, del papa Francisco y del Gobierno italiano, acaba de publicar en España el libro ‘La era digital’ (Ediciones Encuentro) en el que aborda los grandes desafíos antropológicos, éticos y sociales que los últimos avances tecnológicos están planteando.  

---

En La era digital dice que la cuarta revolución en la que estamos inmersos no es solamente tecnológica, ¿qué más implicaciones tiene?

Supone una transformación radical de nuestra comprensión de la realidad y de nosotros mismos. Hoy gracias a la tecnología podemos remapear la realidad según otros paradigmas. Es lo mismo que ocurrió hace siglos con la invención de la lente convexa, que dio lugar a dos instrumentos: el telescopio, que ha permitido estudiar lo infinitamente grande, y el microscopio, que nos ha abierto el camino a estudiar lo infinitamente pequeño. Estos dos instrumentos transformaron nuestra comprensión de la realidad porque nos dimos cuenta de que no somos el centro del universo sino un planeta de un sistema solar secundario y, por otro lado, entendimos que no somos una única cosa, sino que estamos hechos de pequeñas partículas vivas que llamamos células. Es decir, el telescopio y el microscopio cambiaron la cosmología y la antropología. Hoy, la inteligencia artificial, que no estudia lo infinitamente grande o pequeño sino lo infinitamente complejo, está reescribiendo nuestra comprensión de la realidad y de nosotros mismos y nos está llevando a una nueva fase del conocimiento.

Sin embargo, hay pensadores como Pascal Bruckner que sostienen que, con la transformación digital, hemos pasado de la era de la comprensión a la de la distracción.

Decir que la era digital es solo una época de la distracción implica decir que hay una competición entre el hombre y la máquina. Eso no es cierto. La máquina es un instrumento. Es cierto que también puede ser un arma, pero mientras sea un instrumento puede amplificar nuestras capacidades de conocimiento.

«Si aplicamos los algoritmos a la libertad de las personas no solo serán capaz de predecir un comportamiento sino de producirlo»

¿Y cuáles son, a su juicio, los mayores riesgos éticos de la IA? ¿Puede la máquina llegar a coartar la libertad del ser humano?

Si aplicamos los algoritmos a la libertad de las personas no solo serán capaz de predecir un comportamiento sino de producirlo. En las plataformas lo saben muy bien porque, cuando hacen sugerencias al usuario, no solo están prediciendo su comportamiento sino provocando que compre determinadas cosas. Este es el motivo por el que tenemos que tener una buena gobernanza sobre estas innovaciones.

¿Luego el dilema ético no recae en la tecnología en sí misma sino en los seres humanos que la controlan?  

Es importante subrayar que la máquina por sí sola no hace nada. Los hombres pueden delegar tareas en las máquinas o utilizarlas para controlar a otros hombres. Los riesgos dependen de lo que el hombre quiera que haga la máquina. Cuando hablamos de riesgos y de problemas éticos, la cuestión siempre debe caer en el lado humano. La máquina no arranca sola, no se construye sola, no se pone en marcha sola. Por tanto, es una cuestión de lo que queremos que sea la máquina y de lo que queremos que haga.

¿Qué desafíos políticos y sociales plantea esta era digital en la que estamos inmersos?

La realidad que estamos viviendo está definida por el software. En los dispositivos, los usuarios somos propietarios del hardware pero solo tenemos una licencia de software. En el Derecho Romano se fijaban tres derechos relativos a la propiedad de una cosa: usus, abusus y fructus. Podemos usar nuestro móvil o nuestra tablet como queramos, pero los frutos de ese uso no son nuestros sino que van a la nube o a otro tipo de formato. Y esto es importante, porque en la Antigua Roma quienes estaban privados del fruto de las cosas eran los esclavos. Ahora tenemos los centros de datos. Quienes poseen estos centros son los que van a controlar el proceso de centralización digital. Este es el reto que nos plantea la inteligencia artificial: que ahora todos los procesos están centralizados en la nube y esta pertenece a cinco empresas. El 70% de la nube pertenece a una empresa de Seattle. Ellos son los propietarios de todos los datos.

«Cuando hablamos de riesgos y de problemas éticos, la cuestión siempre debe caer en el lado humano»

Ha señalado que a menudo somos incapaces de señalar los límites de la máquina o de la tecnología porque nuestra identidad humana se ha difuminado. ¿Sugiere que las dudas sobre lo que somos no tienen su origen en los avances tecnológicos sino en algo previo?

El hecho tecnológico es hijo de la época y de la comprensión de la realidad de cada época. Y los problemas que hoy hacen que nos hagamos preguntas sobre la máquina son en realidad un espejo de nuestra identidad. No olvidemos que, antes de esta nueva primavera de la inteligencia artificial, ya existían debates públicos sobre lo que es el ser humano. Por ejemplo, cuando en España en 2008 José Luis Rodríguez Zapatero intentó que se extendieran los derechos humanos a los grandes simios, aún no nos habíamos cuestionado cuál era la diferencia cualitativa del ser humano. Ahora que la tecnología se asemeja o imita a la persona, nos cuestionamos qué significa ser humano. Es como si cada día asistiéramos a un gran enfrentamiento entre una máquina cada vez más humanizada y un hombre cada vez más mecanizado.

No tiene reparo en hablar del advenimiento del posthumanismo, pese a que gran parte de los posthumanistas consideran al ser humano como una fase de la evolución que será superada.

Atravesamos un momento en el que estamos llamados a preguntarnos qué significa ser humanos. En este sentido, podemos entender el post como un más allá. Es decir, que aquellos límites que nos habíamos puesto, aquel contorno que habíamos dado a la figura humana ya no son los mismos, debido a lo que ahora conocemos. Esto nos empuja a tener que redefinir lo que somos y lo que nos rodea. Pero esto, en realidad, no es diferente de lo que la identidad humana ha sido desde tiempos inmemoriales. Somos ese ser que no solo tiene una biología sino también una historia. Se trata de entrar en esta nueva página de esta historia.

Vemos a diario cómo la IA escribe artículos, poemas, crea imágenes, ilustraciones, obras musicales, etc. Sin embargo, para que pueda obtener todos estos resultados, necesita que miles de seres humanos realicen una fatigosa e ingrata labor de recopilación de datos. ¿Se está quedando la IA con los trabajos más bellos y creativos mientras nosotros cargamos con las actividades más monótonas?

Creo que habría que cambiar el sentido de la pregunta, porque no estamos dando este trabajo basura a todos los seres humanos, sino a determinadas personas. Esta tarea de entrenar a la máquina mediante labores de recopilación de datos que son repetitivas la estamos descargando sobre los trabajadores del Sur global. Así que la primera injusticia social no la comete la máquina sobre el hombre, sino el hombre sobre el hombre. Las viejas prácticas de explotación colonial vuelven para extraer más recursos que ya no son solo materias primas o fuerza de trabajo, sino también capacidades cognitivas. Podemos tener una actitud colonial en el desarrollo de estas nuevas herramientas.