Agustín Fernández Mallo

Artículo

Esther Peñas

Con el título ‘El ángel de la IA‘ (Galaxia Gutenberg) el físico y escritor Agustín Fernández Mallo (La Coruña, 1967) teje un tapiz estimulante con múltiples flecos, a partir de la imagen del ángel caído como metáfora para hablar de un ente creado por lo humano que pareciera estar abocado a rebelarse contra él y dominarlo: la inteligencia artificial, cumpliendo así un deseo larvario de la humanidad, por descabellado que pareciera.

No sé si este ensayo habla más de la condición humana o de tecnología. En cualquier caso, es fascinante el símil inicial. ¿En qué momento se dio cuenta de que la figura del ángel caído era una metáfora más fértil para pensar la IA que las habituales referencias a máquinas o robots?

No sé con exactitud el momento ni la circunstancia. Recuerdo que empecé a ver que las inteligencias artificiales que se están creando van por un camino tecnológico que no tiene nada que ver con la idea de crear un cerebro humano; son ideas algorítmicas, no biológicas, que no pueden explicar por qué el cerebro humano tan solo con 25 vatios de potencia puede hacer todo lo que hace y una IA, para hablar a través de ChatGPT requiere la misma potencia de una ciudad de 10.000 habitantes. El camino de la IA no va por hacer «segundos» humanos. Entonces, ¿qué tratamos de hacer? Crear entes con voluntad propia que estén en el planeta Tierra. Pensé que, puesto que no son biología, no son humanos, solamente podemos actualizar un mito, el del ángel caído, el ser que se independiza de su dios (nosotros, en este caso), que adquiere voluntad propia al margen de la nuestra.

En la tradición religiosa, la caída implica libertad, pero también pérdida. ¿Qué perdería la IA de obtener esa soberanía que ya le otorgamos como en una suerte de profecía cumplida?

Buena pregunta… No me lo he planteado, pero supongo que perdería la condición de esclavitud, que es una condición que, al tiempo que es nefasta, es cómoda, porque te permite no pensar ni tener conflictos, porque siempre hay alguien que decide por ti. En el momento en que una IA se conforme como un ente autónomo y reconozca a otras IA y puedan crear sociedades supondrá la caída real. En ese momento lo que ganan es la libertad, con todo lo que conlleva la libertad (problemas, gestión, angustia…) Creo que ese momento nunca llegará, aunque podría llegar.

«Nadie se ha preguntado por qué desde que el ser humano lo es quiere hacer algo que le supere»

Si la IA es un «ángel caído», ¿quién desempeña hoy el papel de la divinidad creadora: los ingenieros, las empresas tecnológicas o la sociedad en su conjunto?

Supuestamente todos, es decir, el ser humano. Nadie se ha preguntado por qué desde que el ser humano lo es quiere hacer algo que le supere, algo extrañísimo, ¿no? Por qué quiere hacer algo que le supere. Lo hemos hecho con las religiones, creamos entes a los que verter nuestros problemas para que nos los solucionen. Esos entes terminan por devorarnos. Con la IA puede suceder un proceso parecido, ya no son religiones, pero se conforman como nuevas teologías porque hay todo un pensamiento teológico y místico alrededor de las máquinas y sus poderes. Tal vez llegue un momento en que se desprendan de nosotros, sus creadores, y pueden llegar a dominarnos si no podemos desenchufarlas a tiempo.

Como usted dice, no es propiamente inteligencia, tampoco exactamente artificial, pero la IA tiene «ángel». ¿De qué depende que se contemple como un ángel terrible en el decir de Rilke o una presencia luminosa?

Depende de una pulsión nuestra, antropológica, depende de esa fascinación y ese miedo que genera todo lo que es radicalmente nuevo y creado por nosotros, que nos provoca un impulso libidinal no sexual en términos carnales, sino de excitación. La IA se ve como divinidad al mismo tiempo que produce una inmensa angustia porque somos conscientes de lo potente que es y que puede manejarnos. Dos características nos hacen adorarla al mismo tiempo que temerla: por un lado, la idea de que, por primera vez, un objeto creado por nosotros maneja aparentemente igual que nosotros nuestro lenguaje; esto es algo importantísimo, porque eso no había ocurrido jamás, y parece que lo maneja bien, al menos en apariencia, porque una IA contesta, pero no sabe lo que está contestando. Esto es una amenaza real. Por otro lado, la idea de que un solo ser humano no puede enfrentarse al tigre porque perderá, pero el ser humano en sociedad, ese conjunto de humanos que se apoyan y retroalimentan, ganarán siempre a cualquier manada de tigres o de cualquier otro animal. El ser humano es el ser social más eficaz que existe sobre el planeta Tierra, por eso lo dominamos. Esta capacidad de sociabilizar, de crear alianzas, de constituir una inteligencia colectiva podría ser emulada por las IA, llegando a ser capaces de crear sociedades, alianzas y convirtiéndose en una potencia superior, frente a la que lo humano pareciera no tener nada que hacer.

«Hay todo un pensamiento teológico y místico alrededor de las máquinas y sus poderes»

Asegura que las religiones han sido una suerte de IA, en tanto que sistemas teologales donde depositar todo aquello que no podemos o no sabemos realizar. ¿Guarda el elemento sagrado, la IA?

«Sagrado» es una palabra subjetiva, porque depende de quién la enuncia; una cruz es sagrada para un católico, pero no para un budista. En cualquier caso, hay una sacralidad en la IA, una fe, en sentido amplio, con los propios sistemas éticos que involucran a cualquier fe, sus obligaciones y cismas, sus prohibiciones… Toda fe se articula en unos códigos, y así se está articulando la IA; no olvidemos, además, que promete un nuevo reino. Ya estamos escuchando a ciertas empresas tecnológicas proponer un futuro en el que no existan los Estados, del mismo modo que trataron y consiguieron en cierto modo algunas religiones. Hay ciertos gurús que argumentan los beneficios de que se delegue todo poder en un poder superior, gestionado por la IA. Hay que tener mucha fe para creerles.

Un asunto que aborda es el posible marco legal de la IA, sus derechos, sus leyes propias… ¿pero cómo acotar sus deberes y sus responsabilidades (civiles, penales)?

Ese es el gran problema final, todo de lo que estamos hablando no tendría trascendencia (bueno, ya está teniendo trascendencia) si esa cuestión no existiese. El día en que cometamos el error de proponer que la IA sea sujeto de derecho, el mundo dejará de ser antropológico. Y puede ocurrir que llegue un momento en que, si desenchufas una IA, estés cometiendo un homicidio o asesinato. Cuando era pequeño, matar a un perro no tenía consecuencia legal alguna. Era impensable entonces considerar a un animal sujeto de derecho. Ahí hay un problema muy serio, porque ocurriría como en Frankenstein, que el monstruo acabaría siendo dueño de su creador. Ahora, por fortuna, toda responsabilidad de la IA recae en la persona que la pone en acción.

«El día en que cometamos el error de proponer que la IA sea sujeto de derecho, el mundo dejará de ser antropológico»

Lo que ocurre es que las criaturas (literarias) que hemos creado además de la que acaba de mencionar, Frankenstein, el Golem, los homúnculos, etc., no han tenido un final, digamos, feliz.

No, pero no olvidemos que eso era literatura y esto es real. Desde que somos humanos esa angustia y fascinación por conseguir algo que nos supere es algo tremendo. Hay una duda inicial anterior a todo: ¿por qué el ser humano está empeñado en crear inteligencia artificial cuando cada día crea inteligencia humana? ¿Por qué queremos crear otra cosa? Es un misterio antropológico, desde luego.

La IA, obvio, carece de cuerpo, de materialidad. Eso, en ese intento de lo humano por incorporar la tecnología en su cuerpo, ¿cómo le afectará?

Ya lo está determinando. En efecto, una IA no tiene cuerpo. Como no tiene cuerpo, no se conforma con un yo voluble, como el de cualquier persona; como no tiene cuerpo tampoco tiene heridas, huellas, por tanto, no tiene memoria, la conciencia del yo, de mortalidad, que solamente la puedes tener si tienes cuerpo, o por lo menos es condición necesaria. Una IA es potencialmente inmortal, el tiempo termodinámico no pasa por ella, eso conforma otro tipo de corporeidad en una IA. En los humanos no ha ocurrido, por mucho que nos empeñemos, tenemos cuerpo, y es inevitable. Pero el hecho de esa inmortalidad condiciona nuestros sueños, deseamos ser inmortales. Habría que especificar qué supone el cuerpo para nosotros, en el siglo XXI, pero eso nos aleja de la IA.

A partir de una idea de Sebald («la realidad siempre es diferente a todo»), expone usted que la realidad es ese gap insalvable, esa trama siempre incompleta.  ¿La IA supera ese gap?

Sí, el mundo de lo inmaterial, de lo fantástico, de la metafísica, con una IA evolucionada al mismo nivel del humano, lo que haría es conformarse como una metafísica hecha carne, encarnada, por tanto, llenaría ese gap, habríamos creado algo que llena ese agujero infinito (que existe indefectiblemente entre la teoría y la práctica, y que es lo que nos impulsa a hacer cosas). Si eso sucede, nos quedaríamos planos, porque no habría brecha entre lo pensado y la experiencia, todo quedaría al mismo nivel.

«Utilizar la IA para hacer algo creativo es como meter comida que no has cocinado tú en el microondas»

Dejaríamos de ser esa «caja negra» que somos…

Por supuesto, no habría nada que desvelar, no habría información nueva posible. Ese supuesto, puede tener un émulo metafórico en lo que en física se llama «la muerte térmica del universo», un escenario en el que la entropía sea tal que el universo está tan estable que no ocurre nada, porque no puede ocurrir nada.

¿Cuál es la relación de Agustín con la IA en su vida cotidiana?

La verdad, mínima, las consultas por Google y poco más… Al menos de manera consciente, porque llevamos utilizando IA desde hace muchos años, por ejemplo cuando cogemos un avión, cuando hacemos búsquedas en internet… pero usar programas de IA como tales, no. Y mucho menos para escribir, porque lo interesante es escribirlo uno mismo, por satisfacción y por el placer que produce el investigar el mundo para escribirlo. Utilizar la IA para hacer algo creativo es como meter comida que no has cocinado tú en el microondas.