El pesimismo ante la IA y lo que nos dice el antecedente nuclear

Artículo

Antonio García Maldonado

@MaldonadoAg

El desarrollo acelerado de la inteligencia artificial (IA) está produciendo cartas abiertas, manifiestos, declaraciones y posicionamientos que nos alertan de sus posibles peligros. Es cierto que también se habla de su potencial beneficioso, pero el tono general de la conversación en torno a la IA es de desconfianza y recelo. Incluso por parte de quienes la han desarrollado y puesto en las manos del gran público.

Sam Altman, director ejecutivo y cofundador de Open AI, empresa creadora de ChatGPT, dijo ante el Congreso de Estados Unidos hace unos días que su «mayor miedo es que causemos un daño significativo al mundo», riesgo ante el que pidió a los legisladores una regulación que nos prevenga contra los usos maliciosos de la IA. Incluso el mismísimo vicepresidente de ingeniería de Google y uno de los mayores expertos en IA afirmó recientemente en una entrevista que había dejado la empresa para dedicarse a alertar sobre los peligros que encierra: «Tenemos varias razones para preocuparnos mucho. La primera es que siempre habrá quienes quieran crear robots soldados. ¿O cree que Putin no los desarrollaría si pudiera? Eso lo puedes conseguir de forma más eficiente si le das a la máquina la capacidad de generar su propio conjunto de objetivos. En ese caso, si la máquina es inteligente, no tardará en darse cuenta de que consigue mejor sus objetivos si se vuelve más poderosa». 

Bien significativo de la precaución –cuando no el miedo– que gira alrededor de la posibilidad de una IA fuera de control fue la carta firmada por distintas personalidades relacionadas con el desarrollo de la misma –Elon Musk entre ellos– en la que solicitaron una moratoria en el desarrollo de dichas herramientas. Una pausa para que se produjera un debate ético y diera tiempo a los representantes públicos a establecer una regulación efectiva. Incluso un pensador tan leído en todo el mundo como el israelí Yuval Noah Harari afirmó que no tenía claro que el ser humano pudiera sobrevivir a la IA: «Hemos inventado algo que nos quita poder. Y está sucediendo tan rápido que la mayoría de la gente ni siquiera entiende lo que está pasando».

Al igual que con la IA, la conversación en la entonces recién estrenada era atómica tuvo también un aire lúgubre, cuando no apocalíptico

En su comparecencia en el Capitolio, Altman sugirió un paralelismo interesante. Pidió que se creara una agencia internacional para la IA similar a la que se creó en su momento para el control de la energía nuclear «antes de que sea demasiado tarde». Y esa comparación nos lleva a los inicios de la energía atómica, en la inmediata posguerra. En unas Naciones Unidas recién creadas, con el recuerdo aún vivo de las bombas lanzadas contra Hiroshima y Nagasaki, se pidió el fin y la destrucción de los arsenales atómicos por parte de los bloques que conformaban ya la Guerra Fría. Una petición similar a la de Musk y el resto de firmantes, quienes solicitaban parar la investigación y el desarrollo de la IA. Por la propia lógica de la rivalidad, dicha eliminación nuclear no tuvo lugar, pues cada parte pensaba que la otra aprovecharía para tomar la delantera en la carrera tecnológica que implicaba la energía nuclear. Ante dicha situación, se optó por crear la Organización Internacional de la Energía Atómica y establecer un sistema multilateral de gestión de riesgos y de potenciación de sus beneficios. El entonces presidente de Estados Unidos, Dwight Eisenhower, habló de los «átomos para la paz» y de sus aplicaciones en la medicina o en el acceso generalizado a la energía. 

Sin embargo, la conversación en la entonces recién estrenada era atómica tuvo también un aire lúgubre, cuando no apocalíptico. A ello contribuyeron sucesos como la Crisis de los Misiles de Cuba –cuando la Unión Soviética instaló en 1962 misiles nucleares en la isla apuntando a EEUU–, y el conocimiento del efecto devastador que tuvieron las mencionadas bombas sobre las dos ciudades japonesas años antes. El cine fue un claro exponente del cariz de dicha conversación, con películas como la magistral La hora final, Punto límite, ¿Teléfono rojo? Volamos hacia Moscú o El síndrome de China. Incluso en nuestros días impera ese tono en otras producciones de gran éxito, como en las miniseries Manhattan –sobre el Proyecto Manhattan, con el que se construyó la bomba en el desierto de Nuevo México– o Chernóbil. Y es que, con las armas nucleares, no sólo habíamos inventado una herramienta que «nos quita poder» –como teme Harari de la IA–, sino una que tenía capacidad para destruirnos en cuestión de minutos. La lógica, según Robert Oppenheimer, físico responsable del Proyecto Manhattan y protagonista de un muy próximo biopic a manos de Christopher Nolan, era clara: «Cuando ves algo técnicamente atractivo, te pones a pensar qué hacer con ello».

La investigación y el desarrollo de la IA no se van a detener, pero sí deben ser reguladas y controladas para incentivar los usos potencialmente más beneficiosos, con especial atención a la medicina. Igual que en aquellos momentos con las bombas atómicas, lo esencial no es ya el reto científico-técnico sino el desafío de gobernanza. Entonces, fueron precisamente el peligro y el temor los que impulsaron el diálogo y, después, los acuerdos. La necesidad del multilateralismo no nació entonces ni lo hace ahora de una mayor inclinación a la colaboración, sino de una mayor conciencia del peligro –vivo tras la reciente y devastadora Segunda Guerra Mundial–, más que de las promesas de las oportunidades. Siendo así, quizá no sea tan mala noticia que el cariz de la conversación pública sobre la IA sea igualmente ceniza. Más aún si además nos depara un cine tan bueno como el que nos ofreció –y nos ofrece aún– el miedo nuclear.