El problema de la contención 

Alan Turing y Gordon Moore nunca pudieron haber predicho, y mucho menos alterado, el auge de las redes sociales, los memes, la Wikipedia o los ciberataques. Décadas después de sus inventos, los creadores de la bomba atómica eran tan incapaces de evitar una guerra nuclear como Henry Ford de evitar un accidente de coche. El reto inevitable de la tecnología es que los autores pierden muy deprisa el control del camino que toman sus inventos una vez introducidos en el mundo.

La tecnología existe en un sistema complejo y dinámico, es decir, el mundo real, en el que las consecuencias de segundo, tercer o X grado se propagan de manera impredecible. Lo que sobre el papel parece no tener defectos puede desarrollar un comportamiento totalmente diferente en la práctica, sobre todo cuando se copia y se adapta una y otra vez. Es imposible garantizar lo que la gente acabe haciendo con tu invento, por muy bienintencionado que sea. Thomas Edison inventó el fonógrafo para que las personas pudieran grabar sus pensamientos para la posteridad y para ayudar a los invidentes, por lo que se horrorizó cuando la mayoría de la gente se limitó a reproducir música. Alfred Nobel creía que sus explosivos solo se usarían en la minería y en la construcción de ferrocarriles.

Por su parte, Gutenberg únicamente quería ganar dinero con la impresión de la Biblia y, sin embargo, la imprenta catalizó la revolución científica y la Reforma protestante, por lo que se convirtió en la mayor amenaza para la Iglesia católica desde su fundación. Los fabricantes de frigoríficos no buscaban provocar un agujero en la capa de ozono con los CFC, del mismo modo que los creadores de los motores de combustión interna y de reacción no pensaban en derretir los casquetes polares. De hecho, los primeros entusiastas del automóvil defendían sus ventajas medioambientales, y argumentaban que los motores librarían las calles de las montañas de estiércol de caballo que esparcían suciedad y enfermedades por las áreas urbanas; no sabían lo que era el calentamiento global.

Es imposible garantizar lo que la gente acabe haciendo con tu invento, por muy bienintencionado que sea

Entender la tecnología consiste, entre otras cosas, en intentar comprender sus consecuencias involuntarias, en predecir no solo los efectos indirectos, sino también los «efectos de venganza». En pocas palabras, toda tecnología es capaz de fallar, a menudo de maneras que contradicen directamente su propósito original. Piensa en cómo los opiáceos por receta han creado dependencia, cómo el uso excesivo de antibióticos los vuelve menos eficaces o cómo el aumento de satélites y desechos conocidos como «basura espacial» ponen en peligro los viajes más allá del planeta Tierra.

A medida que la tecnología prolifera, más personas pueden usarla, adaptarla y darle la forma que quieran, en cadenas de causalidad que escapan a la comprensión de cualquier individuo. Al tiempo que la potencia de las herramientas que tenemos crece de manera exponencial y a medida que el acceso a ellas aumenta con rapidez, también lo hacen los posibles daños, y así se forma un laberinto de consecuencias que nadie puede predecir ni anticipar. Un día alguien escribe ecuaciones en una pizarra o trastea con un prototipo en un garaje; un trabajo que, en principio, parece irrelevante al resto mundo. Al cabo de pocas décadas, ese proyecto ha planteado cuestiones existenciales a la humanidad. Al construir sistemas cada vez más potentes, este aspecto de la tecnología me ha parecido cada vez más apremiante. ¿Cómo garantizamos que esta nueva ola de tecnologías aporte más beneficios que daños?

El problema de la tecnología que nos ocupa es el problema de la contención. Si este aspecto no puede eliminarse, podría limitarse. La contención es la capacidad global de controlar, limitar y, si fuera necesario, detener la tecnología en cualquier fase de su desarrollo o distribución. En última instancia, este concepto significa, en algunas circunstancias, la capacidad de impedir que la tecnología prolifere en primer lugar y controlar la onda expansiva de consecuencias no deseadas (tanto las positivas como las negativas).

Cuanto más potente es una tecnología, más arraigada está en todas las facetas de la vida y de la sociedad. Así pues, los problemas de la tecnología tienden a escalar en paralelo a sus capacidades, por lo que la necesidad de contención se agudiza con el paso del tiempo.

¿Exime esto de responsabilidad a los tecnólogos? Para nada; más que a nadie, nos corresponde a nosotros afrontarlo. Puede que no seamos capaces de controlar los resultados finales de nuestro trabajo o los efectos que tenga a largo plazo, pero eso no es motivo para librarse de la responsabilidad. Las decisiones que los tecnólogos y las sociedades toman en los inicios pueden seguir condicionando los resultados, y que las consecuencias sean difíciles de predecir no significa que no debamos intentarlo.

En la mayoría de los casos, la contención consiste en un control significativo, en la capacidad de detener un ejemplo de uso, de cambiar la dirección de la investigación o de negarles el acceso a los agentes dañinos. Implica preservar los medios de dirigir las olas para garantizar que su impacto refleje nuestros valores, nos ayude a prosperar como especie y no genere daños significativos que rebasen los beneficios.

Este texto es un fragmento del libro ‘La ola que viene’ (Debate, 2024), de Mustafa Suleyman.