La inteligibilidad de las máquinas

Artículo

Juan Ángel Asensio

No hay nada más humano que tratar de comprender lo que no podemos comprender. Durante mucho tiempo, aquello que escapaba a la comprensión humana encontraba su lugar en el terreno de lo sagrado. La religión, la filosofía y, más tarde, la ciencia intentaron ofrecer respuestas a preguntas que parecían inagotables. Cada época ha convivido con sus propios misterios. Hoy, uno de ellos tiene un origen muy distinto.

El misterio del que hablamos nace de una tecnología diseñada por el propio ser humano y, aun así, resulta difícil de explicar incluso para quienes trabajan con ella. Cada día confiamos en sistemas que ordenan la información que recibimos, recomiendan una película, traducen un texto, conceden un préstamo o ayudan a realizar un diagnóstico médico. También conversamos con modelos de inteligencia artificial capaces de escribir textos o generar imágenes en cuestión de segundos. La mayoría de estas herramientas, además, funcionan con una eficacia extraordinaria. Sin embargo, ¿entendemos realmente cómo llegan a sus conclusiones?

Cuando las máquinas dejan de ser transparentes

Durante buena parte de la historia de la técnica, una máquina podía comprenderse simplemente observando sus piezas. Un reloj o una imprenta escondían, por supuesto, una enorme complejidad, aunque su funcionamiento respondía a una lógica visible para los ojos. Cada engranaje cumplía una función reconocible y el conjunto permitía reconstruir la secuencia completa de sus operaciones. Incluso los primeros ordenadores conservaban, al menos para los especialistas, esa posibilidad de explicación en base a la observación.

La inteligencia artificial, sin embargo, ha alterado esa relación. Los sistemas actuales aprenden a partir de cantidades inmensas de datos y ajustan millones, e incluso miles de millones, de parámetros durante su entrenamiento. Sus desarrolladores conocen la arquitectura del modelo, las reglas matemáticas que la sostienen, los algoritmos que la hacen funcionar y el procedimiento mediante el que aprende. Aun así, reconstruir con precisión el camino que conduce a una respuesta concreta resulta extraordinariamente difícil. El resultado aparece ante el usuario con naturalidad, mientras que el proceso permanece oculto tras una compleja red de cálculos.

Los desarrolladores conocen las reglas que sostienen el modelo, pero es difícil reconstruir el camino que conduce a una respuesta concreta

Por ese motivo suele hablarse de la inteligencia artificial como una caja negra. La expresión no significa que su funcionamiento constituya un secreto, ni tampoco implica que nadie sepa cómo se construyen estos sistemas. Describe, más bien, la dificultad para interpretar por qué una combinación específica de millones de operaciones termina produciendo una respuesta determinada. Los investigadores conocen las reglas generales del sistema, a pesar de que explicar cada decisión concreta continúa siendo uno de los grandes retos del sector.

Esta circunstancia ha impulsado un campo de investigación conocido como inteligencia artificial explicable. Su objetivo consiste en desarrollar modelos capaces de ofrecer razones comprensibles sobre sus decisiones. Esta cuestión adquiere especial relevancia cuando una recomendación algorítmica afecta al acceso a un empleo o a un tratamiento médico, por ejemplo, ya que, en esos casos, la explicación también forma parte de la confianza.

Así pues, el desafío, al menos a día de hoy, no consiste únicamente en hacer que las máquinas funcionen mejor: también es imprescindible construir tecnologías que puedan dialogar con quienes las utilizan. Y es que esta dimensión resulta esencial en un mundo que cada vez delega más funciones en sistemas automatizados.

La dificultad para interpretar los algoritmos plantea, además, una paradoja. Nunca antes la humanidad había dispuesto de tanta información sobre el funcionamiento interno de una tecnología y, al mismo tiempo, había experimentado una sensación tan intensa de opacidad. Cada mejora aumenta la capacidad de cálculo, pero también amplía la distancia entre el rendimiento de la máquina y la intuición humana.

Una nueva relación entre el ser humano y la tecnología

Esta transformación trasciende el ámbito técnico, ya que, de manera clara, modifica la forma en que las personas se relacionan con el mundo. El filósofo Martin Heidegger advirtió que la técnica nunca constituye un simple conjunto de herramientas. Por eso mismo, cada tecnología configura una manera particular de mirar la realidad y de situarse frente a ella.

Cuando una persona acepta la respuesta de un algoritmo sin comprender el recorrido que la ha producido, establece una relación basada, en gran medida, en la confianza. Algo parecido ocurre cada vez que seguimos la ruta propuesta por un navegador o aceptamos las recomendaciones de una plataforma digital. La experiencia cotidiana se apoya en sistemas cuya complejidad supera ampliamente el conocimiento de la mayoría de los usuarios.

Esta situación recuerda que el conocimiento nunca ha consistido en comprender absolutamente todo. La vida moderna depende de infraestructuras cuyo funcionamiento detallado permanece fuera del alcance de casi cualquier ciudadano. Muy pocas personas podrían explicar cómo opera una red eléctrica o un reactor nuclear. Sin embargo, la inteligencia artificial introduce una diferencia importante, ya que sus decisiones intervienen directamente en actividades cotidianas relacionadas con la información, la educación, la creatividad o, cada vez más, el trabajo. La interacción deja de producirse con una máquina que ejecuta órdenes y comienza a desarrollarse con sistemas capaces de generar contenidos y ofrecer respuestas propias.

Algunos filósofos, no solo Heidegger, ya habían anticipado preguntas similares. Günther Anders, por ejemplo, ya observó que la capacidad técnica podía crecer a un ritmo superior al de nuestra capacidad para comprender sus consecuencias. Décadas después, Gilbert Simondon defendió que una cultura incapaz de entender los objetos técnicos terminaba estableciendo con ellos una relación de distancia y desconfianza. Sus diagnósticos pertenecían al siglo XX, aunque, como vemos, parecían estar hablando de nuestro presente más inmediato.

Günther Anders observó que la capacidad técnica crecía un ritmo superior al de nuestra capacidad para comprenderla

La cuestión resulta especialmente relevante porque la inteligencia artificial ocupa un lugar cada vez más amplio en la vida pública. Ya es algo cotidiano que los algoritmos participen en la selección de información, en procesos administrativos, en investigaciones científicas y en decisiones empresariales, entre otras muchas más cosas. Esa presencia convierte la alfabetización tecnológica en una necesidad imperiosa. Comprender los principios generales que sostienen estos sistemas permite participar con mayor criterio en los debates sobre su regulación y sus límites. Al mismo tiempo, conviene evitar una imagen —por así decir— mágica de la inteligencia artificial. De hecho, quizá ese sea uno de los grandes desafíos de nuestro tiempo.

Durante siglos, el misterio se proyectó hacia aquello que parecía trascender la experiencia humana. Hoy, por el contrario, este misterio brota también de las tecnologías creadas por nosotros mismos. Comprender las máquinas ya no representa un interés reservado a ingenieros o programadores, sino que constituye una forma de comprender la sociedad que estamos construyendo y el lugar que deseamos ocupar dentro de ella.