Transparencia: el problema está en los algoritmos

Artículo

Cristina Suárez

@CristinaSuarezV

La humanidad está inmersa en una revolución tecnológica sin precedentes. La inteligencia artificial, el big data o la automatización son solo algunos avances de lo que promete ser un futuro, cuando menos, digitalizado. Sin embargo, hasta el momento, la evolución tecnológica ha ido de la mano de seres inteligentes que, mediante el uso de códigos como el binario -basado en ceros y unos- ha ido dando forma a ese progreso cada vez más complejo y sorprendente. Pero ¿qué pasa cuando esa guía racional que representan los seres humanos desaparece de la ecuación?

Los algoritmos son, a día de hoy, el mejor ejemplo de autonomía de la inteligencia artificial: analizan millones de datos y ejecutan una acción en función de la información recabada. Se trata de una secuencia de cálculos que domina prácticamente todas nuestras interacciones sociales; desde los posts que nos aparecen en el muro de Facebook hasta las recomendaciones que nos hace la plataforma de Youtube o la aplicación de TikTok. Y es que, en general, toda red social tiene una arquitectura pensada para dirigir nuestra atención hacia un elemento concreto. Esta decisión está basada en un algoritmo que, a diferencia de lo que se presupone, puede estar tomada de manera arbitraria. De hecho, académicos como la matemática Cathy O’Neil advierten de que no debemos dejarnos engañar por la objetividad que aparentan los números. «Los algoritmos no son más que opiniones encerradas en matemáticas», defiende la experta.

Se refiere a un sesgo que ya se ha detectado en plataformas como Facebook, que acumula varias demandas colectivas por discriminar a ciertos colectivos a través de su herramienta de anuncios. Es más, una investigación llevada a cabo en 2016 por el medio estadounidense ProPública demostraba que la red social utilizaba un algoritmo que permitía que se ocultasen ciertos anuncios de lujo a los usuarios en función de su etnia. Tampoco se salva Instagram:  un estudio de la Universidad de Columbia concluía que era más probable que a las mujeres se les diese menos visibilidad que a los hombres en esta aplicación.

Cathy O’Neil: «Los algoritmos no son más que opiniones encerradas en matemáticas»

Un marco ético para la inteligencia artificial

A raíz de esta constatación sobre la arbitrariedad de los algoritmos, en 2017 los grandes gigantes tecnológicos se sentaron para hablar sobre las bases éticas y las buenas prácticas de la Inteligencia Artificial. Google, Amazon, Microsoft, Facebook, IBM y Apple quisieron unirse para dibujar una hoja de ruta que permitiese detectar y mitigar los sesgos de las máquinas. Sin embargo, el acuerdo residía en que todas las decisiones que salieran de esa sala serían de aplicación voluntaria, un aspecto que indignó a muchos y sobre el que el analista tecnológico Evgeny Morozov ironizó alegando que una alianza ética entre Goldman Sachs, Deutsche Bank y JP Morgan sería más irrisoria.

Cuatro años después de la creación de esa gran alianza tecnológica hay ciertas conductas algorítmicas que siguen suponiendo un dilema: desde las respuestas laxas a los bulos y a discursos de odio perpetrados por extremistas hasta la discriminación racial en las evaluaciones de riesgo de los presos o la creación de un programa de predicción de abusos en Estados Unidos que apuntaba a familias con menos ingresos.

Cabe recordar, que esta tecnología abarca cada vez más aspectos cotidianos, por lo que construir unos códigos éticos sólidos se ha convertido en una necesidad a nivel mundial. Sobre todo cuando esta inteligencia artificial amenaza con querer imitar a la inteligencia humana. Basta sino recordar como hace apenas unos meses una empresa española logró ‘revivir’ a la cantante Lola Flores en un vídeo hiperrealista gracias a un algoritmo que combinaba fotografías y grabaciones de sonido.

Ante la falta de una gobernanza global para esta cuestión, Europa ha decidido tomar las riendas. Al menos por el momento. Fue el pasado octubre cuando el Parlamento Europeo aprobó una serie de propuestas para regular la inteligencia artificial y promover así la innovación. Se trata todavía de un borrador que aspira a convertirse en ley en el próximo año y, de esta manera, definir un marco ético para la inteligencia artificial. Queda todavía por ver si, en un futuro digitalizado de  fronteras difuminadas, se alcanza o no un consenso global sobre cuál es la ética de los algoritmos.