Algoritmos y menores: una influencia (in)visible

Artículo

Ramón Oliver

@mondieta

Los algoritmos se han convertido en un acompañante invisible pero inseparable en la vida de las personas: una sutil –o no tanto– guía que, en teoría para hacernos la vida más fácil, aconseja, influye y, cada vez más, determina lo que debemos ver, escuchar, consumir, apoyar, compartir, rechazar, criticar y hasta amar. Una capacidad que es especialmente preocupante en el caso de los menores. Y es que a menudo olvidamos que niños y adolescentes son personas que todavía se encuentran en fase de desarrollo, proyectos –ilusionantes y con enorme potencial, sí, pero proyectos, a fin de cuentas– de los adultos que están destinados a ser pero que todavía no son. Y que, por tanto, carecen de experiencia y herramientas, tanto emocionales como intelectuales, suficientes para discernir entre lo atractivo y lo conveniente y protegerse de determinados influjos nocivos e interesados.

Dónde está el límite del influjo de los algoritmos y, sobre todo, quién está detrás de ellos y a qué motivaciones responden fue el tema de un encuentro que, bajo el título de «Algoritmos y menores: una influencia (in)visible», celebraron Ethic y Movistar en el marco del programa Movimiento Azul.

«Vivimos en una sociedad digital dominada por una constante infoxicación. Y hay que preguntarse qué impacto tienen esos contenidos en nuestro bienestar y en nuestra manera de ver el mundo y de relacionarnos», señaló María Zabala, periodista y consultora de comunicación, especializada en tecnología y sociedad digital, en la apertura del evento.

Zabala, quien ejerció como moderadora del encuentro, puntualizó que el objetivo del mismo no era «juzgar, sino entender» cómo son esos algoritmos para lograr que sean menos invisibles y que su influencia devenga más transparente. «Los algoritmos aprenden de nosotros: analizan qué compramos, cómo salimos y entramos en una página, a qué le damos ‘like’, qué contenidos compartimos y en cuáles hacemos clic… Todo cuanto hacemos alimenta el algoritmo para que nos entienda mejor. La cuestión es, ¿quién está detrás de esos desarrollos?».

El algoritmo: instrucciones de uso

La reciente explosión de la Inteligencia Artificial y su desembarco en el ocio, el trabajo y, en general, en la vida de las personas, ha hecho que la palabra «algoritmo» haya dejado de manejarse en exclusiva en el acotado mundo de los programadores informáticos para colarse en el vocabulario cotidiano. A pesar de ello, para Jorge Calvo, responsable de tecnología e innovación en el Colegio Europeo de Madrid, en general la sociedad tiene un entendimiento muy superficial de lo que es un algoritmo y sus implicaciones. «Sabemos que existe, pero falta un conocimiento más profundo de aspectos como su nivel de influencia, quién está detrás, qué datos tiene de nosotros y por qué hace lo que hace».

Una descripción canónica del término no estaría demasiado alejada de la de una receta de cocina. «Un algoritmo es una secuencia de operaciones, una serie de instrucciones que nos permite resolver un problema», resumió Calvo. Sin embargo, la llegada de la Inteligencia Artificial ha hecho que esta concepción evolucione. «Donde antes teníamos un dato, una secuencia de operación y el algoritmo nos ofrecía una salida, ahora le suministramos datos y un resultado y él es capaz de predecir el siguiente». Se trata, en síntesis, de «un cambio de concepto».

Influencia, ¿invisible?

¿Están los algoritmos condicionando los comportamientos de los jóvenes? ¿Hasta qué punto están moldeando el desarrollo de las siguientes generaciones? Son preguntas que ocupan y alimentan el siempre jugoso debate sobre los límites de la tecnología. «Sabemos que el algoritmo influye en la atención y en la emoción, pero no todos los algoritmos impactan igual en todas las personas», comentó Lucía Halty, directora de la Cátedra de Innovación y Salud Mental de la Universidad Pontificia de Comillas.

Lucia Halty: «Reproducimos en el algoritmo nuestra propia forma de ser, es un espejo»

Esta especialista no cree que la tecnología moldee personalidades, sino que las replica. «En general las personas tendemos a acercarnos a lo que nos gusta y a alejarnos de lo que no. Y así funcionamos también con los algoritmos: buscamos en ellos o bien recompensas, o bien huir de nuestro malestar. Reproducimos en el algoritmo nuestra propia forma de ser, es un espejo. En ese sentido se podría asemejar a un gemelo digital de nosotros mismos», explicó.

Movimientos sociales

La sociología es otro de los campos en los que se pueden rastrear las huellas de la digitalización, aunque no resulta sencillo, especialmente cuando se trata de menores. «Internet no está pensado para niños, sino que ha sido diseñado para adultos. Y lo mismo sucede con la explicación de sus límites: cookies, condiciones de uso… son términos que deberían estar más adaptados al lenguaje infantil», cree Beatriz Martín Padura, miembro del Grupo de Expertos del Gobierno para la protección de menores en entornos digitales y directora general de FAD Juventud.

Beatriz Martín Padura: «Internet no está pensado para niños, sino que ha sido diseñado para adultos»

¿Qué pueden hacer los adultos para compensar esas carencias? Esta especialista cree que es importante que padres y educadores sepan transmitir a los más jóvenes esa cara menos amable de la digitalización. «Necesitan saber que hay una parte del entorno de Internet que se escapa a nuestro control, que nos está perfilando continuamente, tiene una intencionalidad y puede influir en nuestros comportamientos y actitudes».

Respeto a si los entornos digitales son un caldo de cultivo para la proliferación de sesgos, fobias y movimientos ideológicos dirigidos, Martín Padura recordó cómo determinados contenidos de Internet «se aprovechan de la insatisfacción vital de sus audiencias para darles una respuesta rápida que les permita responsabilizar a otros de sus problemas». ¿La consecuencia de esa forma de funcionar? «Polarización y pérdida de pensamiento crítico, curiosidad y capacidad de cuestionamiento». Si a eso se le suma una ausencia de mediación adulta «porque los adultos sabemos poco de lo que sucede en estos entornos» se da, concluyó la experta, «la tormenta perfecta».

¿Se nos está olvidando pensar?

¿Fue la invención de la calculadora electrónica, en la segunda mitad del siglo pasado, un freno a la capacidad humana de cálculo? La llegada de la IA a la vida de las personas ha resucitado ese mismo debate. «Los nuevos desarrollos de IA, como ChatGPT, están haciendo más fácil la vida de las personas al asumir funciones que antes hacían los seres humanos», recordó Jorge Calvo. El problema de esa descarga cognitiva, advirtió, es que «si se delega demasiado, se pueden perder competencias importantes». El responsable de tecnología e innovación en el Colegio Europeo de Madrid también advirtió sobre el peligro de confiar ciegamente en la IA. «Porque una confianza total anula la capacidad crítica. Es muy importante saber el tipo de herramienta que tienes delante».

Jorge Calvo: «Es muy importante saber el tipo de herramienta que tienes delante»

En cuanto a si es razonable que los chicos usen la IA para hacer sus deberes escolares y actividades cotidianas, en opinión este docente no solo es inevitable, sino imprescindible, «porque van a tener que trabajar con estas y otras tecnologías cuando lleguen al mundo laboral», argumentó.  Pero, eso sí, «deben aprender a gestionarlas sin que obstaculicen el pensamiento humano y una serie de habilidades blandas que hay que seguir desarrollando».

No todo es culpa de Internet

Los expertos advirtieron en contra de la demonización del algoritmo como causante de todos los males que aquejan a los jóvenes, e instaron a hacer autocrítica desde el entorno familiar y escolar. «Los algoritmos no son un generador de vulnerabilidad, sino un altavoz de algo que ya estaba presente en los chicos», insistió Lucía Halty. «Como padres y educadores tenemos la responsabilidad de cubrir las vulnerabilidades con las que crecen nuestros niños, enseñándoles a gestionar sus emociones desde pequeños», apuntó.

El panel no olvidó ni exculpó a la industria de generación de contenidos. «Hay que trabajar el respeto, entender las gafas con las que miramos el mundo y las de las personas que diseñan la IA. Reclamarles que trabajen de forma más diversa para evitar la perpetuación de los sesgos», reclamó Beatriz Martín Padura. Por su parte, María Zabala también exigió «unas plataformas más éticas y transparentes, y unos gobiernos que regulen y defiendan nuestros derechos y nos ayuden a hacer un uso seguro y consciente de la tecnología con una buena base de alfabetización digital».