Extremismo ‘online’: ¿Se presenta negro el futuro?

Las fórmulas que utilizan Facebook y YouTube para obtener beneficios se basan en captar y vender la atención de las personas. Sus algoritmos están programados para atraer la psique humana y, en consecuencia, no son más que un espejo de nuestros deseos y fascinaciones más profundos. La verdad es que no somos diferentes de las personas a las que les resultaba placentero ver a los gladiadores acabar con sus contrincantes en la antigua Roma o de los que disfrutaban viendo cómo colgaban, arrastraban y descuartizaban a los traidores en la Inglaterra medieval.

El viejo dicho de «si hay sangre, vende» es tan cierto hoy en día como lo era hace dos mil años. Las escenas que nos conmueven, intrigan y fascinan todavía suelen ser extremas y, a menudo, violentas. Nuestra preferencia subconsciente por el contenido radical significa que pocos legisladores, e incluso menos negocios privados, tienen un interés genuino en combatir el extremismo o el discurso de odio. Los políticos responden a las demandas de sus votantes, de manera que dan prioridad a lo que resulta útil desde el punto de vista político por encima de lo que resulta valioso desde el punto de vista estratégico. A su vez, las compañías tecnológicas son esclavas de sus propios modelos de negocio, que dependen en gran medida de los ingresos de publicidad y que están, por lo tanto, gobernados por nuestro comportamiento como consumidores.

Si uno de tus indicadores clave de rendimiento es el número de usuarios mensuales que tiene tu plataforma, cuentas con escasos incentivos para eliminar bots y cuentas falsas, especialmente si sabes que estos podrían constituir un porcentaje significativo de tus usuarios activos. Si otro de tus indicadores clave de rendimiento es el número de usuarios mensuales que tiene tu plataforma, cuentas con escasos incentivos para eliminar bots y cuentas falsas, especialmente si sabes que estos podrían constituir un porcentaje significativo de tus usuarios activos. Si otro de tus indicadores clave de rendimiento se mide por el tiempo que estos usuarios pasan en tu plataforma, retirar contenido extremo que llama la atención de estos usuarios –independientemente de lo extremo o de mal gusto que sea– tiene poco sentido desde una perspectiva estrictamente empresarial. El hecho de que las personas que pasan más tiempo en las plataformas sean las que informan a los algoritmos de recomendación significa que las que están muy involucradas en ellas –como los adictos, los teóricos de la conspiración y los extremistas– ejercen una influencia desproporcionada sobre lo que ven otros usuarios.

Los niveles máximos de soledad, adicción y tribalismo son tanto una fuente como una consecuencia de las nuevas tecnologías

Muchos de los problemas sociotecnológicos de la actualidad son círculos viciosos. Los niveles máximos de soledad, adicción y tribalismo son tanto una fuente como una consecuencia de las nuevas tecnologías. El mundo de las burbujas de los medios sociales, las citas ludificadas, las competiciones de selfies y los videojuegos de inmersión alimentan y son a su vez alimentados por estos factores. A medida que las conexiones se vuelven cada vez más virtuales, las interacciones cada vez más ludificadas y las comunicaciones cada vez más artificiales, las personas se vuelven más solitarias, adictas y tribales. Como consecuencia, dedican más tiempo a los medios sociales, las aplicaciones de citas o los videojuegos.

Los grupos extremistas no solo adoptaron rápidamente las tecnologías, sino que también se aprovecharon antes de las debilidades que las tecnologías crean en la sociedad. Desde los juegos de rol en vivo a las movilizaciones transmitidas en directo y el terrorismo ludificado, las comunidades extremistas virtuales ofrecen a sus miembros nuevos modos de entretenimiento, distracción, gratificación inmediata y subidones efímeros del ego. Usan tecnologías para proporcionar a los individuos lo que la tecnología les ha quitado: sentimiento de pertenencia, confianza en sí mismos e identidad. O la ilusión de todo ello.

En última instancia, la naturaleza entrelazada de la tecnología con la sociedad significa que cualquier intento de ocuparse de una sin prestar atención a la otra tendrá todas las probabilidades de fracasar. El progreso tecnológico no sucede en un vacío social; tampoco los desarrollos sociales ocurren sin consecuencias tecnológicas. Si hemos de contrarrestar el ascenso de los movimientos extremistas altamente tecnologizados e hipersociales, no bastará con culpar solo a la sociedad o a la tecnología. Tampoco será suficiente buscar soluciones que solo estén centradas en la sociedad o en la tecnología. Por el contrario, necesitamos entender y aprovecharnos de la interconexión entre ambas: descubrir lo que las últimas innovaciones tecnológicas le hacen a la sociedad y cómo reflejan el clima general de la época, nuestras debilidades y nuestros deseos.

Este artículo es un fragmento del libro ‘La vida secreta de los extremistas: Cómo me infiltré en los lugares más oscuros de Internet‘ (Temas de Hoy), por Julia Ebner.