Ciudadanos de confianza: Black Mirror se hace realidad en China

Artículo

Carmen Gómez-Cotta

@GomezCotta

¿Te imaginas vivir en una sociedad donde las personas se califican unas a otras en función de su comportamiento y sus interacciones con los demás? El primer capítulo de la tercera temporada de Black Mirror, titulado Nosedive, pone sobre la mesa una distopía en la que el resultado de esta evaluación afecta directamente al estatus socioeconómico de los ciudadanos. La historia se desarrolla en un mundo donde las actividades diarias de los ciudadanos están constantemente monitoreadas: lo que compran, cómo lo pagan, dónde viven, dónde trabajan, qué hacen en su tiempo libre, cuántas horas al día ven la tele, qué webs visitan, e incluso, quienes son sus amigos y familiares. No hay escapatoria posible.

La descripción de Black Mirror reza: «serie británica de ciencia ficción». Sin embargo, después de ver el caso real de China y su sistema de crédito social, tal vez habría que catalogarla con una nueva etiqueta. Porque, a veces, la realidad supera la ficción. ¿O tal vez la ficción se basa en ella?

Aunque la serie de televisión se estrenó en el año 2016, dos años antes, en junio de 2014, el Consejo de Estado chino publicaba el resumen de su Plan para la Construcción de un Sistema de Crédito Social, un documento que contiene una idea tan sobrecogedora como la de Nosedive: elaborar un índice nacional de confianza social que valore el tipo de ciudadano que es cada uno.

Este censo es un sistema que recopila datos para ver cómo las personas actúan y se comportan en sociedad y que, además, las premia o castiga sumando o restando puntos. En base a la puntuación, podrán (o no) tener acceso a créditos bancarios, universidades, cargos públicos o la posibilidad de comprar un coche, coger un tren, subir a un avión.

China ha vetado la compra de billetes de avión a más de 9 millones de ¿malos? ciudadanos

Ya el año pasado, la Comisión de Desarrollo Nacional y Reforma anunció que vetaba la compra de billetes de avión a más de 9 millones de ciudadanos chinos y la de billetes de tren de primera clase a otros 3 millones. «Romper las normas es algo vergonzoso», señalan las autoridades chinas.

Cometer infracciones al volante, cruzar un semáforo en rojo, comprar demasiados videojuegos o publicar noticias falsas son motivos por los que uno resta puntos. Aunque de momento el programa está fragmentado y solo ha sido implementado por algunos ayuntamientos o por alguna plataforma tecnológica privada, se espera que empiece a funcionar a nivel nacional en 2020.

¿Qué diría hoy George Orwell si estuviera entre nosotros? Su novela 1984 (escrita en el año 1949) resulta ahora un augurio de lo que viene. En ella retrata al Gran Hermano, el líder de Oceanía, un estado totalitario donde el partido en el poder mantiene el control absoluto sobre sus ciudadanos a través del constante control y una observación perpetua.

Como cualquier otro sistema totalitario, la Oceanía de Orwell espera de sus ciudadanos que denuncien a quienes no se comportan como debieran. Porque si uno actúa fuera de lo estipulado y otro lo sabe y no dice nada, se convierte en cómplice y culpable a partes iguales. Salvando las distancias, en esta táctica parece haberse inspirado China, donde se insta a las empresas a comprobar la lista negra –un documento público con los nombres de aquellos con poco crédito social–, antes de contratar al personal o de hacer negocios. Porque, si se contrata a alguien con un índice de confianza bajo, las consecuencias serán irremediablemente negativas.

El peligro de este sistema de crédito social chino es que otros países o compañías también lleguen a adoptarlo. «Según China va creando un nuevo orden mundial usando la inteligencia artificial, existe la posibilidad de que lleguemos a alcanzar ese punto en el que no seamos capaces de hacer negocios con otros países, a menos que tengamos otro sistema de crédito social», opina Amy Webb, fundadora del Instituto Future Today y autora de The Big Nine, un libro sobre cómo los gigantes tecnológicos y el uso que están haciendo de la inteligencia artificial podría transformar las sociedades y las relaciones sociales.

Amy Webb: «Nuestras vidas están siendo optimizadas por un puñado de personas trabajando en Silicon Valley»

«Estamos rodeados de diferente sistemas que, cada día, a todas horas, toman millones de decisiones por nosotros, con el objetivo (o justificación) de optimizar al máximo nuestras vidas», explica Webb. El problema de hacerlo aplicando la inteligencia artificial es que quienes desarrollan dichos sistemas determinan qué es óptimo y que no. «Esas personas no representan a la mayoría de la sociedad mundial. Así que, ¿cómo pueden tales sistemas reflejar nuestros propios valores individuales?», se pregunta Webb.

Pensemos en aquellos aspectos cotidianos sobre los que hemos perdido el control. Podríamos empezar con  respuestas sugeridas que aparecen cada vez que respondemos a un mensaje o a un email, empujándonos a seleccionar la opción que más nos conviene en vez de teclear la nuestra propia. Aun cuando la respuesta es igual a la que queríamos expresar, no somos nosotros los que estamos decidiendo, sino un sistema que interpreta lo que queremos decir.

«No nos damos cuenta de qué parte tan grande de nuestras vidas está siendo optimizada por un puñado de personas trabajando en Sylicon Valley», advierte Webb. Tal vez ahora no parezca muy relevante, pero a largo plazo, es preciso plantearse cómo va a cambiar nuestra sociedad y la manera en la que interactuamos y nos comunicamos. ¿Sabemos realmente hacia dónde caminamos o desconocemos el mundo que estamos construyendo?