Cory Doctorow

Artículo

Esther Paniagua

Fotografías

Jonathan Worth

Irreverente, sarcástico y tan agudo como incómodo, el canadiense Cory Doctorow (Toronto, 1971) lleva más de dos décadas analizando la relación entre tecnología, poder y capitalismo. Novelista, ensayista y activista por los derechos digitales, se ha convertido en una de las voces más influyentes a la hora de explicar por qué internet y las grandes plataformas han pasado de prometer emancipación a convertirse en máquinas de extracción de valor. En 2022, acuñó el término «enshittification» («mierdificación») como el proceso por el que las plataformas digitales primero seducen a los usuarios, luego exprimen a las empresas que dependen de ellas y, por último, degradan la experiencia de todos para maximizar sus beneficios. El concepto se ha popularizado tanto que fue elegido palabra del año en 2023 por la American Dialect Society y en 2024 por el diccionario Macquarie. Con motivo de la publicación en español de ‘Mierdificación‘ (Capitán Swing), conversamos con Doctorow sobre el deterioro de las plataformas, la economía política de la inteligencia artificial, el futuro del trabajo y la oportunidad histórica de construir una infraestructura tecnológica más abierta, interoperable y democrática.

¿Por qué este libro ahora?

Llevo más de 25 años trabajando como activista por los derechos digitales, y uno de los grandes problemas de este campo es que muchas de sus cuestiones son abstractas, técnicas y aparentemente lejanas. A menudo cuesta transmitir que lo que está en juego no pertenece a un futuro remoto, sino a la vida cotidiana de la gente. Una parte importante de ese trabajo consiste en encontrar marcos narrativos que hagan visibles la urgencia y la relevancia del problema. A veces eso se consigue con ensayos, con ciencia ficción, con metáforas o con parábolas. Y, a veces, también con una palabrota. En 2022, en un momento en que la frustración con las plataformas digitales estaba claramente desbordándose, usé ese término (enshittification) junto con una crítica bastante detallada en los planos económico, político y técnico. Y funcionó. Creo que mucha gente necesitaba exactamente eso: una licencia para la vulgaridad, para expresar lo que estaban viviendo.

¿Qué es, en pocas palabras, la «mierdificación»?

Es una teoría sobre cómo las plataformas digitales explotan la flexibilidad de la tecnología para extraer valor de usuarios, clientes y proveedores sin consecuencias reales. En el fondo, toda empresa quiere extraer el máximo valor posible: el negocio ideal sería no pagar nada por lo que obtiene y cobrar todo lo que vende. La diferencia es que en el entorno digital eso puede hacerse con una precisión y una opacidad inéditas. Puedes empeorar un servicio solo una vez de cada cien, para que el usuario no detecte el patrón. Puedes tratar a cada persona de forma distinta, ajustar precios, resultados, recomendaciones o comisiones según quién seas. La digitalización permite un grado de manipulación que en el mundo físico sería mucho más difícil o mucho más caro.

«Las plataformas digitales explotan la flexibilidad de la tecnología para extraer valor de usuarios, clientes y proveedores sin consecuencias reales»

¿No es excesivo asumir que todas las empresas terminan funcionando así? ¿No hay quienes quieren aportar valor de verdad?

Claro que las hay. El problema es que, aunque tú quieras ofrecer valor, si diriges una empresa que cotiza en bolsa o está sometida a inversores, vas a sufrir presión constante para aumentar la parte que te quedas. Como dijo mi teórico comunista favorito, Adam Smith, no obtenemos nuestro mejor pan porque el panadero se preocupe por nosotros, sino porque al panadero le preocupa que compremos el pan en otro sitio. Mientras exista esa disciplina externa, el sistema puede producir resultados razonables. Pero cuando esa disciplina desaparece, las cosas cambian. Si un panadero atraviesa dificultades, quizá reduzca un poco el tamaño de la barra. En el mundo digital eso es muchísimo más fácil. Puedes engañar a cada usuario de una manera distinta, puedes introducir pequeños deterioros aquí y allá, puedes cobrar distinto según la persona o el momento. Y todo eso se vuelve aún más probable cuando faltan límites externos: regulación eficaz, competencia real, derechos laborales fuertes o interoperabilidad.

En el libro describes tres fases de este proceso. ¿Cuáles son?

En la primera fase, la plataforma es buena con sus usuarios para atraerlos y hacer que dependan de ella. En la segunda, como esos usuarios ya están atrapados, empieza a empeorar su experiencia y transfiere valor hacia los clientes empresariales: anunciantes, vendedores, medios, desarrolladores. Después atrapa también a esos actores. Y en la tercera fase, con usuarios y empresas ya dependientes, empieza a extraer valor de todos a la vez, hasta el límite mínimo que cree compatible con que sigan allí. En ese momento la plataforma se convierte, básicamente, en un montón de mierda.

Y se expande de lo online a lo offline…

Es una de las expresiones más claras de lo que permite la digitalización: el twiddling, o la capacidad de modificar la lógica del sistema para cada usuario y en cada sesión. Es algo que no puedes hacer en el mundo físico: para que un supermercado pudiera, por ejemplo, subir el precio a todos los paraguas cuando empieza a llover, tendría que pagar a un ejército de personas con pistolas de precios para que estuvieran por ahí esperando a que llueva, y luego correr por toda la tienda y volver a etiquetar todos los paraguas. No sería rentable. Ahora bien, si el supermercado tuviera etiquetas electrónicas, podría subir automáticamente el precio de todos los paraguas tan pronto como empezase a llover.

¿Dónde encaja la inteligencia artificial en este esquema?

El twiddling es una de las cosas para las que la IA es realmente buena: engañar de manera distinta a cada persona. Si eres una plataforma comercial, puedes estimar el precio máximo que pagará cada cliente, los llamados «precios personalizados». Si eres Uber, por ejemplo, puedes calcular el salario mínimo que aceptará cada conductor. La IA es especialmente propensa a la mierdificación, entre otras cosas porque no es determinista: resulta muy difícil saber si está cometiendo un error genuino o si el sistema está sesgado para favorecer ciertos resultados. Si le preguntas a un chatbot qué producto comprar, ¿te recomienda el mejor o aquel por el que alguien paga más comisión? Si la respuesta es mala, ¿es una alucinación técnica o una manipulación comercial? Esa ambigüedad ofrece una negación plausible extraordinaria. Además, la IA se presta muy bien a optimizar la extracción. En muchos servicios se factura por tokens o por distintos niveles de computación. Eso significa que la empresa puede decidir, de forma invisible para el usuario, qué recursos dedica a cada consulta. Puede argumentar que lo hace para abaratar costes, pero también puede derivar ciertas preguntas a procesos más caros para inflar la factura, o a procesos más baratos cuando no quiere ofrecerte un buen resultado.

Hablas de burbuja en torno a la IA generativa.

Sí. Y creo que es importante decirlo con claridad. La burbuja va a explotar y el impacto será enormemente dañino. Se han gastado ya cientos de miles de millones de dólares en IA y se habla de invertir todavía mucho más. Pero los ingresos del sector no justifican ni de lejos ese nivel de gasto. Creo que fue Keynes quien dijo que los mercados pueden mantener su irracionalidad más tiempo del que tú puedes mantener tu solvencia. La economía unitaria es pésima. Ha habido tecnologías que perdieron dinero al principio y luego encontraron una senda rentable. La web es un ejemplo clásico. Pero la web tenía una economía unitaria prometedora: cuantos más usuarios la usaban, más valor generaba. En la IA ocurre casi lo contrario. Cada nuevo uso menos rentable empeora la ecuación. Los modelos cuestan más, requieren más recursos y no existe una explicación convincente de cómo eso va a sostenerse indefinidamente. En finanzas, la Ley de Stein dice que cualquier cosa que no pueda continuar para siempre se detiene. Y al final se les acabará la gente dispuesta a darles dinero.

«La burbuja de la IA va a explotar y el impacto será enormemente dañino»

¿Cuáles pueden ser las consecuencias?

El 35% del mercado bursátil se va a evaporar cuando las empresas de IA se hundan, porque representan el 35% del [índice bursátil estadounidense] S&P 500. Lo de 2008 parecerá el mejor día de nuestra vida en comparación. Vamos a entrar en una crisis financiera global terrible que será un caldo de cultivo para el fascismo. Ese es el verdadero problema de la IA generativa, y no ese halo de poder místico. Eso no significa que no vaya a haber IA útil. Quizá, cuando estalle la burbuja, terminemos usando GPUs baratas procedentes de empresas quebradas para aplicaciones como la modelización climática, o para entender hasta qué punto nos jodió la IA. Quizá.

También hablas del concepto del «centauro inverso»: sistemas en los que el humano pasa a complementar a la máquina, en lugar de al revés, como los conductores de Amazon, los moderadores de contenido o las personas involucradas en el entrenamiento de los modelos de IA.

Sí. Históricamente, la automatización ha seguido dos caminos. Cuando está dirigida por los trabajadores, se usa para mejorar la calidad; y cuando está dirigida por el capital, se usa para reducir costes. Los telares de vapor enfadaban a los luditas porque producían una tela de peor calidad a menor precio. Sin embargo, los gremios artesanales que fabricaban textiles eran tecnólogos muy capacitados y fabricaban máquinas que producían tela de muy alta calidad, pero era cara. Con la IA pasa algo parecido. Si sustituyes a guionistas de videojuegos por un chatbot, probablemente obtendrás algo más barato y peor. Si sustituyes a periodistas por sistemas automáticos, obtendrás contenidos más baratos y peores.

¿Crees que el uso de la IA para aumentar o para reemplazar es meramente una cuestión de gestión?

La inversión gigantesca que estamos viendo no llegó porque los mercados pensaran que iba a ayudar un poco a los trabajadores a hacer mejor su trabajo. Llegó porque los inversores creyeron que existía un enorme mercado para reducir masa salarial, es decir: no para aumentar, sino para sustituir. Así que no es solo un problema de gestión. Es un problema estructural del mercado. Además, el desarrollo de herramientas como ChatGPT se ha hecho con el propósito de miserabilizar a los trabajadores creativos. La exdirectora de tecnología de OpenAI aseguró que los trabajos creativos reemplazados por la IA «no deberían haber existido en primer lugar». Así que no es que lo oculten precisamente. Y Sam Altman hizo el filtro Miyazaki para vengarse de él por decir que odiaba el arte con IA. Estos tipos son imbéciles y la cuestión es que no son imbéciles excepcionales. Los convertimos en genios o en supervillanos, pero son solo gilipollas normales. Todas las tecnologías tienen gente de mierda en su pasado. Que una persona tan mediocre como Elon Musk tenga tanto poder nos dice que el sistema necesita cambios urgentes. Que un sociópata con suerte pueda terminar con medio billón de dólares y el poder para subvertir democracias es muy preocupante.

«El desarrollo de herramientas como ChatGPT se ha hecho con el propósito de ‘miserabilizar’ a los trabajadores creativos»

¿Existe una alternativa a esta trayectoria?

Si muchas de las herramientas que hoy presentamos como revolucionarias se desarrollasen en laboratorios científicos, probablemente las veríamos como lo que a menudo son: complementos útiles, plugins, funciones concretas. Un corrector que sugiere frases, una herramienta de edición que reorganiza materiales, un sistema que ayuda a programar una rutina, una función que reúne todas las escenas de un personaje en una novela… Algunas personas no sentirían la necesidad de usarla y no pasaría nada.

Dices que las crisis precipitan el cambio.

Sí. Y Donald Trump ha creado las circunstancias así para una sustitución total de la tecnología estadounidense por tecnología abierta, auditable, internacional y estandarizada. Es como Putin: incontinente, no puede parar. Quiere robarse a Groenlandia. Va a cerrar la Corte Penal Internacional. Sancionó al juez brasileño que condenó a Jair Bolsonaro. Está requisando todos los correos de funcionarios europeos de las plataformas tecnológicas para averiguar quién trabajó en la Ley de Servicios Digitales y prohibirles entrar en Estados Unidos para siempre. Está creando el argumento para una transición urgente. Preferiría que no existiera esta crisis, pero las crisis precipitan cambios, y no voy a dejar que se desperdicie.

Europa está empezando a entender que depender por completo de plataformas tecnológicas estadounidenses es una vulnerabilidad estratégica…

Y no solo Europa. Canadá, Brasil, México y otros lugares ya han empezado un ajuste de cuentas.

«Que un sociópata con suerte pueda terminar con medio billón de dólares y el poder para subvertir democracias es muy preocupante»

Para quitar poder a las big tech, aseguras que es clave la interoperabilidad: permitir que terceros desarrollen herramientas que asistan a los usuarios a bloquear la mierdificación. ¿Por qué?

Es la palanca decisiva para permitir que terceras partes desarrollen herramientas que se salten las barreras y permitan que uses esas plataformas sin que te espíen, y que si la tienda de apps no las acepta puedas usar otra, o un programa desarrollado por alguien para hackear tu teléfono e instalarlas, o que te lleves tus contactos y tus datos a otra parte con solo un clic, para reducir el coste de cambio de una a otra.

Eso no resolvería el problema de la desinformación. ¿Por qué no prohibir la publicidad personalizada y el sesgo de popularidad de los algoritmos?

Deberíamos haberlo hecho hace años. Google o Facebook dijeron que tienen un interés legítimo para la publicidad personalizada: «Te hemos prometido en el contrato que vamos a espiarte. Así que estaríamos violando nuestro acuerdo; incumpliríamos nuestra promesa contigo si no te espiáramos». Es escandaloso, y una prueba de lo ineficaces que son los reguladores irlandeses y de lo poco dispuestos que estaban los responsables políticos europeos a provocar una crisis constitucional. Porque si van a Irlanda y toman medidas contra ellos, Viktor Orban [primer ministro de Hungría] y el PiS [el Partido Ley y Justicia de Polonia] lo usarán para acusar a la Unión Europea de no respetar la soberanía. Así que, como no vamos a acabar con la publicidad personalizada mediante regulación, tenemos que hacerlo a través de la interoperabilidad. En el libro cuento la historia de The OG app, desarrollada por dos adolescentes, que te permitía usar Instagram sin anuncios ni sugerencias. Llegó al top 10 de las dos tiendas de aplicaciones en 24 horas y luego Meta pidió a Apple y Google que la eliminaran de sus tiendas de apps, y lo hicieron. Esto nos dice muchas cosas. Primero, que no podemos confiar en Apple y Google y, segundo, que la gente quiere productos que den mejores experiencias, sin ser espiados ni manipulados, ni ver toda la basura.

¿El problema con la regulación es de cumplimiento?

Las tecnológicas fingen ser irlandesas para incumplir la legislación europea, como han hecho con el Reglamento General de Protección de Datos durante diez años. Allí acaban de nombrar a una nueva Comisionada de Protección de Datos que era ejecutiva de Meta, así que ahora la principal policía de la privacidad en Europa es una exempleada de Meta.

«Si juntas a los halcones de la seguridad nacional, a los emprendedores y a los activistas de derechos digitales, tienes una coalición poderosa»

Y no es la única. Una antigua ‘lobbista’ de Meta fue nombrada recientemente por el Parlamento Europeo como relatora del Ómnibus Digital, el paquete de medidas de simplificación digital (o desregulación).

Es asqueroso. Y Apple ha ignorado a la Comisión durante más de un año con respecto a la Ley de Mercados Digitales. Tienen una obligación desde 2024 de abrir la App Store. No solo es que no podamos obligarlas a hacer cosas, es que las protegemos. El artículo 6 de la directiva de copyright prohíbe a las empresas europeas modificar tecnología para remediar sus defectos. Por eso algún hacker español inteligente no puede montar un negocio vendiendo una tienda de aplicaciones para el iPhone. Si multamos a Apple con el 10% de su facturación anual por cada día de incumplimiento, Trump hará que un juez ordene a un banco no entregar el dinero. Nunca lo cobraríamos.

¿Y qué hacemos?

Si hacemos legal que las empresas europeas cojan los billones que las tecnológicas estadounidenses extraen y los conviertan en miles de millones de beneficios europeos, no solo desmierdificaremos la esfera tecnológica de Europa, sino que también crearemos un nuevo y mejor sector tecnológico. Y crearemos las herramientas para migrar fuera de las plataformas estadounidenses donde ahora mismo están atrapados todos los gobiernos de Europa, las empresas estructuralmente importantes y los hogares, que son vulnerables en cualquier momento a que Trump ordene cerrarlas. Trump podría apagar al Gobierno de España porque todo funciona con Office 365. Ahora tenemos medios, motivos y oportunidad. Tenemos una crisis que precipita un cambio. Tenemos una coalición de activistas de derechos digitales y emprendedores, muchos de los cuales son tecnólogos que antes estaban en Silicon Valley y han huido de Estados Unidos. Están cabreados y saben cómo funciona la tecnología. Tenemos una fuga de cerebros inversa en marcha ahora mismo. Estados Unidos está expulsando a los tecnólogos más inteligentes del país de vuelta a sus países de origen. Están buscando dónde ir a construir. Tenemos también una razón de seguridad nacional, y si juntas a los halcones de la seguridad nacional, a los emprendedores y a los activistas de derechos digitales, tienes una coalición poderosa. Es muy emocionante.