Frenar a Silicon Valley

Si «muévete rápido y rompe cosas» (Mark Zuckerberg) era el eslogan no oficial de la era de las redes sociales, ¿cuál es el eslogan no oficial de la era de la inteligencia artificial generativa?

Podemos estar casi seguros de que debe de ser el mismo, aunque esta vez las cosas que se rompan pueden ser muchísimo peores. La desinformación automatizada amenaza con perturbar las elecciones en todo el mundo y ya hay grupos enteros de personas que han empezado a perder sus medios de sustento a manos de las grandes empresas tecnológicas, esas que hablan de un «futuro positivo» mientras hacen todo lo posible por arrinconar a la gente.

La era de las redes sociales ha destruido la privacidad, ha polarizado la sociedad, ha acelerado la guerra informativa y ha llevado a muchas personas al aislamiento y la depresión; una demanda reciente, de hecho, plantea que empresas como Meta, Reddit y 4chan «se benefician del material racista, antisemita y violento que se muestra en sus plataformas para maximizar la participación de los usuarios». Al mismo tiempo, las plataformas de redes sociales han creado un nuevo modelo de negocio: el capitalismo de la vigilancia. La venta al mejor postor de anuncios dirigidos que aprovechan los datos personales de la gente (postores entre los que no solo se encuentran los anunciantes tradicionales, sino también estafadores, delincuentes y operativos políticos) ha enriquecido desorbitadamente a ciertas personas y les ha otorgado un poder excesivo sobre nuestras vidas.

En cuanto las empresas de redes sociales han descubierto que la desinformación fomenta la interacción, lo que a su vez conduce a un considerable aumento de las ganancias, y han aprendido que cuanto más tiempo alguien utiliza sus servicios, más dinero se embolsan, nació la «economía de la atención».

Las plataformas de redes sociales han creado un nuevo modelo de negocio: el capitalismo de la vigilancia

De este modo, los medios de comunicación contrastados que aspiraban a cierta neutralidad dieron paso a un conglomerado alimentado por la IA, diseñado para espolear la ira y en el que los clics son lo único que importa. Esto, a su vez, ha dado lugar a incontables cajas de resonancia, repletas de cólera y a menudo sometidas a una gran distorsión, en las que cualquiera con una opinión ridícula puede encontrar a decenas de miles o incluso millones de otras opiniones que la refuerzan. Los argumentos intelectuales han dado paso a textos de 140 caracteres, a soundbites o cortes de audio y a vídeos de TikTok; en definitiva, a una cultura de «cultivo de la interacción». Los mercaderes de la propaganda han encontrado en las redes sociales una herramienta perfecta y fácilmente corruptible. Los usuarios se han convertido en peones. Una ley del Congreso de Estados Unidos, el apartado 230 de la Communications Decency Act (Ley de Respetabilidad en las Comunicaciones) de 1996, ha empeorado aún más las cosas, al dejar a las plataformas de redes sociales casi sin responsabilidad por sus acciones. Hoy en día, hay toda una generación que ha crecido sin conocer nada más.

A menos que nos pongamos manos a la obra como sociedad, la IA generativa empeorará aún más esta situación actual, con consecuencias que van desde la pérdida de los últimos vestigios de privacidad hasta una mayor polarización de la sociedad, y creará un conjunto de nuevos problemas que podrían eclipsar con facilidad todo lo que ha ocurrido hasta el momento. Aumentarán los desequilibrios de poder, donde los líderes tecnológicos no electos controlarán amplísimos aspectos de nuestras vidas; la desinformación automatizada podría destruir lo que queda de la democracia; los sutiles sesgos que están integrados en chatbots controlados por unos pocos individuos selectos moldearán las opiniones de la mayoría…

En el peor de los casos, una IA poco honesta e insegura podría provocar catástrofes masivas, desde el caos en las redes de distribución eléctrica hasta guerras accidentales o la pérdida de control de flotas de robots. Además, muchas personas podrían perder sus empleos. Los modelos de negocio de la IA generativa ignoran las leyes de propiedad intelectual, la democracia, la seguridad del consumidor y el impacto en el cambio climático. Y como se ha extendido con tanta rapidez y con tan poca supervisión, la IA generativa se ha convertido en un enorme experimento sobre toda la población, sin ningún tipo de control.

Este texto es un fragmento de ‘Frenar a Silicon Valley’ (Shackelton Books), de Gary Marcus.