El hombre y la máquina

La tecnología es, ha sido y será el motor del progreso de la humanidad. En una sociedad cada vez más gobernada por algoritmos, es un deber inaplazable analizar, desde la ética y los derechos humanos, los impactos de la tecnología en la vida de las personas.

Deep Blue fue el primer ordenador capaz de ganar a un campeón del mundo de ajedrez. El maestro de maestros Garri Kaspárov sucumbió a aquel mamotreto de doce toneladas desarrollado por IBM con un resultado de 3½-2½. Ocurrió en 1997, mucho antes de que Black Mirror atrapara al público con sus relatos distópicos.

Por aquellos tiempos, concretamente en 1998, el científico estadounidense Raymond Kurzweil publicaba el libro La era de las máquinas espirituales. Aseguraba que, en un futuro no muy lejano, una máquina dotada de inteligencia artificial podría realizar todas las tareas intelectuales humanas y sería emocional y autoconsciente, y que en el año 2050 aparecería una nueva especie humana, cuya era bautizó como transhumanismo. Más tarde fundaría la famosa Singularity University, afincada en Silicon Valley. Si bien sus conjeturas no están exentas de polémica y muchos ingenieros y tecnólogos prefieren observarlas con distancia, el desconocimiento de las fronteras tecnológicas impide subestimarlas. Por algo Kurzweil es, desde 2012, el director de Ingeniería de Google.

«El problema que se nos plantea no es dónde va a estar el conocimiento. Va a estar en los ordenadores, porque nosotros tenemos una capacidad de lectura de 600 palabras por minuto y un ordenador puede leer 600 millones de páginas por minuto, de manera que no podemos competir». El filósofo y pedagogo José Antonio Marina introducía con estas palabras el debate La era de las máquinas, organizado por Ethic, en colaboración con Telefónica, con el objetivo de profundizar en los dilemas que plantea la revolución digital, de la mano de un grupo de expertos de primer nivel. «El problema es quién va a tomar la decisión», zanjaba Marina: «Si defendemos que las decisiones deben fundarse en el conocimiento, entonces las tomarán personas. Si no desarrollamos las herramientas intelectuales humanas para manejar la tecnología, la tecnología nos va a manejar a nosotros. Teniendo en cuenta que los ordenadores nos van a proporcionar una realidad expandida, deberemos educar en una inteligencia expandida».

José Antonio Marina: «Si los ordenadores nos van a proporcionar una realidad expandida, tendremos que educar en una inteligencia expandida»

Aquella partida de ajedrez entre Kaspárov y su hierática contrincante es una buena metáfora para considerar nuestra relación con la tecnología. ¿Quién juega mejor al ajedrez? ¿Los humanos? ¿Las máquinas? ¿O los dos juntos? Así, el propio Kaspárov organizó pocos meses después de su debacle la primera partida de «ajedrez centauro». Él y Veslein Topalov, acompañados de su computadora, planificaron sus jugadas de acuerdo con las recomendaciones que les ofrecía ese «yo extendido».

La ética del algoritmo

En las dos décadas que nos separan de aquella escena, han cambiado muchas cosas. La cibercriminalidad, la posverdad o las brechas tecnológicas emergen como los nuevos desafíos de nuestro siglo. El hecho de que hoy, en tan solo 48 horas, seamos capaces de generar la misma cantidad de datos que en los últimos 2.000 años explica la magnitud de tales retos, así como la urgencia de situar –o recuperar– la ética en el centro de cualquier avance tecnológico.

«Un dron se puede usar para salvar a alguien o para intervenir en un desastre natural, pero también para matar como arma militar. Se necesitan debates nacionales e internacionales para determinar cómo podemos integrar en las máquinas valores globales. La Declaración Universal de los Derechos Humanos debería todavía ser un referente para ello», defiende el escritor y analista Andrés Ortega, autor de La imparable marcha de los robots, que apela a un «pacto social» sobre la transición digital: «La Cuarta Revolución Industrial tiene ganadores – aquellos que están perdiendo el trabajo a causa de la automatización– y perdedores –aquellos que pueden adaptarse–. También se da una brecha clara entre grandes y pequeñas empresas».

Pero ¿quiénes son los responsables? Ortega responde: «En primer lugar, las autoridades públicas a la hora de regular. En segundo, las empresas –la investigación en inteligencia artificial está, en Estados Unidos y Europa, en manos de empresas privadas, a menudo con contratos con Defensa–. Luego, los ingenieros y programadores, que tienen sus prejuicios y valores. En cuarto lugar, las propias máquinas –el Parlamento Europeo propone otorgar a los robots civiles avanzados una personalidad jurídica específica–. Y, finalmente, los ciudadanos».

Por alusión, toma la palabra Elena Valderrábano, directora Global de Ética y Negocio Responsable de Telefónica: «Cualquier desarrollo tecnológico debe ser, desde su concepción, un desarrollo justo, que no produzca sesgos ni por las condiciones humanas ni por cuestión de género, talento o discapacidad. Debe ser transparente y trazable, es decir, debemos saber qué datos usa el algoritmo y de dónde vienen. Y tener una finalidad humanitaria, en el sentido de que implique una mejora para la sociedad. Es fundamental que toda la cadena cumpla esos mismos principios, porque, al final, la mayoría de los usos de la inteligencia artificial no siempre son desarrollos propios, sino de terceros». Valderrábano destaca uno de los desafíos con más aristas de la era digital: la privacidad. «Es uno de los derechos fundamentales que más rápido está cambiando. En ese sentido, las soluciones no están viniendo de las instituciones y por eso las empresas tenemos un rol muy relevante. Los impactos que puede lograr una empresa como la nuestra, con 122.000 empleados y más de tres millones de clientes, junto a partners y socios, son enormes».

¿Debemos preocuparnos por nuestros datos?

No es casualidad que Apple, Alphabet (Google), Microsoft y Facebook, junto a la intrusa Amazon (que no desarrolla su actividad en el sector tecnológico), conformen las cinco compañías más importantes a nivel mundial atendiendo a su capitalización bursátil. «Su valor billonario en bolsa atiende a dos activos: la tecnología y, especialmente, lo que la nutre, nuestros datos», afirma la abogada especialista en derecho tecnológico y privacidad Natalia Martos, socia fundadora del despacho Legal Army. «No hemos sido conscientes de que, en todo momento, estábamos entregando nuestra privacidad – opiniones, gustos, afiliación sindical, religiosa…–, que tiene un valor incalculable».

Natalia Martos: «El Reglamento General de Protección de Datos europeo ha sido un mazazo para los gigantes tecnológicos americanos»

En los veinte años que Martos lleva dedicada a este campo, se han dado cambios muy profundos: «Por aquel entonces, la privacidad era una completa desconocida. Cuando tuve la suerte de liderar la Dirección Jurídica y de Privacidad de Tuenti, que funcionaba en España antes que Facebook, me di cuenta de que el 80% de mi trabajo consistía en dar charlas explicando qué era la privacidad. Había muchísimo miedo. Ese desconocimiento lo aprovecharon las multinacionales americanas para captar todo tipo de datos ofreciendo productos realmente atractivos. La regulación en Estados Unidos era completamente diferente a la que tenemos en Europa. Allí no se considera que la privacidad es un derecho fundamental». Para esta experta, el Reglamento General de Protección de Datos (RGPD) aprobado por la Unión Europea en 2016 y puesto en marcha en mayo de 2018 «es una norma transgresora, que rompe con el límite de territorialidad, ya que no solo aplica a las empresas ubicadas en la UE, sino en cualquier parte del planeta, siempre y cuando ofrezcan bienes y servicios dirigidos a ciudadanos que transiten por la UE». «Ha sido un mazazo para los gigantes tecnológicos americanos», asegura.

«Definitivamente, la guerra hoy no ocurre en las trincheras, ocurre en Internet», apunta David de San Benito, director de Responsabilidad Social Corporativa en Cisco España y experto en ciberseguridad. La realidad despeja las dudas: el impacto de la cibercriminalidad representa el 1% de la riqueza mundial, lo que supone 350.000 millones de euros al año. Desde 2014, se ha multiplicado por 15. «Frente al rápido avance de la tecnología, existen vulnerabilidades que ciertos malhechores aprovechan para desarrollar las armas cibernéticas. Hemos visto solo el principio. Desde Cisco hemos desarrollado unidades como Talos, que se encargan de monitorizar el tráfico y proteger de este tipo de ataques. Talos recolecta más de 1,5 millones de amenazas diarias, y bloquea 19 billones de accesos no permitidos. El sector privado representa la primera defensa. Pero, a la vez que las empresas innovan, también innovan los cibercriminales», advierte.

«Las tecnologías son maravillosas y aterradoras. El potencial de viralidad de los miles de millones de objetos conectados claramente contribuye a ese tipo de problemas», añade la escritora y periodista Marta Peirano, especialista en seguridad, privacidad y derechos de Internet. «Cuando nace Internet en el fin de año de 1983, bajo el protocolo TCP/IP, se aplica con unas condiciones muy específicas: tiene que ser una red de uso general, donde todas las redes que ya existen puedan conectarse sin cambiar fundamentalmente su naturaleza. Es una red descentralizada, diseñada para sobrevivir no solo a un ataque nuclear sino también al paso del tiempo. La diseñaron de manera que no estuviera optimizada para ningún tipo de contenido, usuario o estructura. Eso permitió que se cambiara el cable de cobre por la fibra óptica o que pasáramos de una web basada en el email y los foros IRC a una web basada en contenido de vídeo y audio por streaming. Los estándares abiertos siguen funcionando. El problema está en otra capa de Internet. Las infraestructuras no son solo los objetos físicos, sino que tienen que ver con la gobernanza».

«Ahora que sabemos que las plataformas tecnológicas nos espían con el propósito de manipularnos –no solo comercial, sino políticamente–, nuestras redes se están transformando a gran velocidad en redes abiertas, y las campañas políticas se están volviendo clandestinas, están empezando a discurrir por el sistema de mensajería que te llega al móvil», añade Peirano: «Es el primer medio de comunicación de masas cifrado».

Pablo Simón: «En algún tiempo fuimos extremadamente optimistas y hablábamos de ‘wikidemocracia’. Ahora estamos hablando de Cambridge Analytica, ‘bots’ rusos y posverdad»

La posverdad y la turbopolítica

Cada minuto se realizan más de 3,5 millones de búsquedas en Google, se producen 900.000 accesos a Facebook y se envían 156 millones de emails. Esta necesidad de estar informados a cada instante ha provocado el auge de las conocidas fake news. La consultora Gartner recoge en su informe Predicciones tecnológicas para el 2018 que en 2022 la mayoría de los países occidentales consumirán más información falsa que noticias reales. La línea entre la realidad y la distopía vuelve a difuminarse. «En algún tiempo fuimos extremadamente optimistas sobre las capacidades que iba a tener la tecnología. Hablábamos de wikidemocracia, en relación con esos mecanismos mucho más horizontales para la toma de decisiones que brindaba Internet. Y ahora estamos hablando de Cambridge Analytica, bots rusos, posverdad y polarización», repasa Pablo Simón, politólogo y profesor de Ciencia Política en la Universidad Carlos III de Madrid.

«Algunas voces sostienen que las redes generan burbujas comunicativas, en las que solo tratamos con la gente que piensa como nosotros, por lo tanto, nos volvemos a posiciones más polarizadas. A ello se suma que el consumo de las redes muchas veces es social. Tú esperas una gratificación de tu entorno cercano cuando compartes una noticia, lo que provoca que, como en tu familia hay gente con diferentes ideas políticas, te expongas, sin quererlo, a inputs distintos que no tendrías si solo te expresaras en sistemas offline», reflexiona el analista. Y contrapone otra visión: «Otros estudios afirman que, en Estados Unidos, la polarización ha aumentado, pero no entre la gente que se expone a Internet, sino a los medios tradicionales, especialmente la televisión, y sobre todo en gente de mayor edad. No está, por tanto, del todo claro que efectivamente sea una cuestión determinada por las redes».

Lo que no deja atisbo de dudas es que la crisis económica marcó un antes y un después en nuestra actividad en las redes. Simón lo explica: «A partir de la crisis, los ciudadanos empleamos internet como una forma prevalente de información política, con todas las ventajas e inconvenientes que eso conlleva. Los partidos políticos adaptan su comportamiento en función de estas nuevas herramientas, son más horizontales, más bidireccionales, también con sus ventajas e inconvenientes. Además, muchos mecanismos de participación extrainstitucional se vehiculan vía internet. Es decir, las protestas de los ‘chalecos amarillos’, las primaveras árabes, el 8-M… no se entienden sin una infraestructura que permite conectar diferentes nodos de sensibilidades. Esto genera una suerte de turbopolítica, que implica la aceleración de los ritmos políticos, la necesidad de que nuestros políticos reaccionen en tiempo real a cada problema y la incapacidad de fijar la atención».

Elena Pisonero: «Urge una responsabilidad colectiva para evitar que las próximas generaciones se encuentren con máquinas gobernando»

Elena Pisonero, presidenta de Hispasat, afina la mirada: «Todo esto lo hablamos con nuestras gafas occidentales. La Unión Europea sigue en una burbuja, pensando que va a seguir estableciendo las reglas. No nos estamos enterando. La crisis económica no ha afectado a todos los países por igual. Algunos han sacado ventaja, como China». Pisonero ahonda en una solución para combatir esas desigualdades: «Estamos cerrando algunas brechas, pero estamos abriendo otras. Ante la inteligencia artificial, ante la singularidad de Kurzweil, hay que plantear una inteligencia colectiva mucho más potente, que reintermedie lo que se ha desintermediado. No podemos esperar a que cambien las instituciones educativas. Todos tenemos una responsabilidad, colectiva e individual, para que las próximas generaciones no se encuentren con máquinas gobernando».

El padre de las tres uves dobles, Tim Berners-Lee, publicaba una carta abierta en marzo de 2017, coincidiendo con el 28 aniversario de la creación de la World Wide Web: «Imaginaba la web como una plataforma abierta que permitiría a todas las personas, en todas partes, compartir información, tener acceso a oportunidades y colaborar más allá de límites geográficos y culturales. En muchos aspectos, ha cumplido con esta visión, pero en los últimos tiempos me he sentido cada vez más preocupado por tres nuevas tendencias». El científico británico se refería, en este orden, a la privacidad, las fake news y la falta de transparencia en la publicidad. El final de su misiva bien puede cerrar este reportaje: «Se ha necesitado de todos para construir la web que tenemos, y ahora depende de nosotros construir la web que queremos».