Señor algoritmo, ¿me concede una hipoteca?

Artículo

Pelayo de las Heras

@draculayeye_

Ilustración

Morning Brew

Aquel día que pasaría a la historia, el contendiente iba vestido con una sobria americana azul de cuadros grises y tenía las manos apoyadas sobre sus sienes. El cabello ya era ligeramente cano entonces y su gesto preocupado mostraba que aquella vez la complejidad de la partida era absoluta. En esa histórica jornada de 1997, Garry Kaspárov, campeón mundial de ajedrez, iba a perder una partida contra una máquina, la Deep Blue de IBM. La contienda, recogida en los medios de comunicación de todo el mundo, se convirtió en uno de los primeros hitos que demostró públicamente el brillante futuro que el machine learning tenía aún por delante.

Aunque el mundo que habitamos sea muy distinto al de entonces, la victoria del superordenador ajedrecista fue apenas un aviso de lo que estaba por llegar. Ese tipo de tecnología que entonces marcó un hito hoy domina nuestra vida: su presencia se halla, por ejemplo, en las recomendaciones que Amazon nos realiza al entrar en su página web, en las rutas automáticas que Google Maps nos marca de forma improvisada, en la detección de spam en el correo electrónico o incluso en la predicción de la trayectoria que podría seguir el coronavirus. El machine learning –o aprendizaje automático– no es, sin embargo, una disciplina autónoma, sino que pertenece a la inteligencia artificial, siendo una de las muchas ramas que de ella derivan. Su importancia es enorme y, en parte, hace que la inteligencia artificial haya llegado a ser lo que es en la actualidad.

Esta tecnología, de corte estadístico y computacional, permite a la máquina o entidad digital pensar por sí misma, aprender de sí misma. Para su funcionamiento efectivo se entrena con bases de datos que le permiten encontrar ciertas guías y patrones dentro de los mismos. Estos, a su vez, le permiten extraer un aprendizaje que, posteriormente, se refuerza de forma autónoma, permitiéndole actuar sin intervención humana. Su funcionamiento responde, sobre todo, a las capacidades de análisis y predicción que logra mostrar. Nuestro futuro está marcado por estos algoritmos, tal y como demuestra el último proyecto de Deep Mind. Esta filial de Google ha logrado batir un récord respecto a la predicción exacta –con alrededor de un 90% de acierto– de la estructura de las proteínas. Si bien puede sonar como algo alejado de nuestra realidad, no lo es: la habilidad de predecir con precisión esta clase de estructuras sería de gran ayuda para las ciencias de la salud y la medicina a la hora de comprender las construcciones de bloques de células, lo que permitiría, a su vez, descubrimientos y desarrollos de medicinas de una forma mucho más rápida y avanzada. Entonces, ¿es posible que esta tecnología, a su vez, nos pueda manipular?

«Los algoritmos del machine learning nos proveen de información que luego usamos para tomar decisiones», afirma Richard Everson, profesor en la Universidad de Exeter. Eso sí, precisa: «Sin embargo, lo realmente preocupante de todo esto es que el usuario no sepa de dónde proviene esa información y cómo ha llegado, en definitiva, a esa decisión que ha tomado. Al final, hay que tener en cuenta que el resultado depende de los datos utilizados para entrenar el algoritmo, y esto puede llevar a la aparición de determinadas parcialidades o prejuicios respecto a las propias decisiones». Dicho de otra forma, esta tecnología puede enseñarte, por ejemplo, noticias de las redes sociales que ella misma crea que son relevantes, algo que puede crear una cámara de eco que polarice, aún más, a los ciudadanos de una sociedad.

El último proyecto de Deep Mind es capaz de predecir la estructura de las proteínas con alrededor de un 90% de acierto

Aunque con otro tipo de aplicaciones, es algo que ya sucede. Las recomendaciones algorítmicas están también presentes en las plataformas de entretenimiento, como ocurre, por ejemplo, con Netflix: su conocimiento de la hora de conexión del cliente, el tiempo que pasa en la plataforma y las visualizaciones que realiza son informaciones que, al final, acaban nutriendo el propio machine learning. Basándose en todo ello nos envía sugerencias personalizadas y también, tal y como afirma el vicepresidente de Producto de la compañía, Todd Yellin, influye en la producción de contenidos, pues los datos se utilizan a la hora de crear –o no– un determinado tipo de serie. Así, se pone en marcha una intrincada rueda de influencia: el machine learning nos influye con ciertas recomendaciones y, a su vez, los usuarios que las ven proporcionan a la plataforma las pistas sobre lo que el público, en general, demanda.

¿Es posible que esta tecnología pueda funcionar con absoluta certeza, sin las imperfecciones y los sesgos de la misma sociedad que la ha creado? Por ejemplo, en enero de este mismo año, un ciudadano estadounidense residente en Michigan era detenido por la policía estatal al haber sido identificado por el reconocimiento facial de una cámara. Tras más de 18 horas detenido, Robert Julian-Borchak fue puesto en libertad al revelarse que el algoritmo de detección facial había fallado. Por primera vez en la historia, tras 20 años usando sistemas similares, la policía estadounidense documentaba un arresto erróneo a causa de un algoritmo «defectuoso». En este sentido, estudios realizados en 2018 por el Instituto Tecnológico de Massachusetts (MIT) han demostrado que esta tecnología funciona de forma deficiente en muchas ocasiones. Así, mientras que su funcionamiento suele ser relativamente bueno en hombres blancos, el resultado siempre acaba con una menor precisión en relación con otros grupos demográficos –las mujeres afroamericanas, de hecho, presentaban errores de reconocimiento de hasta un 35%, una cifra completamente desmesurada–. Los creadores de esta tecnología gestionaban una errónea selección de datos y unos sesgos de carácter racial, y el producto quedó irremediablemente alterado por la falta de diversidad de las imágenes, ya que la mayoría tan solo mostraba los rostros de varones de piel blanca.

Garry Kaspárov contra Deep Blue.

Uno de los aforismos del aprendizaje automático es que el software solo es tan inteligente como los datos que se han usado para entrenarlo o, lo que es lo mismo, que solo será tan eficaz como las herramientas que se le otorguen. En cierto modo, así, las máquinas siempre serán iguales que nosotros. ¿O no?

Un futuro incierto

«El machine learning afectará, indudablemente, a la naturaleza del trabajo. Hará innecesario que la gente realice tareas rutinarias, entre lo que se incluyen cosas tan dispares como los diagnósticos médicos o las búsquedas de casos legales para encontrar precedentes», señala Everson. Son previsiones como estas las que parecen estar haciéndose realidad en estos precisos momentos: la OCDE afirmaba en 2019 que más del 20% de los empleos en España podrían llegar a automatizarse completamente en el futuro, mientras que, en general, el 32% de los empleos terminarán sufriendo una transformación radical por el avance de la tecnología.

Según la OCDE, más del 20% de los empleos en España podrían llegar a automatizarse completamente en el futuro

Empresas como Lexer, una corporación de servicios legales dirigida a otras compañías, ya intentan aplicar soluciones de esta clase. Según afirman en su propia página, han estado trabajando desde hace años en la aplicación del aprendizaje automático para la gestión de resoluciones judiciales. «El volumen de datos y el trabajo realizado por nuestros abogados ha ido conformando un sinfín de datos disgregados, datos que de forma separada no aportan valor, pero que en su conjunto, y con la aplicabilidad del machine learning, nos pueden permitir en un futuro cercano predecir el tipo de resolución que vamos a recibir y en qué momento se dará», explican.

Otro tanto ocurre con el sector bancario, para el cual es fácil prever un cercano y drástico recorte de empleos. Desde Bankia, por ejemplo, utilizan una plataforma digital cuyo protagonismo está previsto que aumente exponencialmente, una entidad humanizada con el nombre de Marvin que pretende mejorar la eficiencia en la concesión de créditos mediante el aprendizaje automático. Esta tecnología permitiría automatizar tareas que, ahora, aún se llevan a cabo mayoritariamente de forma manual, como el reconocimiento y la validación de hasta diecisiete tipos de documentos distintos, entre los que se hallan la vida laboral, el IRPF o el IVA trimestral y anual. A Marvin se le presupone, además, que a través del machine learning y el deep learning –una variante del primero–, adquirirá la capacidad de prestar servicios sin intervención humana. Así, por ejemplo, los clientes podrán contratar préstamos en este banco sin necesidad de tratar con un agente. Se le otorga también, además, un margen de error mucho menor que el de cualquier individuo.

No se trata de un caso aislado sino que, según parece, es esta la dirección en que el sector entero terminará moviéndose, al igual que tantos otros. Así lo atestiguan, además, las acciones de la Unión de Créditos Inmobiliarios, cuyo proyecto «Phy-Digital-Pid» pretende automatizar el proceso por el que se decide si se entrega o no un préstamo al cliente. Cabría esperar, así, que esto fuese un síntoma de aquello que aún está por llegar. «Esta tecnología no es mala per se pero, por supuesto, puede ser usada de una manera nociva, como ocurre con casi todo avance», señala Everson.

Es esta tecnología la que también dará soporte a unos coches autónomos que, según algunos gurús tecnológicos, terminarán copando el mercado en el futuro. Para el experto, aunque la tecnología tiene una potencialidad enorme, aún queda camino por recorrer. «Actualmente estamos creando tecnología para cumplir tareas específicas, en contraste con la propia inteligencia humana, que es buena en cuanto al desarrollo de las tareas generales. La búsqueda de inteligencia general será la que estimule los desarrollos de los años que aún están por venir», explica.