Neuroderechos, sesgos y adolescentes: una ecuación por resolver

Artículo

José Manuel Muñoz

@jmmunoz_

A medida que la inteligencia artificial (IA) ha evolucionado, numerosos sectores han aprovechado para plantear de qué forma esta nueva revolución tecnológica puede contribuir para su beneficio. Es el caso de la medicina y la neurociencia donde, en la actualidad, resulta habitual encontrar el uso de sistemas de IA como herramientas de ayuda. Principalmente, cubriendo dos aplicaciones concretas: por un lado, tomar decisiones clínicas para diagnosticar enfermedades, diseñar tratamientos personalizados, acelerar la realización de ensayos clínicos y disminuir los costes de desarrollo de nuevos fármacos; y, por otro, analizar imágenes radiológicas obtenidas con técnicas como los rayos X, la tomografía computarizada o la resonancia magnética funcional (fMRI).

Pese a estas (y otras) evidentes ventajas, o precisamente debido a ellas, el debate ético acerca de la IA es intenso en nuestros tiempos. Aunque hay quienes encuentran la ética como una disciplina en cierto modo censuradora, que impide el avance científico, se trata justamente de lo contrario: desarrollar mejoras en las prácticas y metodologías científicas para que las ventajas sean aún mayores y lleguen a más personas.

Uno de los debates centrales es la posible influencia de sesgos en el uso de sus algoritmos. Por mucho que hablemos de ‘inteligencia’ artificial, es el intelecto humano el que está detrás de su diseño, uso y, por supuesto, eventuales sesgos. Por otro lado, este debate ha convergido en los últimos años con el que se produce acerca del avance de la neurotecnología. A este respecto, han surgido en diversos ámbitos y países las propuestas de neuroderechos, que son «los principios éticos, legales, sociales o naturales de libertad o derecho relacionados con el dominio cerebral y mental de una persona», tal y como los define el investigador Marcello Ienca.

El desarrollo neurocognitivo de los menores no es un proceso homogéneo, sino que se produce a distintas velocidades en según qué partes del cerebro

Entre ellos se incluye, precisamente, la protección contra sesgos algorítmicos. En este punto, surge una pregunta lógica: ¿por qué? ¿Cuál es la conexión de lo neuro con los sesgos algorítmicos? Para responder a ella, regresemos a las dos aplicaciones de la IA en neurociencia.

Recordemos la primera: la toma de decisiones clínicas. En este sentido, uno de los mayores escándalos relacionados con los sesgos de la IA se produjo en 2019, cuando en la prestigiosa revista Science se publicó un estudio que mostraba que, para problemas de salud similares, los pacientes afroamericanos de Estados Unidos recibían un peor tratamiento (menor presupuesto) que los pacientes caucásicos.

Estas decisiones se tomaban mediante un algoritmo empleado por el sistema de salud de dicho país. Es fácil imaginar la conexión de este tipo de sesgos con los neuroderechos: probablemente, numerosos pacientes afroamericanos que padecían enfermedades neurológicas y psiquiátricas, o que estaban en riesgo de contraerlas, vieron afectada negativamente su salud cerebral y mental.

La segunda aplicación era el análisis de imágenes cerebrales. Aunque para alguien no iniciado es fácil caer en la tentación de pensar que estas imágenes son una especie de fotografías instantáneas de este órgano, lo cierto es que el proceso de su adquisición, reconstrucción y análisis es bastante complejo. El papel de los algoritmos de aprendizaje automático en dicho proceso resulta fundamental, y en algunos de los procedimientos empleados pueden llegar a colarse sesgos (en la mayoría de casos inconscientes o, al menos, no malintencionados) que, además de afectar al resultado del análisis, pueden perjudicar a algunos grupos poblacionales.

Hay riesgo de agravar la vulnerabilidad de adolescentes con antecedentes penales y disminuir sus oportunidades de reinserción por los sesgos de la IA

Pero hay otra manera en la que las imágenes cerebrales y los sesgos algorítmicos pueden verse íntimamente relacionados: la introducción de resultados de neuroimagen en algoritmos de predicción de riesgo criminal. Se trata de la llamada neuropredicción, de acuerdo con la cual el grado de activación de áreas cerebrales como la corteza prefrontal o la amígdala nos informa sobre el riesgo de reincidencia o comisión de un delito futuro. Ya hicimos en su momento algunas observaciones críticas sobre este paradigma, pero lo que nos interesa aquí es su relación con un tipo de sesgos de los que se suele hablar poco: los sesgos de edad.

Ciertas (y conocidas) herramientas de estimación de reincidencia asignan mayor riesgo a personas que cometieron delitos en edades tempranas, en comparación con las que los cometieron en la edad adulta. Este problema, que ya es serio de por sí, se ve agravado por la progresiva introducción de datos de neuroimagen (en especial, fMRI) en esta clase de algoritmos. ¿Por qué?

La corteza prefrontal, importante en la toma de decisiones, no termina de desarrollarse por completo hasta bien pasados los 20 años

El desarrollo neurocognitivo de los menores no es un proceso homogéneo, sino que se produce a distintas velocidades en según qué partes del cerebro. Por ejemplo, la corteza prefrontal, que tiene una gran importancia en la toma de decisiones, termina de desarrollarse por completo bien pasados los veinte años. Junto con nuestro colega argentino José Ángel Marinaro, hemos alertado del grave sesgo que podría suponer agregar datos de imagen cerebral a algoritmos de predicción de reincidencia sin tener en cuenta este tardío neurodesarrollo. Se necesita acumular más evidencia y reflexión para dilucidar si los datos sobre activación de áreas cerebrales en adolescentes tienen las mismas implicaciones que los de los adultos.

Mientras tanto, existe el riesgo de agravar la vulnerabilidad de adolescentes con antecedentes penales y disminuir sus oportunidades de reinserción, especialmente en países en los que, como ocurre en algunas partes de Latinoamérica, se llega a recluir en prisión a personas con edades tan bajas como los doce años. El poeta E. E. Cummings dijo una vez que «se necesita coraje para crecer y convertirte en quien realmente eres». Adquirir este coraje es sin duda un objetivo integral de la persona e involucra diversos factores sociales y biológicos. El desarrollo cerebral no debe quedar fuera de la ecuación.

José Manuel Muñoz es investigador del grupo Mente-Cerebro en el Instituto Cultura y Sociedad (ICS) de la Universidad de Navarra, así como del Centro Internacional de Neurociencia y Ética (CINET) creado por la Fundación Tatiana Pérez de Guzmán el Bueno. Actualmente se encuentra realizando una estancia como Research Fellow en la Escuela de Medicina de Harvard.