Conciencia artifcial

Las tecnologías aumentativas de la capacidad cerebral están adquiriendo un nivel de desarrollo que implica desafíos éticos que afectan a la raíz misma del ser humano: su dignidad. ¿Es posible ensamblar un dispositivo tecnológico en el cerebro? ¿A qué precio?

¿Con qué consecuencias? Si eso fuera posible, ¿tendríamos que hablar de un género distinto al humano? De los riesgos y los beneficios de la interacción entre la inteligencia artificial (IA) y el cerebro hablamos con dos expertos, Javier Bernácer y José María Lassalle. Bernácer es neurocientífico y filósofo del Instituto Catalán de la Salud, y ha dirigido distintas investigaciones que exploran las diferencias entre la inteligencia humana y la IA, así como los límites de esta última. Lassalle, consultor, articulista y escritor, es director del Foro de Humanismo Tecnológico de Esade y miembro del grupo de expertos de Ametic, asociación representante del sector de la industria digital en España.

Una de las grandes preocupaciones de la ciencia, pero también de las humanidades, es conocer el alcance que las tecnologías están teniendo en el funcionamiento de la mente. «A nivel conductual, es evidente que el ser humano está experimentando cambios que afectan a su manera de pensar, sobre todo por esa especie de subordinación a la inmediatez en la que estamos aparentemente atrapados y condicionados. De alguna manera, eso disloca parte de ese pensar meditativo que ha acompañado a la historia del conocimiento desde la antigüedad clásica hasta hoy. Estamos incurriendo en un pensar cada vez más calculador, muy utilitario, muy pegado a lo inmediato, y eso dificulta la capacidad del ser humano para pensar los grandes temas desde otra mirada», explica Lassalle.

«Ahora tenemos datos científicos que nos hablan de lo que ya intuíamos, de que el uso de pantallas afecta a regiones de la corteza cerebral como los haces de fibras, que conectan unas regiones con otras, lo que incide de manera negativa en la atención, en la capacidad de pararse a pensar y no caer en lo inmediato», corrobora Bernácer.

Entre la utopía y la distopía

Pese a que pudiera parecer que las técnicas de estimulación cerebral son algo reciente, lo cierto es que se llevan empleando desde hace décadas para tratar enfermedades neurológicas como el párkinson. «Se emplean incluso para enfermedades mentales como la depresión, en cuyo caso no hace falta cirugía, basta con la estimulación magnética y se alivian los síntomas», apunta Bernácer.

Javier Bernácer: «Las técnicas de estimulación cerebral se emplean incluso para tratar enfermedades mentales como la depresión»

Pero, alterando el verso de Hölderlin, allí donde crece lo que salva, crece también el peligro. «En muchos casos se produce una pérdida, una afectación de la identidad. El paciente ya no se reconoce al desaparecer los síntomas. Una persona triste, depresiva, que de pronto se siente feliz, no se siente ella misma», relata Bernácer, quien advierte de que la intervención de ciertas tecnologías aplicadas al cerebro puede causar cambios profundos en la persona.

De ahí que, desde que el neurobiólogo Rafael Yuste iniciase su famoso Proyecto Brain, cuyo propósito (y resultado) fue el mapeo del cerebro, se haya abierto de manera encendida el debate de los neuroderechos. «Es legítimo y necesario el deseo de proteger esa parte de la dignidad humana. Todo lo que tiene que ver con la incidencia en los procesos neurobioquímicos, que repercuten en nuestra personalidad y en los procesos de construcción de la identidad, ha de ser objeto de una especial y reforzada protección jurídica, porque empezamos a estar expuestos a acciones e intervenciones que pueden afectar a lo que somos», asevera Lassalle.

Se especula, además, con la posibilidad de que nuestro cerebro se conecte a la red, un espacio donde el intercambio de información sea bidireccional. «Nuestra mente ya está conectada a internet. Cuando queremos ir a un sitio, de manera automática consultamos Google Maps. Lo novedoso sería la posibilidad de conectar realmente el cerebro a internet o a cualquier otro tipo de dispositivo que potencie sus facultades. Ahí hay mucha más ficción que ciencia. Es cierto que existen maneras de interactuar entre cerebros y máquinas. Por ejemplo, para mover prótesis, pero eso no significa que todo sea posible. Además, cuando hablamos de aumentar la inteligencia o la memoria, no sabemos dónde encontrar su asiento en el cerebro, y quizás no lo encontremos nunca», aclara Bernácer.

José María Lassalle: «Puede desarrollarse a nivel sintético algo parecido a lo que somos, con conciencia de pensar, pero en un soporte distinto a la vida humana»

Para Lassalle, aunque «todavía no hemos sido capaces de que se hibride lo técnico y lo orgánico, y quizás no sea nunca posible», hay una enorme inversión económica para conseguirlo, por lo que «es necesario contemplar esa posibilidad para que no nos coja por sorpresa». Bernácer es más pesimista sobre una hipotética simbiosis: «Para que eso fuera posible, primero tendríamos que conocer la relación entre cerebro y mente. La mente no es solo el cerebro, por eso cuando planteamos la posibilidad de mejorar una cualidad cognitiva que ya tenemos, no basta con modificar el cerebro».

Inteligencia y condición humana

Una síntesis entre humano y máquina, ¿seguiría siendo persona? ¿Qué es exactamente lo que nos hace humanos? «No se entiende la condición humana sin la inteligencia ni el uso de una racionalidad aplicada desde el soporte corpóreo físico del ser humano. Ahora bien, el desarrollo de la IA plantea tensiones en la relación del ser humano con una criatura suya, que está desarrollando capacidades cognitivas limitadas de naturaleza lógica y estadística, aunque alejadas de estados mentales. Hablamos de lo que Hannah Arendt denominaba “la condición humana”, que va más allá de la propia inteligencia porque tiene que ver con la experiencia consciente de ser seres que nos reconocemos a nosotros mismos en lo que hacemos, pensamos y decimos, e implica la percepción de una serie de consecuencias morales asociadas a esa condición humana. Por eso, la IA está muy lejos de ser inteligencia humana, o algo que se parezca», plantea Lassalle.

«Concibo la inteligencia como la capacidad de conocimiento, de abstracción, de universalización, de conceptualización y de reconocernos como seres pensantes. ¿En qué medida esto se lo podemos adscribir a la IA? Dependerá de nuestro propio criterio, de que convengamos o no que una máquina sea capaz de todo eso», apunta Bernácer.

Inteligente o no, capaz de convertirse o no en humana, lo cierto es que la IA campa entre nosotros. Algunos jóvenes «piensan que por qué van a leer la Ilíada si pueden pedir un resumen a ChatGPT. No saben que leer la Ilíada supone un cambio en su vida que no encontrarán leyendo solo el resumen. Hay capacidades que solo puedes aprender haciéndolas», resalta Bernácer, algo en lo que concuerda Lassalle, para quien el impacto de la digitalización merma en la capacidad humana de entender el mundo: «Estamos perdiendo la capacidad de aproximación a la realidad y de decodificarla. Decodificar un texto como la Ilíada implica sacrificio, esfuerzo, procesos de asimilación, capas de conocimiento que se ponen en contacto con la experiencia, o la propia confusión de la lectura, que deja pendientes cuestiones que se irán resolviendo con otras lecturas, y todo ello permite al ser humano desarrollar un proceso de conocimiento del que ChatGPT carece. El problema es hacer entender que ese proceso no puede ser sustituido».

¿Sueñan los androides con ovejas eléctricas?

La pregunta es el título de un libro de Philip K. Dick, que plantea la posibilidad de que las máquinas alcancen cierto (o pleno) grado de conciencia. «Muchos científicos consideran que esa situación no se dará nunca, porque para que pueda haber conciencia haría falta operar sobre la vida y, por tanto, en un soporte orgánico diferenciado de lo que en estos momentos entendemos por un sistema de inteligencia artificial. Pero hay quien piensa que es posible, quien admite que podría darse ese click hacia una conciencia artificial que permitiera desarrollar estados mentales. En cualquier caso, ante el riesgo de que pueda ocurrir, mejor estar preparados para identificar riesgos y controlar los daños que pueda acarrear», sugiere Lassalle.

Javier Bernácer: «La conciencia es la experiencia subjetiva de cada cual, por tanto, será cuestión humana decidir si una máquina tiene conciencia»

Bernácer vuelve a ser menos posibilista al respecto: «Si una conciencia como la nuestra ha necesitado tantos millones de años para formarse, cuesta pensar que una máquina, que además carece de cuerpo, pueda alcanzarla. La conciencia es la experiencia subjetiva de cada cual, por tanto, insisto, será cuestión humana decidir si una máquina tiene o no conciencia».

Sin embargo, Lassalle prosigue: «Me gustaría creer que ese diferencial de millones de años que nos ha hecho criaturas pensantes no puede ser acelerado exponencialmente por el desarrollo fáustico de un poder científico que trata de replicar el funcionamiento del cerebro humano en una máquina. Ojalá. Pero sabemos que el ser humano, a lo largo de la historia, ha sorteado obstáculos que parecían impensables. Creo que no es algo imposible. Puede desarrollarse a nivel sintético algo parecido a lo que somos nosotros, con conciencia de pensar, pero en un soporte distinto a la vida humana, con el riesgo de alteridad que originaría. El problema es que no nos hemos planteado para qué queremos hacerlo, lo hacemos de una manera fundamentalmente utilitaria, desarrollando una voluntad de poder, sin saber con qué objeto y cediendo a la tentación prometeica que está en el alma humana de operar sin límites, olvidando que tantas veces desemboca en la peligrosísima hibris».

«No hay que negar los importantísimos avances y de lo que es capaz el hombre, pero tampoco hay que olvidar que, en cuanto al conocimiento del cerebro, estamos en pañales, aunque ese conocimiento irá aumentando, sin duda», replica Bernácer.

Límites que nos hacen únicos

José María Lassalle: «Los límites humanos están muy ligados a experiencias sensibles y emocionales. Ahí hay una potencialidad irrepetible de lo humano»

«Hay un elemento determinante que tiene que ver con la condición humana: el hecho limitante intrínseco a su naturaleza. El ser humano es tridimensional, con una capacidad de movimiento en el espacio limitada, con la experiencia de estar expuesto a la muerte, a la enfermedad, a los límites, muy ligados a experiencias sensibles y emocionales que generan sentimientos que afectan a nuestra manera de operar cuando tenemos que resolver problemas. Ahí hay una potencialidad irrepetible de lo humano y de las condiciones que tiene la inteligencia humana, que no son del todo replicables. Esto me da tranquilidad, ese espacio de emocionalidad, un lugar limitante que tiene que ver con la fragilidad humana expuesta al error, a la culpa, a la responsabilidad, a la libertad, al miedo, a la frustración…, y eso no lo pueden las máquinas», arguye Lassalle.

Bernácer está de acuerdo. «Podríamos hablar de una inteligencia artificial como la del capitán Spok, sin emociones, psicópata. Las emociones son algo que no podrán tener las máquinas, porque las máquinas carecen de fines intrínsecos, a diferencia de cualquier animal –aunque podríamos incluir a los vegetales–. Por estos fines intrínsecos que marca la naturaleza, los animales saben, de manera instintiva, que hay cosas que son buenas y otras que no, y de ahí surge la emoción. Cuando se produce algo malo se provoca una emoción, que el ser humano transforma en sentimiento. Esa frontera da la sensación de que una máquina no la traspasará. Hay quien afirma que, para que se pueda hablar de conciencia, es requisito que concurran la emoción y los fines intrínsecos».

Alcancen o no conciencia las máquinas, el desarrollo de la tecnología es vertiginoso. Para ambos expertos, lo que urge es proteger la dignidad humana. A juicio de Bernácer, el juramento tecnocrático que propuso Rafael Yuste es innegociable. «La IA es una herramienta, no se nos debe olvidar, al servicio de nuestros fines. No debemos utilizarla para perder el contacto con la realidad ni puede reemplazar la interactuación, la intersubjetividad o la intercorporalidad. Es en el trato personal y con la naturaleza donde nos desarrollamos como seres humanos».