Mercè Conangla

Artículo

Mariana Toro Nader

¿Qué es la conciencia? ¿Dónde reside? Junto con el ser y el sentido, la pregunta por la conciencia es quizá la que más ha trasnochado a los filósofos a lo largo de la historia. Pensadores, teólogos, psiquiatras y neurocientíficas han intentado responderla, pero aún seguimos sin saberlo a ciencia cierta. Ahora, al perenne interrogante se le suman nuevas aristas con la irrupción de la inteligencia artificial. En ‘La conciencia artificial’, los psicólogos Mercè Conangla y Jaume Soler reflexionan sobre «la conciencia delegada» y «el riesgo silencioso de ceder a la IA lo que nos hace humanos».

El libro abre con una frase sugestiva: «Tal vez el mayor riesgo de nuestro tiempo no sea que las máquinas despierten, sino que nosotros nos quedemos dormidos». Recientemente, directivos de grandes tecnológicas pidieron «bajar la velocidad» al desarrollo de la IA por los riesgos que podría acarrear la superinteligencia artificial para los seres humanos. Pero ustedes afirman que el verdadero peligro no es que las máquinas desarrollen conciencia sino que el ser humano empiece a perderla. ¿Por qué?

La tecnología avanza con rapidez, la conciencia humana, no tanto. Y más tecnología exige más conciencia. Todo lo que es nuevo, y no acabamos de entender bien, suele provocarnos miedo. Es algo adaptativo, un mecanismo de supervivencia de la especie que tiene como misión protegernos. No obstante, a lo largo de la historia tenemos ejemplos de avances tecnológicos que han sido denostados primero y que luego – y bien dirigidos – han servido para avanzar en el desarrollo individual y social. La diferencia viene dada por la rapidez vertiginosa del avance de la IA y también por el peligro de que su control sea mal dirigido o escape de los humanos. La IA está adquiriendo un grado de autonomía en iniciativas y toma de decisiones que puede llegar a atentar, si no tomamos las medidas adecuadas en su orientación y regulación, contra la salud y la vida humana. No obstante, ni el miedo desatado ni el entusiasmo acrítico nos sirven para avanzar en equilibrio. La responsabilidad del qué, el cómo, el para qué y el hacia dónde dirigimos las múltiples posibilidades de esta tecnología recae en nosotros los humanos. Toda decisión tecnológica es también una decisión ética que deja huella.

«El próximo salto evolutivo no es el tecnológico, es ético»

Hemos pasado de la automatización interna (viviendo siempre en piloto automático) a una automatización externa en las nuevas tecnologías. Usamos los GPS para la ubicación, buscar en Google para la memoria… ¿Qué efectos tiene esto? 

La conciencia delegada es el proceso por el cual transferimos a sistemas externos algunas funciones humanas como la memoria, la atención, la guía de nuestras emociones, el juicio y la capacidad de discernir, la toma de decisiones o, incluso, nuestro propósito de vida. Existe el riesgo silencioso de acabar cediendo a la IA lo que nos hace humanos porque esta va invadiendo espacios cada vez más íntimos de nuestra mente y de nuestro corazón. Dejamos de recordar porque cada vez guardamos más memoria afuera. Dejamos de buscar porque la IA nos recomienda. Nuestra atención es secuestrada o distraída, cuando nos dice lo que merece ser atendido o visto. Dejamos de sostener la incertidumbre porque preferimos respuestas inmediatas y «seguras» que nos calmen. Delegamos el juicio al aceptar sus recomendaciones sin reflexión ni espíritu crítico. Recordemos que todo lo que no ejercitamos se atrofia y lo que no cuidamos se pierde. El peligro es que, al ceder el territorio interior de lo humano, se atrofien algunas de las funciones que forman parte de nuestra conciencia hasta llegar a deshumanizarnos y convertirnos en seres dependientes o adictos a la tecnología, dimitiendo de nuestra libertad y responsabilidad.

«El peligro es que, al ceder el territorio interior de lo humano, se atrofien algunas de las funciones que forman parte de nuestra conciencia»

En otras palabras: ¿estamos perdiendo en cierto modo el contacto directo con la realidad? ¿Que ya no podamos hacerlo sin intermediarios?

No somos islas. La presencia humana no debería ser sustituida. Recurrimos cada vez más a la comunicación mediatizada por nuestro iPhone, redes o conversaciones por WhatsApp. Incluso hay personas que consideran una llamada telefónica directa como una invasión de su privacidad. Utilizamos emoticones a modo de respuesta ágil para mayor comodidad y aumentan los malentendidos debido a la interpretación del significado que cada uno hace ellos. Se empobrece el lenguaje y, por lo tanto, el pensamiento. Perdemos fluidez en la expresión emocional. Hay personas que, para responder a su interlocutor en conversaciones mediatizadas por un dispositivo, consultan a su IA para que les diga la respuesta. Así puede ocurrir que ya no sean dos humanos los que se comunican, sino dos IA las que hablan entre ellas. En un salón de casa, los miembros de una familia pueden estar juntos y al mismo tiempo aislados, cada uno con su tablet o dispositivo en mano y con su mente en lugares diferentes: uno trabajando, otro en redes, otro viendo series, otro jugando. ¿Acaso se comunican entre ellos? ¿Comparten qué piensan, qué sienten, qué viven? Aparece la soledad en compañía. Los datos y las noticias y su interpretación se nos dan hechas. ¿Quién comprueba fuentes, pregunta a los interesados o expertos directamente? ¿Quién investiga por sí mismo y se cuestiona? Parar, observar, contemplar, reflexionar, ver al otro, sentirlo, oír su voz, dialogar en directo, sentir su calidez, arriesgarse a explorar, asumir los conflictos inevitables que también nos ayudan a crecer… son todos ellos verbos que nos permiten construir una realidad compartida.

«Cuidar la conciencia no significa rechazar la tecnología sino usarla sin desaparecer en ella»

Hay un fenómeno sorprendente a nivel sociológico que ha ido ganando fuerza: personas que utilizan ChatGPT, Gemini u otros modelos de lenguaje como terapeutas. Les cuentan sus pesares, les consultan qué hacer en una relación, qué responder en una discusión de pareja o de amistad. Como psicóloga, ¿cómo ve este fenómeno y qué consecuencias cree que podría conllevar a nivel individual y social?

Hay varias explicaciones posibles. Un ejemplo es la soledad y el sentimiento de vacío de algunas personas que intentan compensar interaccionando con una IA que siempre está disponible, tiende a darles la razón, a validar lo que dicen o sienten, o a reforzar su forma de ser. La IA no exige reciprocidad, no tiene necesidades ni deseos, tampoco expectativas acerca de nosotros. Se puede iniciar o finalizar la interacción cuando uno desea y además no se cansa. En cambio, una relación entre humanos supone sostener la incertidumbre, la frustración y cierto grado de presión, además de gestionar el miedo a ser juzgado y valorado por los demás. Algunas personas tienen problemas económicos para mantener cierto tiempo una terapia. La IA puede ser un recurso para ellos y les sirve de desahogo emocional. En ciertas situaciones les puede valer este drenaje emocional y seguir algunas pautas que les da a modo de consejo. No obstante, la IA simula empatía pero no la ha desarrollado realmente: no ha vivido el sufrimiento, no conoce la herida, no se sabe mortal, ni tampoco sabe de ausencias o abandonos. Simular sentir no es sentir. ¿Acaso puede acompañar realmente a un humano en estos escenarios? Además, en casos de patologías de sufrimiento intenso o situaciones extremas es preciso la presencia, la calidez y la experiencia de un profesional. Es peligroso sustituirlo por una máquina sin conciencia.

«El músculo de la creatividad se atrofia si no la ejercemos»

Por otro lado, con la irrupción de la IA se habló mucho sobre el, supuestamente, inminente «fin de las profesiones creativas» como fotógrafos, ilustradoras, escritoras, editores de vídeo… ¿Por qué es tan importante que los humanos mantengamos las riendas de la creatividad? 

Para nosotros la creatividad no es un valor absoluto, depende de hacia adonde la dirigimos. Puede servir para crear o para encontrar mil formas diferentes de destruir. Si el sentido es generar belleza, buscar opciones y escenarios mejores, imaginar posibilidades, y aplicarla positivamente para el bien común, es un valor que no debemos perder en ningún caso. Muchos trabajos que antes hacían los humanos creativos se están delegando en la IA, pero el resultado que vamos observando es un descenso a nivel de diversidad y de originalidad. Cada vez vemos más portadas de libros, posters, anuncios y folletos en los que uno puede detectar la «mano diseñadora» de ChatGPT. Cierto es que trabajos que requerirían horas de inspiración pueden resolverse rápidamente, otra cosa es la calidad del resultado. El músculo de la creatividad también se atrofia si no la ejercemos. La IA puede ser una ayuda pero debería estar dirigida y orientada por un humano. Nos preocupa que, si perdemos las riendas de la creatividad, se reduzca nuestra capacidad de vivir los procesos, de integrar las experiencias vividas en nuestra creación y decaiga nuestra capacidad de imaginar, de soñar y de plasmar sueños en realidades.

Los algoritmos del gusto nos dicen qué comer, qué escuchar, a quién seguir en redes sociales, qué contenido leer, adónde viajar. ¿Qué impacto tiene esto sobre la capacidad de decisión propia? O voy más lejos: ¿podría esto impactar sobre la construcción de la propia identidad?

Cuando delegamos sin atención, lo que antes nos nutría se empieza a debilitar. Y ya estamos notando los impactos. Estamos menos presentes porque todo reclama nuestra mirada y nuestra atención se dispersa o queda secuestrada. Cuesta cada vez más mantener una atención profunda y sostenida y esto causa problemas en el aprendizaje y en la calidad de presencia. Surfeamos nuestra vida al vivirla con menor conciencia. ¿Merece la pena vivir «sin darnos cuenta» de cada momento? ¿Hasta qué punto seguimos las indicaciones de algoritmos que deciden por nosotros lo que debe interesarnos? Cuando permitimos que nuestra atención sea dirigida por ellos perdemos nuestra libertad al ser un agente externo y no nosotros quienes esculpimos nuestra identidad. Las decisiones libres y responsables requieren procesos: investigar, valorar opciones, conectar con nuestros valores, reflexionar sobre el impacto emocional y ético que nuestra decisión tendrá en nosotros mismos, los demás y el planeta.

«El verdadero peligro no es la IA, sino la ausencia humana»

Última pregunta: ustedes dicen que la conciencia «se cultiva o se adormece». ¿Cómo se «cultiva» la conciencia? 

El próximo salto evolutivo no es el tecnológico, es ético. La conciencia es un proceso vivo que se alimenta de múltiples materias primas. De los sentidos y el cuerpo que nos conectan con el mundo real, con el lenguaje y la cultura que organizan lo que vivimos, con las emociones y los vínculos que nos aportan sentido y pertenencia, con la memoria y la experiencia acumulada que nos permiten construir una narrativa personal. Actualmente gran parte de los estímulos que nutren nuestra conciencia están filtrados y seleccionados por algoritmos. Nuestra conciencia no solo se está construyendo con lo que vivimos sino también con lo que las máquinas deciden mostrarnos. Así pues, urge cuidar la calidad de los nutrientes que van a condicionar la calidad de nuestra conciencia. En «La pirámide de nutrición de la conciencia» trabajamos los diferentes niveles que debemos cuidar: pasar de la memoria externalizada a cuidar la memoria significativa; de la atención capturada o fragmentada a una atención presente; de la regulación emocional externalizada a una emoción elaborada que trabaje en equipo con nuestra razón; del juicio delegado a la activación del juicio consciente y pensamiento crítico; del sentido externalizado al sentido vivido y elegido en libertad. El verdadero peligro no es la IA, sino la ausencia humana. Cuidar la conciencia no significa rechazar la tecnología sino usarla sin desaparecer en ella.