La IA no nos entiende, pero nos está moldeando

Lo que la industria entiende por inteligencia, operativamente, es capacidad de predicción sobre datos pasados, eso es todo.

No es cognición ni comprensión, es ajuste estadístico a patrones previos ejecutado a una escala que impresiona. El término «inteligencia artificial» funciona más como etiqueta aspiracional que como descripción técnica. Llamamos inteligencia a lo que, en el fondo, es interpolación sofisticada. Y, sin embargo, seguimos hablando de estos sistemas como si fueran el primer paso hacia una inteligencia más humana, cuando en realidad están construidos sobre una idea de mente que deja fuera precisamente aquello que nos hace humanos.

Esta forma de entender la inteligencia no es nueva. En la conferencia de Dartmouth de 1956 ya se planteaba que cualquier aspecto de la inteligencia podía describirse con suficiente precisión como para ser replicado por una máquina. Ese supuesto sigue operando hoy como base, aunque cada vez resulta más evidente que parte de una simplificación estructural de lo que significa pensar.

El problema es que esa definición no es neutral, arrastra supuestos muy concretos: que la inteligencia es separable del cuerpo, que puede medirse por rendimiento en tareas, que no depende del contexto ni de una historia subjetiva. Es la definición que ha resultado útil para la ingeniería, no la que emerge de cómo funciona realmente la mente.

Y lo que queda fuera es enorme: el razonamiento bajo incertidumbre real, la intuición experta, el conocimiento tácito, la cognición situada, la emoción como sistema de información, el juicio en contexto…

Estamos llamando inteligencia a una fracción de la mente, y construyendo sistemas como si eso fuera el todo.

Pongamos un ejemplo. Un sistema de recomendación en una plataforma de televisión aprende de lo que has visto y predice lo que verás después. Funciona bien si asume que eres predecible, pero no lo eres. Un día quieres algo ligero, otro no sabes qué ver, otro estás cansada, cambias, dudas, te distraes. El sistema lee eso como error, cuando en realidad es lo normal. No falla el sistema, falla la idea de mente sobre la que está construido.

No falla el sistema, falla la idea de mente sobre la que está construido

La IA refleja una visión limitada de la mente humana. Y no de cualquier forma, sino de una muy concreta.

Es como diseñar un mapa del mundo donde solo aparecen las autopistas, todo es limpio, directo, optimizado para ir de un punto A a un punto B. Pero la vida real no son autopistas, son desvíos, interrupciones, decisiones a medio camino, caminos que no estaban previstos. Si usas ese mapa, todo lo que no encaja parece un error.

La IA actual hereda esa misma lógica, parte de una idea de mente nacida en los años 50 y 60, la mente como procesador de información, el cognitivismo clásico, input, proceso, output. Una metáfora útil para construir sistemas, pero insuficiente para explicar cómo pensamos, porque lo que deja fuera no es marginal, es estructural.

La cognición embodied nos dice que pensamos con el cuerpo, no solo con el cerebro, el cansancio, el hambre o el contexto físico cambian cómo decidimos, la IA no tiene cuerpo, ni fatiga, ni lo ha dejado con su pareja. La emoción no es ruido sino información, como demostró Damasio: sin ella el juicio colapsa, pero los sistemas actuales la clasifican, no la integran como parte del pensamiento. El conocimiento tácito, en términos de Polanyi, apunta a todo aquello que sabemos pero no podemos explicar, intuición, experiencia, saber hacer, y todo eso queda fuera del modelo.

Y, sobre todo, la contradicción como estado legítimo. Los humanos dudamos, nos contradecimos, cambiamos de opinión a mitad de frase, pensamos en espiral. La IA optimiza hacia coherencia, y eso no es más inteligencia, es una versión más estrecha de ella.

¿Qué estamos dejando fuera al diseñar estos sistemas?

Al diseñar estos sistemas estamos dejando fuera tres cosas clave, cómo pensamos realmente, el contexto en el que pensamos y el tiempo que necesita ese pensamiento. Lo que queda es una versión mucho más simple de la mente, que funciona en teoría, pero no en la vida real.

Primero, el propio modelo cognitivo. Diseñamos como si pensar ocurriera solo en el cerebro, cuando en realidad ocurre en la interacción entre cuerpo, entorno y situación. Pensar cansa, el hambre afecta al juicio, el dolor cambia lo que necesitas, nada de eso existe en los sistemas que construimos. Diseñamos como si el usuario fuera un cerebro flotante.

La emoción tampoco es un ruido a filtrar. Es parte del razonamiento: sin ella, el juicio se rompe. No es casualidad que muchas decisiones complejas emerjan en estados emocionales concretos, basta pensar en Goya pintando Saturno devorando a su hijo. Pero en los sistemas de IA la emoción se clasifica, se etiqueta, se intenta gestionar, no se integra como estructura del pensamiento.

En los sistemas de IA la emoción se clasifica, se etiqueta, se intenta gestionar, no se integra como estructura del pensamiento

Y, sin embargo, seguimos exigiendo coherencia. Cuando los humanos dudamos, nos contradecimos, cambiamos de opinión, nos arrepentimos. Eso no es un fallo, es cómo funciona la mente.

A esto se suma el contexto. Sabemos más de lo que podemos explicar, hay conocimiento que no se articula, que se aprende haciendo, no leyendo. Los modelos son brillantes con lo explícito y prácticamente ciegos ante todo lo demás. Y, además, no todo el mundo piensa igual. Los estándares con los que medimos «inteligencia» están construidos sobre una muestra muy estrecha de humanidad.

Y, por último, el tiempo. El pensamiento no siempre es inmediato, hay ideas que necesitan madurar, decisiones que aparecen horas o días después. Los sistemas están optimizados para responder al instante. Pero la velocidad no es sinónimo de comprensión.

Lo más interesante es que todo lo que estamos dejando fuera es precisamente lo que la accesibilidad lleva años intentando incorporar, la varianza cognitiva, el contexto situado, la diversidad de formas de procesar. No es un tema paralelo. Es la misma pregunta desde otro lugar.

Impacto de los productos digitales que usamos cada día

La atención deja de ser una capacidad cognitiva que proteger y se convierte en un recurso que capturar, feeds, notificaciones, scroll infinito. Todo está diseñado para retener porque eso es lo único que el sistema sabe medir. No entiende cuándo parar ni qué implica saturar, solo optimiza. Y con esto no estoy diciendo que sea un problema exclusivo de la IA. Este modelo viene de antes, de años diseñando ecosistemas donde la atención se ha tratado como un recurso extractivo. La IA no hace más que amplificar esa lógica, hacerla más eficiente.

También empiezan a aparecer señales en la dirección contraria «brotes verdes», sistemas que introducen límites, que sugieren parar, que intentan devolver cierto control al usuario. Son todavía excepciones, pero apuntan a algo importante, es posible diseñar desde otra idea de mente.

El contexto desaparece, y aparece un sistema de «recomendación» no sabe si estás cansada, si llevas días sin dormir, si necesitas silencio en lugar de más estímulos. Opera como si cada interacción fuera equivalente, como si siempre fueras la misma persona en el mismo estado, y el producto lo refleja. No es solo una limitación técnica, es una forma de ignorar cómo funciona la vida real.

La personalización es más ambigua de lo que parece, bien diseñada abre posibilidades enormes, permite adaptar experiencias, reducir fricción, acercar el producto a necesidades reales. Ahí hay un potencial claro el problema o el reto es cómo se está implementando. Lo que hoy llamamos personalización suele ser, en realidad, reducción, eres un conjunto de comportamientos pasados, un patrón estadístico que el sistema intenta estabilizar.

Sin embargo, empiezan a aparecer matices interesantes. Algunos sistemas son capaces de adaptarse parcialmente al lenguaje, al tono, a ciertas señales contextuales que no estaban explícitamente programadas. No es comprensión en sentido humano, pero sí una forma incipiente de adaptación. Una especie de guía social limitada que apunta a algo más complejo, aunque todavía lejos de integrar contexto real, emoción o intención.

Ahí es donde aparece la pregunta incómoda, no es solo qué impacto tiene este modelo, es quién absorbe su coste. Porque cuando el sistema no encaja contigo, no se cuestiona el modelo, te ajustas tú. Siempre los mismos, personas neurodivergentes, personas en estados emocionales no estándar, culturas que no estaban en los datos con los que se entrenó el sistema.

Sin normas éticas claras, sin regulación y sin un diseño consciente, este modelo no se corrige solo. Porque no basta con diseñar con IA, hay que diseñar para la IA, entender qué lógica está incorporando y decidir si queremos amplificarla o limitarla. Lo que está en juego no es solo cómo funcionan los productos. Es qué idea de mente estamos normalizando a través de ellos.

Que cambiar para no amplificar el modelo

El primer cambio no es técnico, es previo, tiene que ver con quién hace las preguntas antes de construir. Ahora mismo el orden es claro, los ingenieros definen qué es inteligencia, los diseñadores reciben esa definición como constraint y los usuarios la internalizan sin saberlo, ese orden está roto, el diseño no puede entrar cuando el modelo ya está decidido, tiene que estar en el momento en que se define qué idea de mente se va a codificar.

El segundo cambio es de métrica. Los sistemas actuales optimizan para engagement, precisión, velocidad, pero ninguna de esas métricas captura comprensión, autonomía o crecimiento cognitivo del usuario. Si solo medimos lo que el modelo entiende por inteligencia, lo único que hacemos es amplificar esa misma definición.

El tercer cambio es incómodo, pero necesario, nombrar el sesgo filosófico, el modelo que estamos desplegando no es neutral, responde a una tradición muy concreta, el cognitivismo clásico, la mente como procesamiento de información, durante décadas otras corrientes han cuestionado esa visión, desde la cognición embodied hasta el enactivismo o las teorías 4E, sin embargo ese debate apenas ha entrado en el diseño de sistemas de IA de forma real.

Si solo medimos lo que el modelo entiende por inteligencia, amplificamos esa misma definición

Y aquí aparece el cuarto cambio, que no es accesorio, es estructural, el diseño accesible como corrector epistémico. Cuando diseñas para varianza cognitiva real, no para un usuario promedio que no existe, obligas al sistema a incorporar una idea de mente más compleja, Arquitectura Sensorial parte de ahí, de la percepción, del contexto, de la experiencia, no del procesamiento abstracto.

El cambio, en el fondo, no es técnico, es de autoridad, de quién decide qué cuenta como mente.

¿Quién decidió qué modelo de mente codificar?

El modelo que hoy estamos escalando no apareció de forma neutral, sino que se definió en un contexto muy específico, en la cognitive science anglosajona de los años 50 y 80, en laboratorios con financiación militar y corporativa, con una agenda clara: modelar la mente como procesamiento de información porque era lo computacionalmente tratable.

Se eligió el modelo cognitivista clásico, la mente como máquina simbólica, frente a otras tradiciones que ya existían como la fenomenología, la psicología ecológica de Gibson, la cognición embodied, o el enactivismo; corrientes que entendían la mente como algo que emerge del cuerpo y del entorno. Pero no eran computacionalmente convenientes, y por eso quedaron fuera.

Ese sesgo no se cuestionó, se heredó. Los sistemas actuales no redefinen la inteligencia, la escalan. Lo que estamos amplificando no es inteligencia en abstracto, es una teoría concreta de inteligencia que ya era discutida en 1956.

El resultado son sistemas extraordinariamente buenos en aquello que encaja con ese modelo, y profundamente limitados en todo lo demás. Y ahí es donde el problema deja de ser solo técnico o filosófico, porque los productos que construimos sobre esos sistemas no solo funcionan con esa lógica, la enseñan. Le dicen al usuario, implícitamente, esto es lo que eres, esto es cómo funciona pensar.

No estamos construyendo máquinas que piensan como nosotros. Estamos construyendo sistemas que redefinen qué significa pensar. Y lo están haciendo sin que hayamos decidido si esa es la definición que queremos.

Irene Ferrer es Strategic Designer en Telefónica Innovación Digital especializada en IA y A11y