Naomi S. Baron

Artículo

Gudrun Palomino

@gudrunpalominot

Naomi S. Baron (Nueva York, 1946), profesora emérita de la American University, es experta en lingüística y comunicación humana, con una trayectoria de 40 años dedicados a la investigación en universidades estadounidenses y europeas. Hablamos con ella sobre cómo afectan la tecnología digital y la IA generativa a la comunicación, así como sobre la escritura digital y a mano.

¿Cómo está cambiando nuestro uso de la Inteligencia Artificial Generativa (IAG) la forma en la que nos comunicamos?

La tecnología digital lleva décadas alterando los patrones de comunicación humana, sobre todo desde el uso generalizado del correo electrónico en los ordenadores personales. Más que hablar cara a cara o por teléfono, gran parte de la forma que tenemos de comunicarnos ha pasado a ser por mensajes escritos. La proliferación del SMS aceleró esta tendencia. El texto predictivo moderno y la función de autocompletar textos fueron pasos importantes para conseguir que los dispositivos digitales redacten textos por nosotros. Los actuales LLM (Modelos Extensos de Lenguaje, por sus siglas en inglés) no solo sugieren palabras, sino que redactan correos completos. La redacción automática tiene consecuencias lingüísticas y sociales. Cuando utilizamos la escritura predictiva, nuestros SMS son más cortos y nuestro vocabulario es más reducido que el que hubiéramos utilizado si lo hubiéramos escrito nosotros. Una de sus consecuencias es la despersonalización. El impacto de los correos generados por IA es incluso más preocupante. Se demostró en un estudio de Google Smart Reply que cuanto más creían los participantes que el mensaje que recibían lo había redactado un algoritmo, más bajo valoraban sobre si el remitente era cooperativo y más alta era su puntuación en cuanto a si lo percibían como dominante.

«La redacción automática tiene consecuencias lingüísticas y sociales»

¿Estamos permitiendo que la IAG deforme el lenguaje, lo cambie y, en cierta forma, lo colonice? ¿Cómo puede afectar a un idioma?

Los idiomas cambian continuamente. Tomamos prestados términos de otros idiomas y acuñamos palabras. A veces se simplifica la gramática, pero otras veces se complejiza. La jerga y las abreviaturas se incorporan poco a poco en nuestro día a día. La diferencia en cuanto al impacto de la IA en el lenguaje humano radica en que es la tecnología la que impulsa el cambio, y no las personas. Los LLM utilizan palabras como «indagar», «meticuloso» o «comprender» con más frecuencia que los escritores humanos. Dado que los textos que leemos en internet se generan cada vez más con IA, en el lenguaje escrito y hablado tendemos a utilizar más estas palabras. Los efectos que trascienden al vocabulario son más sutiles y preocupantes. En comparación con la escritura humana, lo que produce la IA es menos variado en cuanto a contenido, estructura e ideas originales.

¿Podemos fiarnos de los resultados escritos que nos arrojan las IAG en la actualidad?

Las imprecisiones llevan mucho tiempo afectando a las respuestas de la IA generativa. A veces los «hechos» son erróneos, mientras que otras veces los LLM «se inventan cosas», como citas de casos judiciales o artículos de investigación que no existen. El término que se suele utilizar es «alucinación». Sin embargo, como observó muy acertadamente el periodista tecnológico Will Douglas Heaven, cada respuesta de un LLM es una alucinación, ya que la IA no recupera respuestas completas, sino que solo predice cuál sería la siguiente palabra más probable. El sesgo ha sido un problema constante en las respuestas de la IA, sobre todo en lo que respecta al género y la raza. Hay investigadores que han demostrado que, cuando se le pide a un LLM que describa a hablantes de inglés afroamericano (prácticamente todos son negros) frente a hablantes de inglés estadounidense estándar (en su mayoría blancos), al primer grupo se le suele caracterizar como perezoso o maleducado, mientras que al segundo se le describe de forma más positiva, como leal o religioso. Otro sesgo de los LLM es de carácter cultural. Un número creciente de estudios documenta que las respuestas a los promps muestran un sesgo occidental, tanto en las referencias culturales como, de forma más sutil, al adoptar una perspectiva social individualista en lugar de colectiva. ¿Tienen la culpa los LLM? Sí y no. Sí, porque los usuarios ven los resultados con un sesgo arraigado de prejuicios sociales y culturales. Y no, porque los propios LLM son incapaces de tener prejuicios. Sus respuestas simplemente reflejan los prejuicios que contienen sus conjuntos de datos. Son los seres humanos quienes escribieron esos textos. La solución consiste en ampliar las perspectivas representadas en las fuentes textuales de la IA.

«En comparación con la escritura humana, lo que produce la IA es menos variado en cuanto a contenido, estructura e ideas originales»

¿Cuál es la relación entre escribir y pensar? ¿Deberíamos permitir que la IA interviniera en ese proceso íntegramente humano?

Existe una larga tradición de autores que relacionan la escritura con el pensamiento. En palabras de Joan Didion: «No sé lo que pienso hasta que escribo». Cuando los seres humanos escriben, incorporan inevitablemente una opinión, un punto de vista. Por muy objetivos que intentemos ser en los textos informativos, tomamos decisiones sobre qué escribir y cómo presentarlo. Si el género es la ficción, debemos conceptualizar la trama, los personajes y el estilo. Es más, la escritura seria implica reescribir y reflexionar. ¿Lo que hemos escrito expresa lo que creemos realmente? En el proceso de escritura, ¿hemos descubierto algo nuevo sobre el tema o sobre nosotros mismos? Los defensores de la IA suelen decir que la utilizan como un compañero de escritura. No me refiero a que corrija la gramática y la puntuación, ni que ofrezca paráfrasis, sino que sea una fuente de ideas o de coautoría. Como profesora de universidad, veo la frustración que sienten los estudiantes a la hora de encontrar temas sobre los que escribir, pero la frustración tiene sus beneficios. La «fricción» en el aprendizaje puede ser muy productiva: no tomar el camino más fácil; cometer errores; identificarlos y corregirlos; encontrarse con callejones sin salida y volver a empezar.

Partiendo de las reflexiones que expresas en Reader Bot: What Happens When AI Reads and Why It Matters, ¿qué consecuencias tiene que una IA lea, resuma o traduzca textos por nosotros, desde legales hasta éticas o médicas?

Cuando la IA elabora resúmenes, análisis o comparaciones de textos por nosotros, el resultado inmediato es que ahorramos tiempo. Pero ¿cuáles son las consecuencias para los seres humanos? La primera es cognitiva. Cuando escribe por nosotros, perdemos la oportunidad de formular nuestras propias opiniones. Cuando lee (sobre todo ficción), renunciamos a todo, desde el disfrute y la evasión hasta la reducción del estrés y el aprendizaje a partir de las vidas y las acciones de otros. En lo que respecta a la escritura informativa, los resúmenes de la IA suelen omitir detalles y matices que son vitales para comprender el texto original. Esta advertencia es importante en particular para médicos, que podrían recurrir a los resúmenes de la IA como guía a la hora de hacer recomendaciones a los pacientes. Otro inconveniente que no para de resurgir es cuando las respuestas de la IA a nuestros promps generan recursos inexactos o inexistentes. El problema se ha evidenciado sobre todo en el ámbito jurídico, cuando los abogados recurren a la IA para redactar escritos o generar referencias a casos anteriores relevantes.

«Existe una larga tradición de autores que relacionan la escritura con el pensamiento»

En Who Wrote This? expones que «la IA se basa en la manipulación del lenguaje: lo disecciona, lo produce y lo traduce». ¿Qué consecuencias hay cuando dejamos que una IA manipule el lenguaje, como, por ejemplo, cuando lee, traduce y escribe textos por nosotros?

La traducción automática se ha convertido en un gran avance para el público lector, aunque no tanto para los traductores profesionales. Fue una de las primeras prioridades de la tecnología informática, ya en la década de 1950, incluso antes de que se acuñara el término «inteligencia artificial». La Guerra Fría entre Estados Unidos y la Unión Soviética estaba en pleno apogeo, y la intención era que los estadounidenses pudieran disponer de traducciones rápidas de artículos científicos rusos. Tendría que pasar otro medio siglo para que el hardware y los modelos de programación fueran lo suficientemente eficaces como para que los profesionales y los usuarios comunes y corrientes adoptaran herramientas como Google Translate. Las traducciones no eran precisas, pero resultaban bastante útiles. La traducción automática de hoy en día ha mejorado de forma impresionante. Aún no es perfecta, pero sí lo suficientemente buena como para permitir que millones de personas —desde turistas hasta académicos— comprendan documentos (y ahora también el habla) en idiomas que no hablan. Los traductores profesionales tienen menos suerte, ya que su medio de vida se ve amenazado por la traducción automática, que es más rápida y barata que el trabajo humano. Cada vez se contrata más a los traductores para «poseditar» (es decir, pulir) las traducciones generadas por máquinas y no para traducir los textos originales. La preocupación de los traductores no es solo económica; menoscaban su oficio.

Y exploras la relación entre la escritura y la embodied cognition (cognición corporizada). ¿Qué aspectos destacas de esta relación? ¿Nuestra cognición se ve mermada por el uso constante de la IA?

El cerebro no funciona fuera ni al margen del cuerpo en el que se encuentra. Esto se refleja en cómo aprendemos (por ejemplo, cuando los niños manipulan objetos con las manos para entender conceptos matemáticos) y cómo nos comunicamos (complementando los mensajes verbales con gestos, expresiones faciales y posturas corporales). Lo mismo pasa con la lectura y la escritura. En mi investigación he analizado las razones por las que los estudiantes prefieren leer en papel y no en digital, y escribir a mano en lugar de con teclados digitales. En ambos casos, muchos de los encuestados valoraban el carácter físico del proceso. El hecho de poder sostener algo entre las manos, ya sea un libro o una herramienta con la que escribir, supone una gran diferencia en muchos aspectos, desde lo estético hasta lo cognitivo, pasando por una sensación de propiedad. Cuando utilizamos la IA, nos vemos obligados a leer en pantallas y a escribir con teclados digitales. Como consecuencia de ello, nos perdemos la gran cantidad de posibilidades que ofrece la alfabetización física.

«Poder sostener algo entre las manos, ya sea un libro o una herramienta con la que escribir, supone una gran diferencia, desde lo estético hasta lo cognitivo»

Se pensaba que la fisicalidad de la escritura se había perdido con la digitalización, pero ¿hay un paso más allá en este proceso con la IA generativa?

Conceptualmente, procesar texto en un ordenador personal es una acción muy diferente a utilizar la misma máquina para introducir un prompt en un LLM. Sin embargo, desde la perspectiva del usuario, ambas actividades implican trabajar con un teclado digital para introducir un texto. No creo que la IA generativa afecte directamente a cuánto se escribe a mano. Una salvedad parcial es que, dado que se recurre a la IA para una parte cada vez mayor de nuestra escritura, muchas personas escriben menos por sí mismas, sea cual sea el tipo de texto, independientemente de si lo hacen a mano o con un teclado. Con la proliferación de los ordenadores personales, las actitudes respecto a la importancia de la escritura a mano empezaron a cambiar, al menos en Estados Unidos. Hasta la década de los 90, aprender a escribir en letra de imprenta —y en cursiva— era habitual en la primaria. Con la llegada de los procesadores de texto a los ordenadores personales, el énfasis pasó a situarse en enseñar el «teclado» (escribir en un ordenador). Se perdió así la apreciación de los beneficios cognitivos y personales de escribir a mano. Tengo curiosidad por ver si la escritura a mano vuelve a las aulas, como medida de defensa ante el hecho de que tantos alumnos utilicen la IA para generar trabajos escritos en su lugar. En Estados Unidos, muchos profesores les piden a los alumnos que escriban los trabajos sentados en el aula y a mano, para que los que califiquen sean «a prueba de IA». Si esta tendencia se generaliza, los alumnos volverán a necesitar la escritura a mano. Pero, dado que la mayoría ha perdido la práctica, preveo que la curva de aprendizaje será larga.