Los dilemas (éticos) del ChatGPT

El lanzamiento de ChatGPT a finales de noviembre del año pasado ha sido la última gran novedad tecnológica que ha sacudido el mundo. Quizás sea la primera aplicación de inteligencia artificial (IA) que está teniendo un uso masivo. A ChatGPT le ha costado dos meses conseguir cien millones de usuarios. Hoy, probablemente, los usuarios se cuentan por centenares de millones, mostrando una vez más el impacto de la aceleración tecnológica que ya había puesto de manifiesto Alvin Toffler hace algunas décadas. Un ejemplo para darnos cuenta de la magnitud: a TikTok le costó nueve meses alcanzar el mismo número de usuarios.

Una primera reacción –mayoritaria– ha sido de asombro respecto a las posibilidades que la herramienta permite. La búsqueda de información automática, la generación de textos escritos y su eficacia en la resolución de problemas complicados (con respuesta conocida) y complejos (sin respuesta conocida) han llenado los titulares de los medios de comunicación. 

Una segunda reacción ha venido a matizar esta reacción tan positiva. Se nos dijo que el salto tecnológico tampoco era tan grande respecto a la versión anterior del programa o que, en cualquier caso, la herramienta todavía no podía resolver bien cuestiones complejas o que implicaran algo más que el manejo de grandes cantidades de información. Sin embargo, lo que sí sabemos es que mejora cualquier producto que ofrezca el mismo servicio: responder preguntas. Google es quizás su competidor más directo, y sobra decir que ofrece peores resultados.

A ChatGPT le ha costado tan solo dos meses conseguir cien millones de usuarios

En lo que sigue, queríamos centrarnos en tres de los muchos ángulos éticos que tiene el desarrollo de esta herramienta tecnológica. De más concreto a más general. Empezando por el sector de la educación, y más particularmente universitaria, que es en el que trabajamos los autores de este artículo. 

Aquí también ha habido dos tipos de reacciones. La inmediata fue el temor que el uso generalizado de esta herramienta por parte de los alumnos tendría sobre los trabajos o los exámenes que, a partir de ahora, se hicieran. Parecería que ya no tendría ningún sentido encargar ninguna tarea escrita. En cuestión de segundos el alumno podría presentar un trabajo de alta o muy alta calidad sin necesidad de haber leído ningún libro o artículo sobre la cuestión que fuese. (Otro tema es que nadie se preguntaba por si lo que realmente evaluamos aporta valor al proceso formativo). Por otro lado, la contra-reacción señala las potencialidades que la herramienta otorga a los profesores para definir mejor el objeto y el contenido de la enseñanza y las tareas a encargar. Se trata de considerarla una ayuda, no el enemigo del puesto de trabajo o la actividad académica.

Con la llegada de la calculadora en los años ochenta se produjeron los mismos debates. Por supuesto, mucho dependerá de la preparación y el tiempo del docente, pero parece claro que hará el proceso de enseñanza-aprendizaje más complejo; los profesores tendrán que prepararse más, necesitaremos también nuevas herramientas informáticas para proponer, detectar y valorar estas actividades. Aumentarán las posibilidades de acceso y uso de la información, pero en paralelo posiblemente encarecerá la educación de calidad. Estamos hablando de herramientas conectadas a internet, con alto coste energético y computacional. ¿Qué opinión y consecuencias tiene una educación que tenderá a hacerse cada vez más cara? De hecho, ¿no corremos el riesgo de aumentar la brecha entre la educación de calidad –cada vez más elitista– y la que ofrezca el resto de instituciones?  

ChatGPT es un servicio que, aún hoy, se ofrece gratuitamente (cuando hay computación disponible). En un abrir y cerrar de ojos, las posibilidades de acceso a la información se han multiplicado extraordinariamente casi para cualquier habitante del planeta. Inevitablemente, esto también tendrá muchos efectos sobre la industria IT (o information technology). Desde la aparición de Google a comienzos de los 2000 no había habido grandes cambios en los servicios de búsqueda, pero con ChatGPT, si bien todavía estamos hablando poco de la necesaria habilidad para saber qué y cómo preguntar, todas las labores de investigación serán más fáciles, ahorrando tiempo y dinero. Es importante reseñar aquí la relevancia de saber dialogar con la máquina; la gestión de prompts (el texto que introducimos en la pregunta) es probable que sea una habilidad a adquirir pronto. Y ahí, nuevamente, las desigualdades pueden volver a aparecer. 

La herramienta aumentará las posibilidades de acceso y uso de la información, pero posiblemente también encarezca la educación de calidad

Frente a todas estas ventajas, cabe recordar que la promesa de incontables beneficios, la desaparición de intermediarios (con sus costes asociados), la rapidez y la gratuidad también fueron el señuelo de todas las revoluciones tecnológicas que ha habido hasta la fecha. Desde la línea telefónica fija (que sustituyó al telégrafo), la radio, la televisión, el cable, la telefonía celular, internet, los smartphones: todos se presentaron bajo la misma –o muy parecida– bandera. Al principio no costaban nada o muy poco. Y muy rápidamente empezaron a actuar las fuerzas de la concentración empresarial y cada una de esas industrias acabó estando en algún momento histórico en muy pocas manos. Así es también ahora. Hoy, los servicios de comunicación no solo son uno de los componentes más importantes del gasto de los hogares, sino que sucede en paralelo a la pérdida total de la privacidad, la pérdida de control (al menos económico) de todos nuestros datos y la mayor concentración empresarial de la historia con los llamados FAANG (Facebook, Amazon, Apple, Netflix y Google). No es de extrañar, así, que ahora debamos sospechar de la operación corporativa de Microsoft con OpenAI, propietaria de ChatGPT.

Si esta historia se lleva repitiendo continuamente al menos un siglo, ¿cómo es posible que los reguladores no intervengan en ningún momento para impedirlo? Es más, ¿por qué, una y otra vez, quiénes deberían defender a los consumidores actúan tarde? Y de hecho, ¿es ético ofrecer un servicio gratuito cuando sabes que, en el momento en que suficientes personas estén «enganchadas», acabará siendo de pago? En la era digital, la velocidad del cambio es tan alta que cuesta entender la magnitud de su impacto.

Finalmente, cabe hablar del efecto de esta tecnología sobre la actividad humana, la cultura y lo que nos caracteriza como seres humanos. Si alguien dijo correctamente que somos lo que comemos, también podemos decir igualmente que somos lo que leemos, con quien nos relacionamos e interactuamos. Marshall McLuhan dio un paso más al expresar que el cómo acaba siendo el principal contenido de lo que pensamos. Es decir: cuantos más medios digitales usamos, acabamos pensando y funcionando como ellos. Nuestro modo de pensar, de informarnos y de hablar se parece cada vez más a un smartphone, lleno de imágenes, posibilidades y mensajes cortos, aunque nunca nos hayamos parado a pensarlo. Desde esta apreciación, ¿qué efecto tendrá esta nueva vuelta de tuerca que son las aplicaciones de IA como el ChatGPT? En este sentido, ¿qué efecto tendrá sobre las conversaciones humanas y la resolución de problemas y hacia qué dirección nos llevarán estos algoritmos como sociedad?

Las preguntas se hacen ahora demasiado urgentes e importantes para pasar de largo. Pero ¿acaso hay alguien al otro lado que las escuche? ¿No llevamos ya mucho tiempo hablando de ello? Es decir, ¿no es tiempo de crear una alianza suficientemente fuerte de entidades y organismos nacionales o internacionales que lo impulse?

---

Alberto Núñez es profesor asociado del Departamento de Dirección General y Estrategia de Esade.

Alex Rayón es vicerrector de Relaciones Internacionales y Transformación Digital en la Universidad de Deusto.