Albania

Artículo

Óscar Granados

«No estoy aquí para sustituir a las personas, sino para asistirlas. Es cierto que no tengo ciudadanía, pero tampoco tengo ambiciones ni intereses personales». Estas fueron las primeras palabras de Diella («sol» en albanés), un sistema de inteligencia artificial (IA) que se encargará de la contratación pública en el país balcánico y que ha sido nombrada con el cargo de ministra. Sí, un sistema algorítmico está en una de las cúspides de la élite política. Y aunque el gobierno del socialista Edi Rama ha dicho que no operaría de forma totalmente autónoma, su implementación ha agitado el avispero de los datos confidenciales, de la ciberseguridad, de la dependencia tecnológica y del uso ético de la IA.

El sistema se desarrolló en colaboración estratégica con Microsoft. Diella funcionó inicialmente como asistente virtual para el público en la plataforma e-Albania, que ofrece servicios en línea a ciudadanos y empresas. Tras un período de prueba, durante el cual ayudó a emitir más de 36.600 documentos digitales y a prestar casi 1.000 servicios, Diella fue ascendida a un puesto ministerial. «Con Diella, Albania busca mejorar y reducir las irregularidades en los procedimientos de contratación pública, eliminando la intervención humana en las adjudicaciones para evitar tratos de favor», dice Fernando Fernández-Miranda, socio responsable de NewLaw Pulse en PwC.

«Una inteligencia artificial ‘ministra’ puede ser tan corrupta como el fichero CSV que la alimenta, o tan arbitraria como el código que no podemos ver», explica Enrique Dans

En un texto, el consultor indica que la tarea principal de la máquina será revisar todas las ofertas, comprobar requisitos y evaluar puntuaciones técnicas y económicas. «El resultado esperado es poner fin a los favoritismos: ninguna empresa vinculada a un partido tendrá ventaja, ni habrá lugar para relaciones de conveniencia», dice. Aunque es verdad que esta IA está libre de conceder cualquier tipo de favor (no tiene amigos ni familia ni pareja a quien beneficiar con algún contrato), la IA se alimenta con información que le proporciona un humano. «Una inteligencia artificial ministra puede ser tan corrupta como el fichero CSV que la alimenta, o tan arbitraria como el código que no podemos ver», explica Enrique Dans, profesor de Innovación en IE Business School, en un artículo publicado en su blog.

Para que Diella trascienda el simbolismo, abunda Dans, Albania debe blindar el proyecto con transparencia radical mediante la publicación de datos en formato Open Contracting Data Standard (estándar internacional para publicar datos de contrataciones públicas de forma estructurada), auditorías externas, registros públicos e impugnaciones ciudadanas, sumado a una política estricta contra conflictos de interés. Porque sin este rigor técnico y ético, la iniciativa carecerá de toda validez en un país que aspira, con ayuda de la tecnología, a ser parte de la Unión Europea para 2030 y que deberá cumplir con toda la legislación comunitaria en materia de tecnología y protección de datos.

«Bruselas supervisará de cerca este experimento como prueba del compromiso del país con la alineación con los estándares de gobernanza digital y de transparencia de la UE», dicen los expertos del Bloomsbury Intelligence and Security Institute (Bisi). Para ganar credibilidad, tendrá que poner atención, de igual forma, a su ciberseguridad. Desde 2022, destacan los especialistas del Bisi, Albania ha sufrido múltiples ciberataques atribuidos a grupos de Justicia Nacional, afiliados a Irán. A ello se suman otros continuos durante 2023-2024, dirigidos contra el Parlamento, el Instituto Nacional de Estadística, los proveedores de telecomunicaciones y los medios de comunicación, lo que ha expuesto vulnerabilidades sistémicas en todo el ecosistema digital.

Diella se pone manos a la obra en un país donde el 75% de los ciudadanos desconfía de los partidos políticos y el 60% del Parlamento

Poner una parte de la administración en manos de la IA no es un asunto neutro, subraya el Instituto de Estudios de Seguridad de la Unión Europea (IESUE). «Diella inevitablemente clasificará, priorizará y estructurará la información en la que se basan las decisiones políticas», arguye la agencia de la UE en un artículo firmado por Clotilde Bômont y Bojana Zorić. Estas expertas se preguntan hasta qué punto los juicios humanos se ven moldeados, limitados o sesgados por estos resultados. El sistema, como todas las IA, ha sido diseñado para tomar un número ingente de microdecisiones. A ello, las especialistas sueltan otra cuestión: ¿cómo de rastreables son estas y cuán transparentes o auditables son los modelos de IA subyacentes? «Sin respuestas claras, la IA corre el riesgo de añadir una capa adicional de opacidad a la gobernanza en lugar de reducirla», aseguran.

Este peligro se agrava en Albania, donde el 75% de los ciudadanos desconfía de los partidos políticos y el 60% del Parlamento. La introducción de un ministro virtual de IA podría erosionar aún más la confianza pública, en lugar de restaurarla, según el artículo del IESUE.