Robots inteligentes (¿y responsables?)

Artículo

Francesc Bellavista

En algún momento de la historia, hace más de 140.000 años, se produjo un cambio trascendental en los homínidos que favoreció que el ser humano se haya convertido en el animal que ha acabado dominando la tierra. Este cambio –que la Capilla Sixtina vaticana representa en el fresco conocido como La creación de Adán del renacentista Miguel Ángel– surgió, según la opinión de la mayoría de científicos, a raíz de una mutación evolutiva que lo transformó en un animal racional (al decir de Aristóteles) u Homo Sapiens. El Homo Sapiens destaca, entre otras aptitudes que lo diferencian del resto de animales, por su imaginación y capacidad de razonamiento abstracto. Estas cualidades favorecen la creación y conceptualización de mundos ficticios (a saber: ideologías, estados, dinero, religiones, entre otros) que, con carácter instrumental y a partir de convenciones hegemónicamente asumidas por la sociedad, devienen realidades. Tales convenciones o relatos han sido esenciales para el desarrollo de nuestra especie.

Una de estas convenciones dio lugar a la creación de sociedades mercantiles o corporaciones a las que se otorga, mediante lo que se denomina como ficción legal, la calificación de personas jurídicas. Esta característica les permite ser sujetos de derechos y obligaciones y las habilita legalmente para poseer y gestionar enormes patrimonios y operar en el mercado en similares o mejores condiciones, y con más poder, que la mayoría de las personas físicas. Las sociedades mercantiles se han erigido en un formidable instrumento para el crecimiento económico y, en algunos casos, han sido difíciles de controlar. Hoy el común de las personas nos referimos a estas entidades como si fueran seres reales y las citamos por su nombre (Telefónica, Seat, Microsoft, Facebook,…) del mismo modo que haríamos con cualquier persona humana que conociéramos desde hace muchos años.

Podríamos aceptar como plausible que los robots inteligentes lleguen a controlar compañías, gobiernos y otras instituciones

En los últimos tiempos, además de los dos tipos de personas legales existentes (las personas físicas y las jurídicas), se ha planteado la posibilidad de crear un tercer género, la «personalidad electrónica», según la denominación adoptada con motivo de unas recomendaciones hechas en 2017 por el Parlamento Europeo a la Comisión Europea. La revolución tecnológica en la que estamos inmersos se basa, en buena parte, en la captación de inmensos flujos de datos que un gran número de computadoras, con una ingente capacidad de almacenamiento, tratan mediante algoritmos (un algoritmo es una secuencia de pasos lógicos que permiten solucionar un problema), en lo que conocemos como Inteligencia Artificial (IA). Esta consiste en programas de computación diseñados para realizar determinadas operaciones que se consideran propias de la inteligencia humana, incluido el autoaprendizaje.

La IA, por consiguiente, no se limita solo a aplicar de forma mecánica los programas que han elaborado los informáticos. A partir de la enorme cantidad de datos que recibe y las correlaciones que identifica mediante algoritmos los robots pueden tomar decisiones autónomas inteligentes e interactuar con terceros de forma independiente de las personas, caso en el que hablaríamos de Robots Inteligentes y Autónomos (RIA). Por ejemplo, cada vez más, son robots programados con algoritmos los que realizan los diagnósticos sobre nuestra salud. El hecho de que sean capaces de analizar y comparar infinidad de casos similares conduce a que sus dictámenes sean más precisos que los que podría hacer nuestro médico. Ahora bien, si el RIA se equivoca y provoca la muerte de una persona, ¿quién será el responsable: el fabricante, los innumerables programadores que han participado en su diseño, el propietario del RIA o la persona que lo utiliza como instrumento?

Dar una respuesta entraña complejidad, toda vez que la autonomía e imprevisibilidad de las decisiones de los RIA dificulta la determinación del causante último del eventual y fatal error. En caso de que hubiera prosperado la citada resolución del Parlamento Europeo, el propio RIA sería declarado responsable, una circunstancia que, a buen seguro, conllevaría una relajación de las exigencias y medidas de seguridad por parte de los implicados en su fabricación y venta.

Pero poseer personalidad jurídica no solo significa ser responsable de los propios actos sino también que estos RIA, de forma similar a las sociedades mercantiles, podrían obtener ingresos y acumular patrimonio, por lo que nos podríamos encontrar que en un futuro no tan lejano fueran, por ejemplo, los principales accionistas de muchas sociedades mercantiles y, por lo tanto, tuvieran el poder de decisión en estas. Si extendiéramos esta consideración a otros campos, podríamos aceptar como plausible que llegue un momento en el que estos RIA controlen, además de compañías, gobiernos y otras instituciones, por lo cual podrían acabar situados en un plano de superioridad respecto a los humanos.

Es por estas consideraciones que la mayoría de científicos y juristas son contrarios a otorgar personalidad jurídica a los robots inteligentes autónomos y optan por adaptar las leyes actuales para regular con más precisión la responsabilidad de sus actos. Estamos solo al principio de la utilización masiva de la IA, por lo que hay que irnos preparando para tener a punto las respuestas adecuadas a esta cuestión y, en cualquier caso, llevar siempre consigo el denominado botón rojo en el bolsillo por si se nos presenta la emergencia de tener que desactivar un robot desbocado.

Francesc Bellavista es socio director de Bellavista y economista.