ALGUNOS RIESGOS PARA EL ESTATUS DE LAS PERSONAS EN LA UTILIZACIÓN DE LA INTELIGENCIA ARTIFICIAL: APROXIMACIÓN A LOS AVANCES DE LA LEY 15/2022

I. LA REVOLUCIÓN TECNOLÓGICA Y EL ESTATUS DE LA PERSONA[Subir]

La revolución tecnológica se manifiesta actualmente, de forma determinante, en la transformación digital, donde de una forma progresivamente creciente las personas o la ciudadanía convergen y participan en la vida digital, que constituye una parte cada vez más importante de nuestra vida (vida online frente a vida offline). Ciertamente, no todas las tecnologías avanzadas son digitales, pero las digitales y aquellas otras que se aplican al mundo digital tienen una especial trascendencia en la transformación que estamos viviendo. Cabe decir que las tecnologías pueden ser sostenibles o disruptivas. Así, son distributivas cuando emergen de una innovación radical que transforma el mercado y que pueden llevar al dilema del innovador, cuando las nuevas tecnologías constituyen a la larga un problema para las empresas (‍Christensen, 1997), pero también pude suceder lo que podríamos llamar el dilema de la persona predigital, cuando ve su mundo y su vida transformada, quiere pero no es capaz de seguir o de participar en la transformación tecnológica y, al mismo tiempo, se ve obligado a esforzarse por hacerlo, en particular cuando no se trata de personas nativas digitales^[2], como un intento de vivir el presente, de adaptarse a un mundo digital que tiene sus propias reglas, sus propios usos, que alteran todo y que pueden llegar a afectar también a los derechos de las personas, siendo por ello esencial su protección.

Es en este mundo, elevado a categoría de «nueva plaza pública» (‍Innerarity y Colomina, 2020), donde comenzamos cada vez más a acceder a la información, interactuar, comprar, vender, investigar y, en definitiva, realizar muchísimas facetas de la vida, en particular en las redes sociales generalistas, específicas y sectoriales.

En el mundo digital, la persona puede asumir diferentes roles, como suele ocurrir también en la vida offline. También se puede decir que actúa o puede actuar bajo diferentes sombreros: como miembro de la sociedad y comunidad política a la que pertenece (ciudadano), usuario de un servicio (consumidor o usuario), investigador, profesional, etc. Esto implica la asunción de un estatus. Incluso cabe plantearse que en algunos casos se pueden tener varios roles o estatus a la vez y hay que determinar el estatus en virtud del cual se actúa.

La asunción de un estatus, desde el punto de vista jurídico, no es algo baladí, puesto que implica que las personas gocen de una serie de derechos y obligaciones, un haz vinculado al estatus individual de la persona, y esto viene determinado necesariamente por el derecho^[3] y va a incidir en las relaciones que pueda desarrollar la persona en su vida, también digital. De hecho, desde la perspectiva de los derechos fundamentales es fundamental tomar conciencia de que hay una pluralidad de derechos que están en juego con la transformación y el desarrollo tecnológico (‍Hildebrandt, 2016: xi), en particular el digital.

Desde el punto de vista positivo, es el ordenamiento jurídico en el que vivimos el que determina el estatus de una persona individual, un ordenamiento jurídico constitucionalizado, pero en el que va a tener un papel predominante —dado nuestro contexto— el derecho de la Unión Europea, que se integra en el mismo de acuerdo a sus propias reglas^[4], a la vez que ese llamado estatus individual constituye un pilar de la integración de la propia Unión Europea (‍Bartolini et al., 2019).

Y este estatus de la persona va a verse afectado, de forma particular, por la transformación digital, por una tecnología que avanza una velocidad mayor a la que el derecho trata de o puede regularizar, planteando mejoras, peligros y retos que hacen necesario un refuerzo de los derechos y garantías (‍Arenas Ramiro, 2022: 121), así como requieren que nos preguntemos si es necesario el planteamiento de un nuevo paradigma constitucional (‍Sarrión Esteve, 2022a), dados los retos sociales y jurídicos que plantea un mundo en transformación, precisamente por el desarrollo de las tecnologías digitales (‍Benlloch Domènech y Sarrión Esteve, 2021a), ya que la regulación y los derechos del mundo analógico y su traslación al mundo digital pueden ser insuficientes y facilitar resultados o respuestas no satisfactorias. Doménech Pascual ya planteaba hace años la necesidad de intervención para la protección de los derechos frente a los riesgos tecnológicos, considerando los principios de legalidad y de precaución (Doménech Pascual, 2006), y Sánchez Barrilao (‍2016) consideraba acertadamente la necesidad de un concepto propio de inteligencia artificial (IA) desde el derecho público.

Sin embargo, lo cierto es que ni siquiera a día de hoy hay una noción comúnmente aceptada de qué es la IA, además de que, incluso, se aboga en algunos casos por hablar mejor no de IA en singular, sino de inteligencias artificiales en plural por las diferencias en el nivel o grado de inteligencia existente en la tecnología, como plantean Kaplan y Haenlein (‍2019).

Se suele utilizar la definición bien desarrollada a nivel europeo de que se trata de «los sistemas que manifiestan un comportamiento inteligente, pues son capaces de analizar su entorno y pasar a la acción —con cierto grado de autonomía— con el fin de alcanzar objetivos específicos» (‍Comisión Europea, 2018). Cabe entender, en este sentido, por IA:

Recientemente se ha producido un rico e interesante debate sobre la necesidad de una regulación que dé respuesta a los riesgos y retos existentes (entre otros‍, Cotino Hueso, 2017; ‍Martínez, 2019; ‍Valero Torrijos, 2022; ‍Aba, 2023; ‍Sarrión Esteve, 2022a; ‍Balaguer Callejón, 2023a, ‍2023b), que indudablemente va unido a las funciones del derecho en relación con la tecnología (‍Hildebrandt, 2016).

Sin duda, uno de los desafíos que se presentan es delimitar o precisar la función que debe asumir el derecho, es decir, hasta dónde procede o no la intervención para regular el proceso científico-tecnológico. Los riesgos de la regulación, sobre todo el de desincentivar la investigación, son claros, pero el principio de precaución y los riesgos de no regular también. Piénsese, por ejemplo, en tecnologías peligrosas para el ser humano (‍Sarrión Esteve, 2022b: 183). Ya anticipó Zweig (‍2003: 9) con elocuencia que «entre las leyes misteriosas de la vida está el que siempre nos percatemos tardíamente de sus valores verdaderos y esenciales: de la juventud, cuando desaparece; de la salud, cuando nos abandona; y de la libertad, la esencia más preciosa de nuestra alma, solo en el momento en que nos la pueden arrebatar o cuando ya nos la han arrebatado».

A nuestro entender, desde que se plantea, se crea o diseña y se desarrolla una tecnología —también cuando utiliza IA— hasta su implantación y puesta en servicio, debe ir acompañada o presidida por un marco ético y jurídico adecuado, lo que va a requerir que los equipos de ingenieros y tecnólogos estén acompañados por equipos de éticos y juristas desde el principio, para garantizar que cualquier idea de investigación que se plantea^[5] se vaya a diseñar, desarrollar e implementar de acuerdo con los principios y criterios éticos y jurídicos adecuados, lo que en inglés se podría denominar como ethics and law requirements from design to service, y que va más allá de lo que algunas guías europeas suelen denominar «ética por diseño» o, en inglés, ethics by design (‍Comisión Europea, 2021), y que debería ser superado por el más preciso de «ética y derecho por diseño» (ethics and law by design).

Progresivamente, estas preocupaciones van adquiriendo una mayor importancia debido a varios motivos, en particular el exponencial avance científico-tecnológico y la penetración de las tecnologías digitales en la vida de las personas, que inciden en su estatus. Esto se evidencia si consideramos que el grado de acceso y uso de internet está ya en cotas altísimas.

Así, podemos ver cómo en apenas quince años el porcentaje de personas que han usado internet al menos una vez se ha multiplicado en el contexto europeo y español.

Y ello con independencia de la variable del sexo, puesto que no se evidencian diferencias notables entre los sexos, al menos en el acceso. Sin embargo, la brecha se evidencia en lo que respecta al uso de las nuevas tecnologías: se produce no solo en lo que al sexo se refiere, sino también en otras variables, como la edad y la clase social, por ejemplo^[6].

De hecho, si atendemos al Digital News Report España 2022, casi la mitad de las personas que utilizan internet usan Facebook o Twitter para acceder a la actualidad (un 47 %), mientras que tres de cada diez utilizan WhatsApp, Facebook Messenger y Telegram (un 36 %) (‍Moreno, 2022).

Es más, de acuerdo con el mismo informe, la mayoría de las personas que utilizan estos medios consideran que el volumen de los medios informativos que ve es adecuado (entre un 59 % y un 75 %) (íd.).

En paralelo, la desconfianza en las noticias y en las marcas periodísticas desciende (‍Vara-Miguel, 2022). La utilización progresivamente creciente de las redes sociales como ventana de entrada a (y búsqueda de) la información, así como de interactuación con los demás por parte de las personas en la sociedad digital, produce una tendencia de cambios no solo en la forma que accedemos a la información, sino en la propia forma de vivir y de relacionarnos como personas, hasta el punto de que puede afectar a la propia vida y la percepción de la realidad, a la vez que origina nuevas realidades e identidades (virtuales) que quizá pueden requerir el replanteamiento de las garantías y el contenido de los derechos (‍Benlloch Domènech y Sarrión Esteve, 2021a: 7).

Quizás podamos esperar que esta proliferación del acceso y uso de internet ocurra también con la IA, y entonces ya no estaremos ante la era de Utrón, como decía Sánchez Barrilao, sino en la era de Utrón (‍2016).

A esto se une la utilización, por las compañías tecnológicas, de sofisticados algoritmos^[7] que pueden motivar lo que se ha calificado como filtro burbuja en la medida en que una persona encuentra aquello que espera, es decir, aquello que tiene en perspectiva, que le gusta o agrada, evitando así información poco deseable o disonante (‍Pariser, 2017), así como también una cierta tendencia a relacionarse con las personas que comparten ideas o intereses similares (‍Sunstein, 2003).

De alguna manera, nuestros intereses se pueden activar y reforzar en internet; incluso se pueden convertir en identidades, pero los algoritmos no serían tanto un mecanismo al servicio de la radicalización como al servicio de la identidad (‍Klein, 2020: 157).

Esto coadyuva a producir una especie de polarización que puede ser calificada como de «polarización artificial», teoría basada en las ideas de pertenencia a la tribu o al grupo, la primacía de la emotividad, y que permite conceptualizar la polarización percibida, fruto de una sobrestimación de las diferencias entre grupos, tanto en el mundo online como offline, sobre la base de la adopción de una identidad que permite ver la realidad con las lentes grupales y que se incrementa online, atendiendo a un discurso emotivo que reclama atención y desencadena un contagio emocional de los miembros del grupo, si bien la distancia entre grupos no es tan grande como pudiera parecer (‍Pérez Zafrilla, 2021).

En este marco, en un mundo regido por algoritmos diseñados por grandes compañías tecnológicas que configuran el proceso comunicativo y que influyen en la toma de decisiones en función de su interés económico, se producen una serie de rupturas relevantes para el derecho constitucional: a) del contexto cultural constitucional, con nuevos factores de legitimación que corresponden al poder global; b) la pérdida de la constitución como referente cultural unitario; c) la ruptura entre la realidad física y virtual, dado que una se regula por el derecho público y la otra por el derecho privado; d) la propia configuración de la realidad, derivada de la destrucción de la percepción social compartida de la realidad, y que afecta al espacio público; y e) la pérdida de capacidad del Estado de ordenar la vida social por el desarrollo tecnológico (‍Balaguer Callejón, 2023a, ‍2023b).

Se hace necesario, por tanto, «repensar el derecho constitucional en clave digital» (‍Reche Telo y Tur Alsina, 2022), una «redefinición del constitucionalismo» (‍Guillén López, 2022) o un nuevo paradigma (constitucional) para la protección de los derechos (‍Sarrión Esteve, 2022a, ‍2022b).

No podemos obviar, en cualquier caso, que las compañías que proveen los servicios de comunicación social predominantes prestan un servicio y la persona que accede a ellas lo hace en su rol de usuario más que de ciudadano, lo que no es una diferencia baladí, aunque desde el punto de vista del derecho de la Unión el consumidor o usuario tenga un nivel de protección jurídico bastante alto (‍Sarrión Esteve, 2019).

Tanto las compañías privadas como también las Administraciones públicas van a tender a utilizar, de forma progresivamente creciente, algoritmos en los procesos de toma de decisiones, y los errores y sesgos de estas «armas de destrucción masiva» (‍O’Neil, 2018) pueden conllevar a situaciones de discriminación que afectarían, en particular, a personas que forman parte de grupos vulnerables (‍Soriano Arnanz, 2021a).

En el estado actual de las cosas, debemos tratar de superar esta dualidad (online/offline), pues vivimos en un mundo híbrido en el que hay que garantizar el reconocimiento y protección de los derechos y libertades, también el nivel digital, pues el derecho no puede renunciar a una regulación que posibilite una participación con garantías en la esfera pública digital (‍Pérez Zafrilla et al., 2021).

Por ello, era muy necesaria una ley que atendiera a estos riesgos y retos, en particular en lo que concierne a la igualdad y la no discriminación, como se puede apreciar de los estudios realizados^[8]. Y es que progresivamente aumenta la utilización de estos sistemas, incluso de alto riesgo debido a los posibles errores o fallos que se pueden producir desde la perspectiva de la protección de los derechos y libertades. Piénsese, por ejemplo, en algunos sistemas IA que se utilizan en España, como Viogén^[9], RisCanvi^[10] o el sistema de alerta rápida SALER^[11].

Debemos considerar que hasta el momento la regulación en este tema era más bien limitada. A nivel europeo, el Reglamento (UE) 2016/679 del Parlamento Europeo y del Consejo, de 27 de abril de 2016, relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos personales y a la libre circulación de estos datos y por el que se deroga la Directiva 95/46/CE (Reglamento General de Protección de Datos, en adelante RGPD), introdujo en el art. 22 una serie de previsiones sobre las decisiones automatizadas, estableciendo el derecho a no ser objeto de una decisión basada únicamente en el tratamiento automatizado —incluyendo la elaboración de perfiles— que produzca efectos jurídicos o una afectación significativa de modo similar (art. 22 RGPD)^[12].

A nivel interno, el art. 11.2 de la Ley Orgánica 3/2018, de 5 de diciembre, de Protección de Datos Personales y Garantía de los Derechos Digitales (LOPDPyGDD) establece, como obligación y garantía de transparencia, dentro de la información básica, a facilitar al afectado por parte del responsable del tratamiento de datos personales —en el caso de que los datos obtenidos fueran a ser objeto de tratamiento para la elaboración de perfiles— de esa misma circunstancia, así como informarle del derecho de oposición a la adopción de decisiones individuales automatizadas que le produzcan efectos jurídicos o que le afecten significativamente de forma similar, cuando este derecho concurra, conforme a lo previsto en el art. 22 RGPD, y el art. 18, que alude al derecho de oposición, así como otros derechos relacionados con decisiones de carácter individual automatizadas, incluyendo la realización de perfiles, que se ejercerán de conformidad con lo previsto en los arts. 21 y 22 RGPD.

Pues bien, la Ley 15/2022, de 12 de julio, Integral para la Igualdad de Trato y la No Discriminación (en adelante Ley 15/2022) pretende constituir «el mínimo común normativo que contenga las definiciones fundamentales del derecho antidiscriminatorio español y, al mismo tiempo, albergue sus garantías básicas», siendo consciente el legislador de los retos que se plantean en materia de inclusión, así como del ejercicio y disfrute de los derechos y libertades, con un doble objetivo de prevención y erradicación de cualquier forma de discriminación (exposición de motivos)^[13].

Dentro de su ámbito objetivo de aplicación, se incluyen la publicidad, medios de comunicación y servicios de la sociedad de la información (art. 3.1 m Ley 15/2022); internet, redes sociales y aplicaciones móviles (art. 3.1 n), e IA y gestión masiva de datos, así como otras esferas de análoga significación (art. 3.1 o). Vincula tanto al sector público —definido en un sentido amplio—^[14] como a las personas físicas o jurídicas privadas que residan, se encuentren o actúen en el territorio español^[15]; si bien, como veremos, en el articulado específico se modula la afectación de esta vinculación, con una nítida y clara distinción en las obligaciones derivadas de la ley.

Y dedica un artículo específico, el 23, con la rúbrica «IA y mecanismos de toma de decisiones automatizados», que se incluye en capítulo II, titulado «El derecho a la igualdad de trato y no discriminación en determinados ámbitos de la vida política, económica, cultural y social», del título I, «Derecho a la igualdad de trato y no discriminación».

En el siguiente apartado realizamos un breve análisis del mismo y de las novedades que conlleva, en el marco de las acciones e iniciativas en las que se inserta, tanto nacionales como europeas.

II. APROXIMACIÓN A LOS AVANCES DE LA LEY 15/2022 EN RELACIÓN CON LA IA Y REFERENCIA A LAS ACCIONES E INICIATIVAS NACIONALES Y EUROPEAS [Subir]

III. CONCLUSIONES[Subir]

El crecimiento exponencial de las tecnologías digitales, en particular de la IA, junto con el grado de penetración que la digitalización tiene en la sociedad, posibilita el acceso a un mundo lleno de oportunidades, al mismo tiempo que plantea riesgos claros para la persona y su estatus jurídico —que viene definido por los derechos y obligaciones de la persona— teniendo en consideración el avance exponencial de la tecnología y los sistemas de IA.

Esto se manifiesta de forma especial cuando la tecnología permite la utilización de algoritmos en el proceso de toma de decisiones que pueden tener consecuencias jurídicas, o bien otros resultados o efectos que pueden ser equivalentes o similares dados los potenciales efectos discriminatorios de estas decisiones, que pueden afectar a las personas que forman parte de los colectivos más vulnerables.

En este marco, la Ley 15/2022, que se inserta dentro de la Estrategia Nacional sobre la IA, tiene como gran objetivo constituir el mínimo común normativo fundamental del derecho antidiscriminatorio español, así como establecer sus garantías básicas, y cabe entender que se inserta también y es congruente con las iniciativas europeas en materia de IA, tanto a nivel de la Unión Europea como del Consejo de Europa, enmarcándose, en ese sentido, en el marco del desarrollo del emergente derecho de la ciencia y la tecnología.

En este trabajo hemos tenido la oportunidad de plantear, aunque sea de una forma inicial y descriptiva, la problemática de la revolución tecnológica y los riesgos vinculados al ejercicio de los derechos que forman parte del estatus de las personas, así como realizar una primera aproximación a la Ley 15/2022 en el contexto de las iniciativas nacionales y europeas en esta materia, vinculadas en particular a la IA.

Entendemos que el art. 18.4 de la Constitución española debe ser interpretado en el sentido de establecer un fundamento constitucional para la limitación del uso de la tecnología, no solo la informática, para garantizar el pleno ejercicio de los derechos de las personas, incluyendo no solo el derecho al honor, la intimidad personal y familiar o el derecho a la protección de datos, sino también otros derechos, incluyendo el derecho a la igualdad y la prohibición de discriminación (art. 14 CE), que junto con la proclamación de la igualdad como valor superior (art. 1.1 CE) y el mandato de promover una igualdad real y efectiva (art. 9.2 CE) debería posibilitar el desarrollo de un derecho antidiscriminatorio potente en el uso de la IA, inspirado y orientado en los principios que deben regir el derecho europeo de la ciencia y la tecnología.

Las previsiones de la Ley 15/2022 en este ámbito son importantes y pueden favorecer que se desarrollen instrumentos y mecanismos que garanticen que los algoritmos utilizados en procesos de toma de decisiones por parte de Administraciones públicas utilicen técnicas de minimización de sesgos, transparencia y rendición de cuentas, y establece un marco para que tanto las Administraciones públicas como las empresas promuevan el uso de una IA ética, confiable y respetuosa con los derechos fundamentales.

Es una manifestación más del protagonismo que está adoptando España en el desarrollo de un marco jurídico que garantice un desarrollo seguro, dese la perspectiva de las personas, de la IA, pero quizás la iniciativa podría o debería haber sido algo más ambiciosa.

Ciertamente, no obstante, es una ley que se aprueba también en el marco de importantes iniciativas a nivel europeo, entre las que destacan el reglamento o ley de IA que se está tramitando en la UE, con una aproximación basada en el riesgo de las tecnologías, así como en una visión de protección de los derechos humanos, y que una vez se apruebe será de aplicación directa en España y requerirá la adaptación de nuestro marco jurídico actual, también de esta ley si fuera necesario. También es reseñable el trabajo del Comité sobre IA (CAI) del Consejo de Europa para la elaboración de un Convenio sobre IA, Derechos Humanos, Democracia y Estado de Derecho, y que plasma muy bien esta idea que hemos comentado de que habría que posibilitar que en todo el proceso del desarrollo científico-tecnológico —desde que se tiene la idea de investigación hasta que se desarrolla e implementa la tecnología— se realice en el marco de una «ética y derecho por diseño» (ethics and law by design), debiendo la normativa establecer mecanismos que lo garanticen.

Únicamente si conseguimos desarrollar un marco jurídico que garantice el estatus de las personas y sus derechos y libertades frente a los riesgos de los sistemas de IA, desde el fundamento de la preservación de la dignidad en el mundo digital, y teniendo en consideración los principios que deben orientar el desarrollo del emergente derecho europeo de la ciencia y la tecnología, se podrá conseguir que la era digital en la que entramos siga siendo humana.

AGRADECIMIENTOS Y RECONOCIMENTOS[Subir]

Trabajo inicialmente preparado de forma breve para su presentación en la mesa III, «Análisis por sectores: medios de comunicación e IA», en el seminario La Ley 15/2022 Integral para la Igualdad de Trato y la no Discriminación. Organismos de Igualdad, organizado por el Laboratorio de Igualdad (Equality Lab) en el Centro de Estudios Políticos y Constitucionales, y desarrollado posteriormente en el marco de la entonces emergente «Cátedra ISAAC. Derechos Individuales, Investigación Científica y Cooperación», formada por la UNED en colaboración con el CNR-IFAC, así como en el marco del grupo de investigación consolidado Derechos Fundamentales Multinivel de la UNED, del grupo de investigación Regulation Research Group de la Universitat de València, y del Grupo Interdisciplinar de Estudios Rurales de la Universitat de València (GIERUV). Asimismo, el trabajo se ha terminado en el marco de las actividades de la Cátedra Jean Monnet Gobernanza y Regulación en la Era Digital (proyecto 101127331, GovReDig), de la que forman parte ambos autores y financiada por la Unión Europea. Las opiniones y puntos de vista expresados solo comprometen a los autores y no reflejan necesariamente los de la Unión Europea o los de la Agencia Ejecutiva Europea de Educación y Cultura (EACEA). Ni la Unión Europea, ni la EACEA pueden ser considerados responsables de ellos. Los autores también agradecen las recomendaciones y sugerencias de las personas que han evaluado de forma anónima el trabajo y que han servido para su mejora. Los errores y defectos persistentes son responsabilidad de ellos.

CONTRIBUCIÓN Y DISTRIBUCIÓN DE LA COAUTORÍA[Subir]

Cristina Benlloch se ha ocupado de la preparación de los gráficos y datos estadísticos, así como de su interpretación y de la aproximación desde la sociología del derecho. Joaquín Sarrión se ha ocupado de la parte de análisis, estudio jurídico y aproximación desde el derecho constitucional. Ambos han participado en la revisión del artículo atendiendo a los comentarios, recomendaciones y sugerencias de la evaluación anónima.