Inteligencia artificial y sesgos discriminatorios: ¿es necesario un nuevo concepto de discriminación algorítmica?

Resumen

Los sistemas de IA incurren en sesgos discriminatorios y, en particular, en sesgos de género, que presentan diferencias respecto a los sesgos existentes con carácter general en las personas y en la sociedad. Los sesgos en la IA tienden a incrementar los sesgos generales y, en todo caso, presentan manifestaciones específicas. La cuestión que se aborda en el presente estudio es si los conceptos jurídicos vigentes sobre discriminación son suficientes para dar protección frente a tales sesgos o no, y en ese caso si se haría necesaria la creación de un nuevo concepto de discriminación algorítmica. La respuesta a la cuestión exige analizar las causas de los sesgos discriminatorios en los sistemas de IA, sus manifestaciones y las dificultades de calificación jurídica. Después se analizará lo que aporta a la cuestión el reglamento europeo de inteligencia artificial. Finalizamos con unas consideraciones que no pretenden ser conclusiones cerradas, sino propuestas para el debate.