Palabras clave
discriminación
sesgos de género
inteligencia artificial.
Resumen
Los sistemas de IA incurren en sesgos discriminatorios y, en particular, en sesgos de género, que presentan diferencias respecto a los sesgos existentes con carácter general en las personas y en la sociedad. Los sesgos en la IA tienden a incrementar los sesgos generales y, en todo caso, presentan manifestaciones específicas. La cuestión que se aborda en el presente estudio es si los conceptos jurídicos vigentes sobre discriminación son suficientes para dar protección frente a tales sesgos o no, y en ese caso si se haría necesaria la creación de un nuevo concepto de discriminación algorítmica. La respuesta a la cuestión exige analizar las causas de los sesgos discriminatorios en los sistemas de IA, sus manifestaciones y las dificultades de calificación jurídica. Después se analizará lo que aporta a la cuestión el reglamento europeo de inteligencia artificial. Finalizamos con unas consideraciones que no pretenden ser conclusiones cerradas, sino propuestas para el debate
Keywords
Discrimination; gender bias; artificial intelligence.
Abstract
AI systems incur discriminatory biases and, in particular, gender biases, which present differences with respect to the biases that generally exist in people and in society. Biases in AI tend to increase general biases and, in any case, present specific manifestations. The question to be addressed in this study is whether the current legal concepts on discrimination are sufficient to provide protection against such biases, or not, and in that case whether the creation of a new concept of algorithmic discrimination would be necessary. The answer to the question requires analyzing the causes of discriminatory biases in AI systems, their manifestations and the difficulties of legal qualification. Afterwards, what the European Artificial Intelligence Act contributes at the issue. Finally, some considerations that are not intended to be closed, but rather proposals for debate.