Autor
Palabras clave
discriminación directa
discriminación indirecta
inteligencia artificial
precisión
Unión Europea.
Resumen
El derecho antidiscriminatorio europeo está estructurado de acuerdo con la apreciación de la discriminación según si esta es directa o indirecta. Existe un debate doctrinal sobre en qué tipología se puede integrar mejor la discriminación causada por sistemas algorítmicos, que teniendo en cuenta las particularidades que presentan estos, como la ininteligibilidad, la consideración de multiplicidad de atributos protegidos o la absorción de sesgos implícitos, se inclina por la discriminación indirecta. Sin embargo, planteamos si no sería más interesante cambiar de perspectiva dadas las dificultades para dilucidar frente a qué tipo de discriminación estamos y focalizar la apreciación de discriminación sobre la base de la concreción de ciertos estándares de precisión según los colectivos sociales (incluyendo categorías protegidas combinadas) que se pueden ver afectados por el sistema, siendo los resultados relativos a la precisión el punto de partida para apreciar si existe o no discriminación.
Keywords
Direct discrimination; indirect discrimination; artificial intelligence; precision; European Union.
Abstract
European anti-discrimination law is structured based on the assessment of discrimination according to whether it is direct or indirect. There is a doctrinal debate about what typology can address better the discrimination caused by algorithmic systems that, considering this kind of systems’ particularities, such as unintelligibility, consideration of multiple protected attributes, or absorption of implicit biases, leans for indirect discrimination. However, we consider whether it would not be more interesting to change perspective given the difficulties in elucidating what type of discrimination we are facing and focus the appreciation of discrimination on assessing if the system achieves or not certain precision standards according to particular groups of population (including groups created by combined protected attributes) that may be affected by the system, and using precision results as a starting point to appreciate whether discrimination has occurred.