Desigualdad algorítmica

Así como generaciones anteriores fueron testigos de la llegada del internet y de la manera en que transformó la vida que hoy conocemos, el día de hoy vivimos otra transformación con la incorporación de nuevas tecnologías capaces de realizar tareas que durante mucho tiempo nosotros realizábamos. Sin embargo, la inteligencia artificial, los sistemas automatizados y los algoritmos cada vez ocupan un mayor espacio en la vida cotidiana.
Al tener cada vez más presente esta tecnología, se es más propenso de modificar la manera en la que se toman decisiones, un ejemplo de ello sucede con los algoritmos al seleccionar candidatos para un empleo o identificar perfiles en donde detrás de estas decisiones existen datos, criterios y patrones que pueden reproducir discriminación.
En este sentido un sistema diseñado para tomar decisiones de manera rápida puede generar resultados desiguales cuando los datos con los que fue desarrollado contienen prejuicios y sesgos. En este caso los principios de igualdad y no discriminación adquieren una dimensión distinta cuando proviene de un sistema automatizado, pues se carece de un responsable visible.
De manera que la existencia de algoritmos capaces de intervenir en decisiones sociales exige al derecho a ampliar su mirada sobre la discriminación y la desigualdad que esta provoca, puesto que se ha vuelto un tema más complejo en donde en los sistemas automatizados intervienen desarrolladores, empresas e instituciones, lo que dificulta establecer responsabilidades.
Esto ha sido más difícil de identificar debido a que la existencia de un sistema de inteligencia artificial puede otorgar una apariencia de objetividad, aunque los resultados dependan de decisiones humanas y criterios previamente seleccionados.