En su sentido más general, el término “sesgo” significa simplemente “desviación”, a veces, este término es empleado con un significado relativamente neutro debido a su uso indiscriminado. Por ejemplo, un comprador de alimentos tiende a evitar comprar frutas descompuestas. En otras ocasiones, el termino “sesgo” se utiliza con un sentido moral, por ejemplo, un patrón puede “inclinarse” por no contratar minorías. En este artículo nos enfocamos en el uso del término con este último significado, de manera que si se quiere desarrollar criterios para juzgar la calidad de los sistemas informáticos en uso, entonces esos criterios deben fijarse de manera que se refieran con firmeza y precisión a asuntos de relevancia social. Enfocándose solo en la significación moral del término “inclinación”
Por consiguiente, se usa el término “sesgado” para referirnos a sistemas informáticos que sistemática e injustamente discriminan a cierto individuo o grupos de individuos en beneficio de otros. Un sistema discrimina injustamente cuando niega una oportunidad, un bien o arroja un resultado no deseado a un individuo o grupo de individuos por motivos poco razonables o apropiados. Considere, por ejemplo, un sistema automatizado de evaluación de crédito que coopera en la decisión de extender o no el crédito a un solicitante. En el caso que el evaluador automático niegue un crédito a un individuo con un historial de pagos retardados, no juzgamos al sistema como “sesgado” dado que es razonable y apropiado para un banco o casa de crédito rechazar extensiones de crédito a personas que no pueden pagar sus cuentas constantemente. En contraste, un evaluador de crédito que sistemáticamente asigna baja clasificación crediticia a individuos pertenecientes a clases sociales minoritarias, discrimina basándose en que no son sobresalientes para la estimación de un crédito y por lo tanto, lo hace injustamente.
Dos puntos para tomar en cuenta. Primero, las discriminaciones injustas no surgen por inclinación a menos que ocurran sistemáticamente. Piense otra vez en un evaluador de crédito automatizado e imagine que se ejecuta un fallo aleatorio en el sistema el cual cambia la información de casos aislados por una copia del record de créditos para un solicitante que por casualidad tiene un apellido que corresponde con una minoría étnica, asignándole una baja clasificación crediticia.
La versión original se encuentra es el siguiente enlace
www.nyu.edu/projects/nissenbaum/papers/biasincomputers.pdf
Suscribirse a:
Enviar comentarios (Atom)
No hay comentarios:
Publicar un comentario