Algorithmes : Biais, Discrimination et Équité - Equipe Economie Gestion Accéder directement au contenu
Pré-Publication, Document De Travail Année : 2019

Algorithms: Bias, Discrimination and Fairness

Algorithmes : Biais, Discrimination et Équité

Résumé

Les algorithmes s’immiscent de plus en plus dans notre quotidien à l’image des algorithmes d’aide à la décision (algorithme de recommandation ou de scoring), ou bien des algorithmes autonomes embarqués dans des machines intelligentes (véhicules autonomes). Déployés dans de nombreux secteurs et industries pour leur efficacité, leurs résultats sont de plus en plus discutés et contestés. En particulier, ils sont accusés d’être des boites noires et de conduire à des pratiques discriminatoires liées au genre ou à l’origine ethnique. L’objectif de cet article est de décrire les biais liés aux algorithmes et d’esquisser des pistes pour y remédier. Nous nous intéressons en particulier aux résultats des algorithmes en rapport avec des objectifs d’équité, et à leurs conséquences en termes de discrimination. Trois questions motivent cet article : Par quels mécanismes les biais des algorithmes peuvent-ils se produire ? Peut-on les éviter ? Et, enfin, peut-on les corriger ou bien les limiter ? Dans une première partie, nous décrivons comment fonctionne un algorithme d’apprentissage statistique. Dans une deuxième partie nous nous intéressons à l’origine de ces biais qui peuvent être de nature cognitive, statistique ou économique. Dans une troisième partie, nous présentons quelques approches statistiques ou algorithmiques prometteuses qui permettent de corriger les biais. Nous concluons l’article en discutant des principaux enjeux de société soulevés par les algorithmes d’apprentissage statistique tels que l’interprétabilité, l’explicabilité, la transparence, et la responsabilité.
Fichier principal
Vignette du fichier
Algorithmes_-_Biais__discrimination__equite.pdf (944.41 Ko) Télécharger le fichier
Origine : Fichiers produits par l'(les) auteur(s)
Loading...

Dates et versions

hal-02077745 , version 1 (23-03-2019)

Identifiants

  • HAL Id : hal-02077745 , version 1

Citer

Patrice Bertail, David Bounie, Stéphan Clémençon, Patrick Waelbroeck. Algorithmes : Biais, Discrimination et Équité. 2019. ⟨hal-02077745⟩
2421 Consultations
3962 Téléchargements

Partager

Gmail Facebook X LinkedIn More