Genre, algorithmes et droits

Les algorithmes ont-ils un genre ? Telle est la question à laquelle répond le présent ouvrage, grâce à une recherche exploratoire et empirique menée dans différents secteurs d’activité.

Les usages des algorithmes foisonnent dans tous les domaines de l’activité humaine : la santé, l’éducation, l’emploi, l’action publique ou encore la justice. A l’heure actuelle, nombre de décisions sont d’ores et déjà prises par des algorithmes. Pourtant, les enjeux de cette automatisation et leur potentiel discriminant demeurent largement sous-estimés par les décideurs privés et publics. Cette inquiétude s’avère particulièrement prégnante s’agissant du genre des personnes. La dématérialisation des démarches quotidiennes questionne le recueil, la conservation et l’exploitation des données personnelles, et particulièrement celles relatives au genre des personnes.

Le risque est fort que des biais de genre affectent les processus numériques automatisés. Pourtant, peu d’études ont été menées sur ces questions. Inéluctablement, la question doit être posée : les algorithmes ont-ils un genre ? Pour y répondre, le présent ouvrage recense les résultats d’une recherche exploratoire menée auprès du Défenseur des droits, ainsi que les contributions de chercheurs dans plusieurs domaines du droit. Elle révèle l’ampleur des risques de discrimination liée au sexe, à l’identité de genre et à l’orientation sexuelle, susceptibles de résulter de l’usage des algorithmes.