Des systèmes auto-apprenants plus équitables

05.10.2020 La notion d’équité est très récente en informatique. Mascha Kurpicz-Briki, professeure au sein du groupe de recherche Data Science and Engineering à la BFH, à Bienne, explique pourquoi il est important d’éliminer toute forme de discrimination dans les systèmes auto-apprenants.

Les notions d’éthique et d’équité comptent beaucoup pour vous. Quelle importance ont-elles dans le monde numérique?

MaschaKurpicz-Briki: La notion d’équité a gagné en importance en informatique ces trois à cinq dernières années, après que des cas de discrimination ont été rapportés dans les médias. Aujourd’hui, nous savons que les algorithmes courants peuvent discriminer sur la base du genre, de l’origine, de l’âge et du statut socio-économique. Les dommages réels sont encore difficiles à évaluer

Pouvez-vous citer des exemples?

Je pense à un logiciel de recrutement qui excluait automatiquement les femmes des processus de candidature pour les professions techniques. Le système s’appuyait sur des données recueillies au cours des dix dernières années. La majorité des candidats étant alors des hommes, le logiciel en a déduit que les femmes n’étaient pas admissibles dans ces professions. Ce défaut du système a été détecté relativement tard. Autre exemple aussi fâcheux: un service de photo qui exigeait des clients aux traits asiatiques qu’ils ouvrent bien les yeux, ce qui a été jugé offensant. Lors de la programmation du logiciel, le type caucasien avait servi de norme.

Comment éliminer ce genre de discriminations?

Il faut d’abord sensibiliser les concepteurs de programmes, car chaque algorithme est créé par un humain. C’est compliqué, car de nombreux facteurs entrent en jeu: la technologie (textes, images, symboles, composants audiovisuels, etc.) et les différents types de discrimination dans toutes les combinaisons imaginables. Les cas potentiels de discrimination doivent être identifiés avant la programmation de tout nouveau système. Et les systèmes existants doivent être passés au peigne fin.

En savoir plus

Domaine: Data Science