Dans le cadre de cette mission, Eticas avait besoin d'un Data Scientist spécialisé en NLP afin d'auditer un modèle d'analyses de textes pour l'ajuntament (mairie) de Barcelone.

L'algorithme en question récupère les entretiens des citoyens qui effectuent une requête d'allocation sociale, traite les textes puis définit l'allocation idéale pour le citoyen.

Nous avons travaillé sur l'identification de biais de cet algorithme : nous avons identifié quels groupes sociaux étaient désavantagés lors de l'octroi d'allocations.

Par exemple, après avoir déterminé sémantiquement les groupes sociaux protégés, nous avons étudié les résultats de l'algorithme sur les familles monoparentales afin de mesurer si celles-ci avaient les mêmes chances que des familles biparentales d'avoir accès aux allocations ou si elles étaient désavantagées. L'objectif étant de vérifier que l'algorithme soit équitables pour tous les groupes sociaux protégés (femmes seules, LGBTQ+, étrangers...)

Lors de l'audit j'ai effectué les tâches suivantes :

- Analyses descriptives des allocations sociales: demandes / problèmes / ressources

- Implémentation et reproduction des algorithmes Deep Learning

- Définition des groupes sociaux protégés

- Segmentation des citoyens en groupes sociaux protégés en fonction du contenu des entretiens

- Création de groupes de contrôle

- Analyses des biais de l'algorithme en fonction des groupes sociaux

- Recommandation pour éliminer le biais