Quand l’intelligence artificielle codifie les discriminations

Loin d’être neutres, les algorithmes apprennent à partir de données humaines, et avec elles, les travers qu’elles contiennent. Résultat: dans de nombreux secteurs, des décisions soi-disant objectives reproduisent en réalité des logiques discriminatoires, souvent invisibles mais profondément ancrées.  

L’un des cas les plus emblématiques est celui d’Amazon. En 2018, le géant américain a discrètement abandonné un outil de recrutement basé sur l’IA après avoir découvert qu’il pénalisait systématiquement les candidatures féminines. Le système, entraîné à partir de CV majoritairement masculins, avait intégré un biais de genre, rétrogradant les profils de femmes, notamment celles ayant étudié dans des établissements féminins. Une discrimination non programmée, mais bel et bien apprise. 

Ce type de dérapage algorithmique est loin d’être isolé. Dans le domaine bancaire, judiciaire, ou encore médical, plusieurs études montrent que des systèmes d’intelligence artificielle peuvent désavantager certaines catégories de population en fonction de leur origine, de leur sexe ou de leur statut social, non par intention, mais par reproduction mécanique de biais préexistants.

Une vigilance nécessaire au Maroc

Au Maroc, la question devient d’autant plus pressante que l’intelligence artificielle s’installe progressivement dans les usages publics et privés. Dans un rapport publié en novembre 2024, le Conseil Économique, Social et Environnemental (CESE) alerte sur les risques liés à une adoption non encadrée de ces technologies. Le rapport souligne que les algorithmes peuvent “reproduire des biais” présents dans la société, notamment en matière d’emploi, et invite à une réflexion urgente sur l’encadrement éthique de l’IA.

Dans la même veine, le CESE met également en lumière un décalage entre les données utilisées pour entraîner ces systèmes et les réalités marocaines, ce qui peut accentuer des formes d’exclusion ou d’injustice. Sans diversité dans les données, ni supervision humaine adaptée, ces technologies risquent de normaliser des mécanismes discriminatoires sous couvert d'efficacité.

Un enjeu d’équité numérique 

Ainsi, la montée en puissance de l’intelligence artificielle impose une vigilance nouvelle. Derrière chaque algorithme se dessine une vision du monde. Sans garde-fous, cette vision peut renforcer des inégalités au lieu de les corriger. L’exemple d’Amazon l’a prouvé: même les géants de la tech ne sont pas à l’abri de biais systémiques.

Dans un contexte de numérisation accélérée, les institutions, les chercheurs et les concepteurs sont désormais confrontés à un défi éthique majeur: faire en sorte que la machine n’apprenne pas à discriminer, même sans le vouloir.