Les API (Interfaces de Programmation Applicatives) sont des outils essentiels permettant aux développeurs d’accéder aux données des plateformes numériques. Cependant, ces interfaces ne sont pas neutres : elles exposent des contenus filtrés et classés par des algorithmes qui peuvent refléter des biais sociaux et culturels. Ce phénomène, étudié par des chercheurs comme Safiya Umoja Noble dans son ouvrage « Algorithms of Oppression », soulève des questions cruciales sur la manière dont les technologies numériques peuvent reproduire et amplifier des discriminations raciales.
API et algorithmes : des amplificateurs de biais sociaux
Les API offrent un accès direct aux données des plateformes, permettant d'extraire des informations telles que des tweets, des posts ou des images. Cependant, ces données sont filtrées et classées par des algorithmes qui privilégient certains contenus en fonction de critères tels que l'engagement des utilisateurs. Ainsi, les contenus qui suscitent davantage de réactions (likes, partages, commentaires) sont mis en avant, ce qui peut entraîner une amplification des stéréotypes et des discours discriminatoires.
Les algorithmes de recommandation et de classement sont conçus pour maximiser l'engagement des utilisateurs. Cependant, cette logique peut avoir des conséquences inattendues : des contenus stéréotypés ou discriminatoires peuvent générer plus d'interactions et, par conséquent, être davantage mis en avant. Ce phénomène a été observé sur diverses plateformes, y compris Twitter, où des contenus islamophobes ou stigmatisants envers certains groupes peuvent être amplifiés par les algorithmes de recommandation.
⚠️ Exemples de Types de biais
Biais dans les systèmes d'IA
En effet, il est juste de souligner que les biais ont pris le contrôle des données et que les domaines de l'intelligence artificielle et du machine learning en sont maintenant envahis. Ces determinations injustes sont retrouvées partout dans les systèmes d'IA comme dans :
Vision par ordinateur - (Machine vision systems)
Par exemple, les jeux de données sont souvent saturés d'images de personnes blanches, jeunes, occidentales. Ainsi, un profil différent pourrait créer un dysfonctionnement lors de l'analyse.
Reconnaissance d'objets - (Object recognition)
En effet, les objets courants sont mieux identifiés que les objets rares. Ceci peut engendrer la marginalisation de certains groupes sociaux.
Traitement du langage naturel - (Natural language processing)
Les langues dominantes sont bien mieux traitées que les langues minoritaires.
Plongements lexicaux - (Word embedding)
Par exemple, dans des modèles classiques, certains noms associés à des minorités sont rapprochés de mots négatifs (« crime », « pauvreté »), pendant que les autres noms s'alignent sur des termes plus positifs (« succès », « intelligence »).
Ces biais ont un impact majeur sur notre société. Les combattre n'est pas qu'un défi technique : c'est d'abord un enjeu sociétal, presque une lutte révolutionnaire face à une société gangrenée depuis trop longtemps par des préjugés.
À regarder : Les biais dans l'IA et ses difficultés
Conférence sur l'impact des biais algorithmiques dans notre société
Études de cas : Twitter et les biais raciaux
Une étude menée par Huszár et ses collègues (2021) a mesuré l'amplification algorithmique de Twitter sur la visibilité du contenu politique dans sept pays. Les résultats ont montré que les partis ou contenus de droite bénéficient systématiquement d'une plus grande amplification par l'algorithme que les partis de gauche.
Étude Huszár et al. (2021)
Analyse de l'amplification algorithmique sur Twitter dans 7 pays (États-Unis, Japon, Royaume-Uni, France, Espagne, Canada, Allemagne).
Lire l'étude complète →Plus récemment encore, une étude de Fonseca et ses collègues (2024) a analysé la dynamique des discours haineux sur le Twitter Portugais désormais appelé X. Les résultats démontrent que le discours de haine sur X (anciennement Twitter) se propage rapidement, surtout au début des conversations. Aussi, ils démontrent que la structure des interactions sociales et le profil des utilisateurs influencent sa diffusion. En d'autres termes, plus il y a de discours de haine dans une conversation, moins les interactions sont transitoires et moins les utilisateurs expriment librement leurs opinions.
Étude Fonseca et al. (2024)
Analyse de la dynamique des discours haineux sur le Twitter Portugais (X).
Lire l'étude complète →Pour limiter ce phénomène, il faut viser un plan de restructuration global en améliorant les algorithmes de détection, mettant en place des politiques plus strictes et en éduquant et sensibilisant le publique.
Vers des pratiques plus responsables
L'amplification de contenus discriminatoires par les algorithmes des plateformes numériques peut avoir des conséquences sociales profondes. Elle peut renforcer les stéréotypes raciaux, ethniques ou religieux, marginaliser certaines communautés et favoriser la polarisation des opinions. De plus, les développeurs qui utilisent les API peuvent, sans le vouloir, reproduire et amplifier ces biais dans leurs propres applications ou analyses. Ainsi, il est nécessaire de trouver le moyen de diminuer ces discriminations.
Pour limiter les effets négatifs des biais algorithmiques, il ne suffit pas d'invoquer la bonne volonté des développeurs. Il faut des pratiques concrètes et contraignantes à chaque étape :
Sensibiliser et former les développeurs
Comprendre que les biais ne sont pas une « anomalie rare » mais une conséquence normale des données et des modèles. Cela inclut la mise en place de modules obligatoires d’éthique et de sociologie des données dans les formations en informatique.
Auditer et classifier les données
Au lieu de se contenter de nettoyer les jeux de données a posteriori, il faut classifier les sources en fonction de leur fiabilité, de leur diversité et de leurs potentiels biais. Par exemple, distinguer les contenus générés par des communautés homogènes des sources plus représentatives. Cette classification permet d’équilibrer les corpus d’entraînement.
Mettre en place des audits indépendants
Les flux de données et les algorithmes de classification doivent être testés par des équipes extérieures, capables d’identifier les effets discriminatoires qu’une équipe interne aurait tendance à ignorer ou minimiser.
Encourager la transparence algorithmique
Publier des fiches de modèles (model cards, datasheets) qui détaillent les choix de classification, les limites connues et les contextes dans lesquels l’algorithme risque de produire des résultats biaisés.
Promouvoir la diversité dans la conception
Intégrer des profils variés (genre, origine, disciplines) dans les équipes de développement pour limiter la reproduction automatique des angles morts sociaux.
Surveiller les décisions automatiques
Lorsqu’un algorithme de classification est utilisé pour filtrer des candidats à l’emploi, recommander des contenus ou détecter des comportements « à risque », les résultats doivent toujours être interprétés par un humain formé aux biais, plutôt que pris comme vérité absolue.
Rapport de l'Agence des Droits Fondamentaux de l'UE (2022)
« Bias in Algorithms - Artificial Intelligence and Discrimination »
Sommes-nous tous racistes ?
Documentaire France TV Slash (Juin 2025) illustrant l'impact des biais inconscients sur notre société
Conclusion
Les API et les algorithmes des plateformes numériques ne sont pas neutres. Ils reflètent et amplifient les biais présents dans la société. Comprendre ces mécanismes est essentiel pour développer des technologies plus inclusives et responsables, et pour éviter de reproduire les discriminations raciales dans le monde numérique.
💡 Pour aller plus loin
Je vous recommande vivement de consulter les ressources partagées dans cet article, notamment les documentaires et études scientifiques, pour approfondir votre compréhension de ces enjeux cruciaux.
La technologie est un miroir de notre société. À nous de décider quelle image nous voulons refléter.