La discrimination algorithmique a désormais son procès de référence. Aux États-Unis, des candidats recalés poursuivent Workday, éditeur de logiciels de ressources humaines, en soutenant que ses outils de tri par intelligence artificielle les ont écartés en raison de leur âge, de leur origine ou de leur handicap.
L’action collective nationale porte sur l’âge. Selon une analyse du cabinet Proskauer, le groupe pourrait compter « des centaines de millions » de membres, car Workday a indiqué que 1,1 milliard de candidatures avaient été rejetées via ses outils sur la période concernée. Si vous recrutez en Europe avec un logiciel du même type, ce dossier vous concerne directement.
Mobley contre Workday : ce que la justice a déjà décidé
Derek Mobley est un candidat afro-américain de plus de 40 ans, atteint de troubles anxieux et dépressifs. Il a postulé à plus de 100 emplois auprès d’entreprises utilisant les outils de présélection de Workday. Selon sa plainte, sa candidature a été rejetée à chaque fois.
| Date | Décision ou acte |
|---|---|
| 16 mai 2025 | Un tribunal fédéral de Californie accorde la certification préliminaire d’une action collective nationale fondée sur l’Age Discrimination in Employment Act (ADEA). |
| 6 mars 2026 | La juge Rita Lin refuse d’écarter les griefs fondés sur l’ADEA. Elle rejette, avec possibilité de les reformuler, des demandes fondées sur le droit californien et la plainte d’une plaignante pour handicap physique. |
| 27 mars 2026 | Les plaignants déposent une plainte amendée qui réintroduit ces griefs. |
En mai 2025, la juge a estimé les allégations suffisantes pour examiner si le système de recommandation de Workday produit un « impact disproportionné » sur les candidats de plus de 40 ans. Le procès n’a donc pas encore tranché le fond de cette affaire de discrimination algorithmique.
Workday conteste les accusations. L’éditeur affirme que ses outils ne sont pas entraînés à utiliser, ni même à identifier, des caractéristiques protégées comme l’âge, l’origine ou le handicap. Attendez-vous à entendre la même défense de la part de votre propre fournisseur.
Comment la discrimination algorithmique se produit sans intention
Les outils visés intègrent des évaluations de personnalité et des tests cognitifs pilotés par l’intelligence artificielle. Ainsi, ils classent les candidats, puis rejettent ou font avancer les profils selon des critères calculés. Or ces critères reproduisent parfois des biais présents dans les données d’entraînement, voire les amplifient, sans que le recruteur s’en aperçoive.
La plainte s’appuie sur la théorie américaine de l’impact disproportionné (disparate impact). Elle permet de poursuivre un employeur ou un fournisseur même sans intention discriminatoire. En effet, il suffit de démontrer un effet statistiquement défavorable sur un groupe protégé.
La défense de Workday et l’accusation peuvent donc être vraies en même temps. Un modèle qui ignore l’âge peut quand même pénaliser les candidats âgés, par exemple à travers la durée de carrière ou l’année d’obtention d’un diplôme. Par conséquent, la seule preuve utile reste la mesure des résultats par groupe de candidats.
Discrimination algorithmique : ce que l’AI Act et le RGPD imposent en Europe
Le règlement européen sur l’intelligence artificielle (AI Act) classe parmi les systèmes à haut risque, dans son annexe III, les outils destinés au recrutement ou à la sélection, « en particulier pour publier des offres d’emploi ciblées, analyser et filtrer les candidatures et évaluer les candidats ». Le fournisseur doit réaliser une évaluation de conformité avant la mise sur le marché.
L’employeur qui utilise l’outil devient « déployeur » et porte ses propres obligations, fixées par l’article 26. D’abord, il confie le contrôle humain à des personnes qui disposent des compétences, de la formation et de l’autorité nécessaires. Ensuite, il conserve les journaux générés par le système, s’il les contrôle, pendant au moins six mois. Enfin, il informe les personnes concernées qu’elles sont soumises à ce système.
Le RGPD ajoute ses propres règles. Son article 22 donne à toute personne le droit de ne pas faire l’objet d’une décision fondée exclusivement sur un traitement automatisé qui l’affecte de manière significative. Des exceptions limitées existent toutefois. Un rejet de candidature sans examen humain entre dans ce cadre. De plus, l’article 35 rend l’analyse d’impact (AIPD) obligatoire avant toute évaluation systématique de personnes fondée sur un traitement automatisé. Or cette définition décrit précisément un outil de présélection. Pour la méthode, consultez notre guide AIPD (PIA) RGPD : quand et comment la réaliser.
Enfin, les articles 13 et 14 imposent d’informer les candidats sur le traitement de leurs données, y compris sur l’existence d’une prise de décision automatisée.
Avant de confier vos candidatures à un algorithme
Un contrôle humain affiché ne suffit pas. Par exemple, si le recruteur valide en un clic la liste produite par l’outil, la décision reste automatisée dans les faits. Nous recommandons donc de vérifier, preuves à l’appui, le rôle réel de chaque intervenant.
- Demandez au fournisseur sa documentation de conformité AI Act et la description des critères de classement.
- Mesurez les taux de rejet par tranche d’âge, par sexe et, lorsque la loi le permet, par d’autres critères protégés, sur vos propres campagnes.
- Désignez les personnes chargées du contrôle humain, formez-les, et donnez-leur le pouvoir de repêcher une candidature écartée.
- Réalisez l’AIPD avant le déploiement, puis mettez à jour l’information des candidats et votre registre des traitements.
Pour la fiche registre, partez de notre modèle Réception des CV et gestion des candidatures : la fiche registre champ par champ. En pratique, l’inventaire des outils d’IA se tient en parallèle, comme le détaille Registre des systèmes d’IA : cartographier pour l’AI Act. DPO Suite, l’application de conformité de DPO PARTAGE, regroupe le registre, les AIPD et les audits AI Act dans un même dossier.
Sources
Le récit de la plainte de Derek Mobley et la certification du 16 mai 2025 figurent dans l’analyse de Fisher Phillips, Discrimination Lawsuit Over Workday’s AI Hiring Tools Can Proceed as Class Action.
HR Dive rapporte les décisions de mars 2026 dans Workday plaintiffs submit amended complaint reupping physical disability and state-law bias claims.
L’estimation de Proskauer et le chiffre de 1,1 milliard de candidatures proviennent de AI Bias Lawsuit Against Workday Reaches Next Stage as Court Grants Conditional Certification of ADEA Claim.
L’AI Act se lit sur EUR-Lex, Règlement (UE) 2024/1689.
Les articles 13, 14, 22 et 35 du RGPD se lisent sur EUR-Lex, Règlement (UE) 2016/679.
