Quand l’IA utilisée pour gérer les ressources humaines se trompe : un chauffeur Uber s’est vu privé de son compte du jour au lendemain, quasiment sans explication et sans possibilité de recours. Ce dernier, privé de son seul moyen de subsistance, est parvenu à ce que l’entreprise reconnaisse une erreur, action en justice à l’appui.
« Il s’agit de principes. Nous devrions nous battre pour nos principes ». Il aura fallu des années et des milliers d’euros dépensés en frais de justice pour qu’Uber présente ses excuses et reconnaisse une erreur de son logiciel de gestion de ressources humaines. Pendant des mois, Alexandru Iftimie, un Roumain installé il y a sept ans au Royaume-Uni, a décidé de ne pas se laisser faire et de combattre une décision qu’il estimait arbitraire : celle d’un outil d’intelligence artificielle RH qui, pour une raison inconnue, a estimé que son compte de chauffeur Uber devait être désactivé. Une cour de justice néerlandaise a conclu le 4 avril dernier que ce dernier avait le droit à un examen sérieux, effectué par un humain, s’il s’opposait à cette décision prise par l’IA. Les juges ont ajouté qu’il avait le droit de recevoir des explications sur les raisons qui ont poussé l’IA à désactiver son compte.
Cette histoire commence il y a plus de sept ans, lorsque le trentenaire décide de quitter sa Roumanie natale pour s’installer au Royaume-Uni, relate le Guardian. Le Roumain décide de devenir chauffeur Uber et parvient difficilement à joindre les deux bouts. La vie est chère outre-Manche, et rien ne se passe comme prévu. Deux événements vont alors le plonger dans la précarité. La crise sanitaire éclate, et les clients se font de plus en plus rares. Mais c’est surtout ce message que lui envoie Uber qui va venir doucher ses espoirs de jours meilleurs. Alors que ce travail est son seul moyen de subsistance en pleine vague du Covid-19, Uber l’avertit : « Nous avons détecté une activité frauduleuse, vous devez donc arrêter (d’être chauffeur Uber, ndlr), sinon vous serez licencier », raconte-t-il à nos confrères du Guardian.
Le service d’assistance avare en explications
Persuadé qu’il s’agit d’une erreur, il continue son travail quand, deux semaines plus tard, il reçoit le même message, cette fois plus menaçant : « C’est le dernier avertissement. Encore une fois, et c’est fini ». Il appelle le service d’assistance des chauffeurs Uber, et essaie de comprendre pourquoi on le considère comme « frauduleux ». Tout serait parti d’une course pendant laquelle il a dû changer d’itinéraire – un changement pour lequel il n’a facturé aucun supplément au client. « Vous imaginez la difficulté d’expliquer à un opérateur Uber – je ne sais pas où il se trouvait – que le tunnel de Blackwall était fermé pendant un trajet et que je devais donc faire un long détour ? », déplore-t-il.
C’est la seule explication qu’il reçoit. Son compte de chauffeur Uber finit par être désactivé. Et il a beau demandé plus d’informations, Uber lui oppose systématiquement une fin de non-recevoir. « Dans une entreprise normale, il y a un service des ressources humaines et ce genre de problème peut être résolu d’une manière ou d’une autre – pas nécessairement en votre faveur, mais vous avez une équipe spécialisée », souligne-t-il. Ici, aucun moyen de recours, et pas grand monde au bout du fil. Fin de l’histoire ? Non, car Alexandru Iftimie n’a pas envie de se laisser faire. Sur le conseil de son syndicat, l’ancien chauffeur commence par demander à la plateforme de lui communiquer ses données personnelles – mais une fois face à ces datas, il ne comprend toujours pas ce qu’il a fait de mal.
Les juges tranchent en faveur du chauffeur
Il décide alors d’attaquer en justice Uber ainsi qu’une autre application de covoiturage pour laquelle il travaillait. L’affaire a finalement été jugée devant la cour d’appel d’Amsterdam, ville dans laquelle se trouve le siège européen d’Uber. Juste avant que l’affaire ne soit portée devant le tribunal, Uber s’est excusée et a reconnu avoir commis une erreur, rapporte The Guardian. Mais cela n’a pas empêché la cour de trancher en faveur de l’ancien chauffeur Uber. Les juges ont estimé que lui et d’autres conducteurs impliqués dans l’affaire et ayant subi le même sort – un licenciement après une allégation de fraude, sans explication- au Royaume-Uni et au Portugal, avaient le droit d’obtenir davantage d’informations sur la manière dont les décisions automatisées étaient prises à leur sujet. Point intéressant : les juges ont rejeté les arguments d’Uber, qui justifiait son absence de communication par la défense de ses secrets commerciaux.
C’est une déception pour Uber, qui estime que cette affaire ne concernait que « quelques chauffeurs spécifiques du Royaume-Uni qui ont été désactivés entre 2018 et 2020 en lien avec des circonstances très spécifiques ». « Le tribunal n’a pas reconnu les processus robustes que nous avons mis en place, y compris un examen humain significatif, lorsqu’il s’agit de prendre la décision de désactiver le compte d’un chauffeur en raison d’un soupçon de fraude », a ajouté l’entreprise.
« Si rien n’est fait, ces systèmes risquent de devenir la norme »
Un point contesté par les juges qui ont estimé que l’intervention humaine en question n’était que symbolique. Pour Alexandru Iftimie, l’homme à l’origine de cette affaire, la procédure a littéralement changé sa vie. Il est devenu père d’une petite fille de neuf mois et est en passe d’obtenir un diplôme de droit. Mais l’histoire aurait pu mal se terminer. Et surtout, elle pourrait arriver à de plus en plus de personnes confrontées à des IA en lieu et place des ressources humaines.
À lire aussi : Pour Bill Gates, ChatGPT pourra bientôt remplacer les enseignants
Pour James Farrar, directeur de « Worker Info Exchange » cité sur le site de l’ONG, « les plateformes ont construit des systèmes automatisés injustes de prise de décision en matière de ressources humaines, sans aucun humain dans la boucle. Et si rien n’est fait », prévient-il, « ces systèmes insensibles risquent de devenir la norme dans le futur monde du travail ».
Source :
The Guardian