Le protagoniste de l'histoire en question est un ingénieur logiciel qui travaille dans une entreprise technologique de taille moyenne et qui a raconté sur Reddit comment son entreprise avait décidé de remplacer le service de paie traditionnel par un système automatisé basé sur l'IA, conçu pour « optimiser » la gestion du temps et des paiements.
Le problème est survenu lorsque, le jour du paiement, son compte bancaire était toujours vide. Inquiet, il s'est rendu au service des ressources humaines, où on l'a informé que le système avait détecté un 'irrégularité' sur son relevé d'activité et avait donc décidé que la meilleure option serait de suspendre le versement de son salaire.
« Le nouveau robot de paie IA de mon entreprise a décidé que je ne méritais pas d'être payé ce mois-ci. »
L'irrégularité alléguée était due au fait qu'un jour, le travailleur avait terminé sa journée plus tôt pour se rendre chez le dentiste.
Mais le plus surprenant n'a pas été l'erreur, mais la réponse de l'entreprise : « Ce n'est pas un échec, mais une partie du processus d'apprentissage du système ». Comme on lui l'a expliqué, le programme se corrigerait… au prochain cycle de paiement, ce qui impliquait d'attendre un mois entier pour recevoir l'argent correspondant à son travail.
« Et me voilà en train de déboguer du code tout en me demandant si je serai en mesure de payer mes repas jusqu'à ce que le problème soit résolu. »
Indignation collective et spectre de l’automatisation
La publication, qui a accumulé des milliers de commentaires en quelques heures, est un autre exemple du malaise face à l'automatisation croissante de l'environnement de travail. Parmi les messages les plus marquants, les utilisateurs ont dénoncé ce qu'ils ont appelé « le vol automatisé des salaires » tout en exigeant des mesures juridiques immédiates, rappelant que la plupart des pays avancés n'autorisent pas les retards dans le paiement des salaires.
D'autres utilisateurs ont partagé des expériences similaires, comme des retards de paiement dus à des erreurs logicielles ou des systèmes automatisés qui pénalisent les absences justifiées.
Enfin, nombreux sont ceux qui conviennent que la technologie ne peut pas remplacer la responsabilité humaine dans des processus aussi critiques que la paie. Une ironie justifiée qui circule abondamment dans le fil de réponse de la publication :
« Rien ne parle d' »efficacité » comme une IA qui automatise le vol de salaires. »
Une IA éloquente et la promesse d’efficacité
Le système Eloquent AI, peu connu en dehors des cercles technologiques, aurait été adopté par l'entreprise de l'ingénieur dans le cadre d'une stratégie de « modernisation basée sur l'IA ». Son objectif affiché était de réduire les erreurs humaines, d'optimiser les délais et « d'améliorer la transparence » du processus de paie.
Cependant, le cas montre que le manque de supervision humaine peut avoir de graves conséquences : un petit écart dans les paramètres de formation ou un mauvais ajustement des critères de productivité suffit pour qu'un employé conforme se retrouve sans salaire.
Mais le problème ne réside pas seulement dans l’échec technique, mais aussi dans la passivité institutionnelle : les ressources humaines font davantage confiance au jugement d’un algorithme qu’à la preuve humaine que le travail a été effectué.
« Quand une entreprise affirme qu'une erreur d'IA fait partie de son apprentissage et ne peut pas être corrigée manuellement, c'est une forme d'irresponsabilité d'entreprise. »
Autrement dit : il s’agit d’une entreprise qui utilise l’IA comme alibi.
Au-delà du cas : qui répond lorsque l’IA fait des erreurs ?
L’incident soulève une question fondamentale : qui est responsable lorsqu’un système automatisé cause un préjudice financier à un employé ? Jusqu’à présent, le droit du travail ne couvre pas clairement les erreurs provoquées par l’IA.
Dans de nombreux pays, la responsabilité incombe toujours à l’entreprise, même si elle prétend que l’erreur provient d’un logiciel externe. Cependant, l’absence de cadres réglementaires adéquats peut permettre à des situations comme celle-ci de rester dans un vide juridique.
