Une nouvelle étude a un avertissement très important pour ceux du marché du travail: il existe des robots biaisés qui hiérarchisent le CV réalisé avec l'intelligence artificielle par rapport aux autres.
Il est très frappant à une époque où la recherche d'emploi vit un changement intense marqué par l'IA: même de nombreuses personnes arrivent à l'entretien et parlent avec un bot, ce qui reçoit de nombreuses critiques et plaintes de professionnels à la recherche d'emploi. Il y a aussi des recruteurs trompés par des produits de candidats « parfaits » de l'utilisation de l'IA.
Selon de nouvelles recherches, ceux qui utilisent le même modèle d'IA pour écrire leurs programmes d'études que celui utilisé pour évaluer leur application sont plus susceptibles d'avancer dans le processus d'embauche que ceux qui présentent des documents écrits par les humains. Ce sont des chercheurs des universités américaines du Maryland et de l'Ohio qui ont détaillé ce fait dans leur étude.
Les modèles d'IA préfèrent eux-mêmes
Les chercheurs ont confirmé que les modèles d'IA préfèrent leur propre résultat, par conséquent, qui utilisent un système spécifique, tel que l'Openai GPT-4, par exemple, pour écrire leur CV et une lettre de présentation, sont plus susceptibles d'être contactés si l'entreprise utilise ensuite le même outil d'IA pour évaluer les candidatures.
« Le LLM préfère systématiquement le programme d'études généré par eux-mêmes à ceux écrits par des humains ou produits par des modèles alternatifs, même lorsque la qualité du contenu est contrôlée », comme expliqué dans l'une des principales conclusions de l'étude.
LLM fait référence à l'IA des « modèles de langage long » et parmi les outils qui entrent dans cette erreur de préférer eux-mêmes, selon l'enquête, GPT-4O, GPT-4O-MINI, GPT-4-TURBO, CALL 3.3-70B, Mistral-7b, Qwen 2.5-72B et Deepseek-V3.
Deepseek est le plus préféré
Dans le même temps, il est important de savoir que « cela ne signifie pas nécessairement que les systèmes sont » discriminatoires « dans un sens juridique ou intentionnel, mais cela pose des questions importantes sur l'impartialité ». Le biais d'auto-référence AI a oscillé entre environ 68% et 88% parmi les modèles les plus importants (GPT-4-Turbo, GPT-4O, GPT-4O-MINI, Deepseek-V3, Qwen 2.5-72B et CAL-3.3-70).
En pratique, tout cela signifie que les candidats qui préparent leurs demandes en utilisant le même programme que l'évaluateur peut s'attendre à être présélectionné entre 23% et 60% plus souvent que les candidats ayant la même formation et la même expérience, mais qui présentent des programmes écrits par des personnes (généralement pour eux ou eux-mêmes).
Il souligne dans cette étude spécifique que DePseEK-V3 présente la plus grande tendance d'auto-référence, favorisant ses propres présentations avec un taux d'auto-sélection de 84%. L'un des chercheurs explique que « par exemple, deux candidats tout aussi qualifiés pourraient obtenir des résultats différents simplement parce que l'un d'eux a utilisé le même modèle d'IA que l'employeur ».
