Perspectives
La pénalité de contribution de l'IA au travail
Une analyste dont j’ai lu l’histoire a récemment passé un an sur un seul problème. Elle s’est assise avec les responsables du processus, a recueilli les doléances que personne n’avait consignées, a rédigé des solutions de rechange, a appris lesquelles briseraient un maillon en aval, et a fini par produire un changement d’une grande valeur pour son employeur. Quelque part durant cette année-là, elle a utilisé un assistant IA pour quelques jours de rédaction.
Lorsque le travail est arrivé aux mains de la haute direction, son gestionnaire lui a demandé de mettre l’IA en avant-plan. Durant la réunion, il a interrompu sa présentation pour affirmer que c’était l’outil qui avait tout fait.
Je n’arrête pas de repenser à ce moment, car il ne s’agit pas vraiment d’une histoire de mauvais gestionnaire. C’est l’histoire d’une organisation qui a perdu la capacité de voir la contribution humaine dès qu’une machine a touché ne serait-ce qu’à une partie du travail. Il existe aujourd’hui une quantité surprenante de preuves que cette erreur est systématique.
Dans le cadre de quatre expériences préenregistrées menées auprès de 4 439 participants, des chercheurs ont découvert que les personnes qui utilisent l’IA au travail s’attendent à recevoir, et reçoivent effectivement, de moins bonnes évaluations de leur compétence et de leur motivation que celles qui font le même travail sans cet outil. Cette pénalité n’était pas une vue de l’esprit. Elle s’est manifestée dans de véritables évaluations de candidats à un emploi.
Un autre programme de onze expériences menées auprès de 3 846 participants a révélé que les évaluateurs paient moins les travailleurs qui utilisent l’IA — peu importe le type de tâche, le statut d’emploi, le mode de rémunération, et même lorsque la qualité du résultat était maintenue ou contrôlée statistiquement. Le mécanisme a été mesuré directement : on a jugé que les travailleurs assistés par l’IA méritaient moins de crédit, et ce jugement expliquait environ soixante pour cent de la réduction salariale. Dans treize autres expériences portant sur la divulgation, les acteurs qui ont déclaré utiliser l’IA ont moins inspiré confiance que ceux qui ne l’ont pas fait, et ce, auprès des superviseurs, des subalternes, des professeurs, des analystes et des créatifs. L’explication ne tenait pas à l’exactitude, mais bien à la légitimité : la divulgation étiquetait le travail comme socialement inapproprié.
Adoptez ces outils
Mettez tout cela bout à bout et vous obtenez une organisation qui applique discrètement deux consignes incompatibles. Adoptez ces outils. Ne vous faites pas prendre à les utiliser.
La réaction rationnelle, pour quiconque y prête attention, est la dissimulation. Et la dissimulation coûte cher de manières qui n’apparaissent jamais dans un bilan : personne ne partage ce qui a fonctionné, personne ne signale ce qui a échoué, et l’apprentissage collectif de l’organisation face à sa nouvelle capacité la plus importante se fait entièrement en privé.
L’erreur comptable sous-jacente
Ce qui m’intéresse davantage, c’est l’erreur comptable sous-jacente. Nous avons bâti des systèmes d’évaluation qui mesurent le rendement et en déduisent l’effort. Lorsque le rendement arrive plus vite, la machine à inférences conclut que la contribution a été moindre. Mais dans l’histoire de l’analyste, presque rien de ce qu’elle a réellement contribué n’était de l’ordre de l’exécution. Elle a contribué une année d’attention. Elle a contribué en sachant quelle objection d’intervenant était fondée et laquelle relevait du territoire, ainsi que par le discernement nécessaire pour écarter trois solutions de rechange qui paraissaient bien sur papier. L’IA a rédigé. Elle a décidé.
Un système d’évaluation qui ne sait pas faire la différence entre ces deux aspects sous-paiera systématiquement la capacité même qui se fait rare.
Une constatation porteuse d’espoir dans cette littérature
Il y a une constatation porteuse d’espoir dans cette littérature. La pénalité s’atténue considérablement lorsque l’humain reste visiblement impliqué — qu’il révise, adapte, contextualise et assume la responsabilité du résultat. Ce qui suggère que le problème n’est pas que les gens refusent de créditer le travail assisté par l’IA. C’est que la majeure partie de ce qu’une personne accomplit dans un travail assisté par l’IA est actuellement invisible, et que les organisations n’ont mis en place aucun moyen de la rendre visible.
C’est un problème de conception, et non un problème de valeurs : il s’agit de décrire les contributions en fonction du jugement exercé, et non du temps éliminé. De demander, lors des évaluations, ce que la personne a décidé plutôt que ce qu’elle a produit. C’est le fait qu’un gestionnaire soit capable de dire précisément ce qu’un collègue a apporté, et qu’il se sente mal à l’aise s’en est incapable.
Une organisation qui ne sait pas nommer ce que ses gens apportent finira par cesser de le payer. Non par malice. Par cécité.