Perspectives
Comment l'IA bride l'ambition des organisations
Imaginez une chercheuse avec deux questions sur son tableau blanc, et une petite décision qu’elle prend sans s’en rendre compte. La première est celle qu’elle tourne et retourne depuis trois ans — maladroite, mal définie, le genre de question où l’on ne peut pas dire à l’avance quel type de preuve compterait. La seconde est connexe, plus étroite, et trouve une réponse évidente dans les données que son équipe possède déjà. Elle choisit la seconde. Pas parce qu’elle importe davantage. Mais parce qu’elle décrit les deux au modèle, l’une revient avec un plan, et l’autre avec un paragraphe d’encouragement. Elle qualifierait cela d’efficacité. Je crois que c’est autre chose.
Joshua Gans a publié un document de travail (NBER 33566) qui modélise exactement cela. Lorsque les décideurs se dotent d’une IA capable d’interpoler efficacement en territoire connu, les scientifiques réagissent de manière stratégique. Lorsque l’outil est faible, ils l’ignorent. Lorsqu’il est très puissant, ils s’aventurent sur de véritables terres nouvelles, car c’est là que l’outil apporte le plus de valeur. Mais dans la moyenne — là où se situent la plupart des organisations aujourd’hui —, les scientifiques « travaillent pour l’IA ». Ils limitent la nouveauté de ce qu’ils recherchent pour l’aligner sur ce que la machine peut traiter de manière fiable.
Travailler pour l’IA
Une IA modérée, suggère le modèle, peut réduire l’ambition de recherche. Je pense que ce constat va bien au-delà de la science. Chaque organisation regorge aujourd’hui de gens qui font ce choix du tableau blanc plusieurs fois par semaine. Quelle analyse tenter. Quel problème client aborder. Quelle question stratégique mettre à l’ordre du jour. Et un nouveau critère silencieux s’est glissé dans la décision : est-ce que ça se passe bien quand je le décris à la machine ?
Personne ne donne l’instruction d’appliquer ce critère. Il s’impose comme un soulagement. La question gérable produit une ébauche d’ici jeudi. La question importante produit une semaine d’incertitude et rien à présenter lors de la révision. Il est beaucoup plus facile d’être un employé au sein d’une organisation avec la première option.
Il ne s’agit pas d’une histoire où l’IA serait limitée. C’est l’histoire d’une ambition redéfinie discrètement par tout ce qui se trouve être lisible par nos outils — et cette redéfinition ne laisse aucune trace. Une question restreinte n’a pas l’air restreinte. Elle a l’air ciblée. Elle arrive à temps, bien structurée, défendable. La question abandonnée n’apparaît dans aucun document, de sorte que personne ne pèse jamais le compromis.
Une ambition redéfinie en toute discrétion
La recherche sur la créativité collective arrive à un constat similaire par un autre chemin : l’utilisation de l’IA tend à accroître la production individuelle tout en réduisant la diversité de ce qu’une population produit. Chaque individu s’en sort mieux. Le groupe est moins varié. Nature Reviews Psychology a publié un article cet été arguant que la principale protection contre cette homogénéisation est métacognitive : l’humilité intellectuelle, l’habitude d’observer son propre raisonnement pendant qu’il se déroule.
Ce qui est une conclusion curieuse, quand on y réfléchit. Le rempart contre une technologie d’une telle échelle s’avère être un petit acte d’attention privée.
Le rempart contre une technologie d’une échelle immense
Je ne crois pas que les individus puissent porter cela seuls. Si un mécanisme opère en dessous du seuil de conscience et est récompensé par le calendrier, la volonté est le mauvais outil. Cela doit être intégré à la façon dont l’organisation formule ses demandes.
À quoi cela ressemble-t-il, à titre indicatif : conserver un registre visible des questions qui ont été examinées et écartées, afin que l’ambition laisse une trace. Demander, lors des bilans, non seulement ce qui a été découvert, mais aussi ce qui n’a pas été tenté et pourquoi. Financer une partie du travail explicitement selon le critère que personne ne sait actuellement comment l’aborder. Traiter l’affirmation « le modèle n’a rien eu d’utile à dire à ce sujet » comme un signal de pointe plutôt que comme un verdict d’infaisabilité.
L’exécution est devenue bon marché. Cela était censé nous libérer pour poser de plus grandes questions. Cela ne se produira que si nous prenons conscience de la force avec laquelle nous sommes attirés vers celles qui sont faciles à répondre.
La chose la plus coûteuse qu’une organisation puisse perdre n’est pas le temps. C’est la question que personne ne se rappelle avoir décidé de ne pas poser.