Interdire l'IA, c'est obtenir l'usage clandestin

Ce qu'Ethan Mollick a nommé

Ethan Mollick, professeur à la Wharton School, décrit dans Co-⁠Intelligence un phénomène qu'il appelle secret task automation, l'automatisation clandestine des tâches. De nombreux salariés cachent à leur hiérarchie l'ampleur réelle de leur usage de l'IA, par crainte de voir leur travail dévalorisé, ou leur poste supprimé, s'ils avouaient en avoir automatisé une part. L'auteur nomme lui-⁠même la crainte qui couve sous ce silence : que les travailleurs « soient en train de former leurs propres remplaçants ».

On peut lire ce constat comme une affaire de discipline, et beaucoup de directions le lisent ainsi. Elles rédigent une note, interdisent l'usage des outils grand public, bloquent quelques adresses. L'usage ne disparaît pas. Il passe sur le téléphone personnel, sur l'ordinateur de la maison, dans les heures où personne ne regarde.

Une réponse logique, non une faute

La dissimulation n'a rien d'irrationnel. Elle répond très exactement à l'absence de la confiance que tout le reste suppose acquise. Mollick recommande de rester « l'humain dans la boucle » et compte sur l'intérêt bien compris des entreprises pour ne pas transformer les gains de productivité en suppressions de postes. Mais il rapporte lui-⁠même le précédent des téléphonistes américaines, remplacées en masse par la numérotation directe au cours des années vingt, sans que la vertu managériale y ait changé quoi que ce soit. Le salarié qui se tait a lu le même chapitre.

Il y a donc deux manières de recevoir la nouvelle. La première cherche les fautifs, et elle obtient un silence plus épais. La seconde se demande ce que l'organisation a fait, ou laissé croire, pour que se taire soit devenu la conduite raisonnable. C'est la seule qui mène quelque part, et c'est aussi la plus désagréable, puisqu'elle porte sur ceux qui posent la question.

Une organisation qui obtient ce silence n'a pas empêché l'usage : elle a perdu le droit de savoir comment ses équipes travaillent.

Ce que coûte un usage que l'on ne voit pas

Ce que l'on ne voit pas, on ne peut ni le sécuriser ni le valoriser. On ne sait pas quelles données sortent, ni vers qui. On ne sait pas quelles erreurs de la machine sont passées dans les livrables, puisque personne n'avouera la source de l'erreur. Et l'on perd le plus précieux : la carte que chaque praticien a dressée, à force d'essais, de ce que l'outil fait bien et de ce qu'il rate dans son propre métier. Mollick soutient que cette carte ne se dresse que tâche par tâche, par ceux qui pratiquent ; dans une maison où l'usage est clandestin, elle existe, mais elle reste dans les têtes, et elle partira avec elles.

Le même livre rapporte, d'après les travaux de Matt Beane, ce que font les internes en chirurgie quand on les tient éloignés du robot : ils apprennent en cachette, sur des vidéos. L'apprentissage clandestin et l'usage clandestin sont les deux faces d'une même organisation, qui rend invisibles les gestes par lesquels ses gens s'adaptent, puis s'étonne de ne pas savoir où ils en sont.

Faire sortir l'usage de l'ombre

Nous recommandons de commencer par l'inverse d'une note de service : demander à chaque équipe ce qu'elle automatise déjà, sans sanction, en s'engageant par écrit sur ce point. On risque d'y découvrir plus d'inventivité qu'on n'en attendait, et des risques qu'on ne soupçonnait pas. Les deux sont utiles.

Il faut ensuite dire, avant que la question soit posée, ce que la maison fera du temps gagné. Tant que la réponse reste implicite, chacun la devine, et devine la pire. Une politique de confiance n'est pas une politique sans règles ; elle désigne les points de contrôle où la compétence de l'outil menace la vigilance humaine (validation juridique, recrutement, décision financière) et y impose une vérification indépendante, précisément parce que c'est là qu'une bonne IA coûte le plus cher quand elle se trompe.

La question à poser au comité n'est donc pas de savoir si les équipes utilisent l'IA. Elles l'utilisent. Elle est de savoir pourquoi elles ont raison de le cacher, et ce que la direction est prête à changer pour qu'elles cessent d'avoir raison.