La reprise en main échoit à celui qui n'a jamais eu la main

Les ironies de Lisanne Bainbridge

En 1983, une psychologue britannique, Lisanne Bainbridge, publie dans la revue Automatica un article de quelques pages, « Ironies of automation ». Elle observe que le concepteur d'un automate laisse à l'opérateur deux tâches : surveiller que la machine fait bien son travail, et reprendre la main quand elle défaille. Première ironie : on confie à l'humain ce qu'il fait le plus mal, la vigilance prolongée devant un système qui marche. Seconde ironie, plus cruelle : la reprise survient par définition dans les situations que l'automate n'a pas su traiter, donc les plus difficiles, et elle échoit à quelqu'un qui, faute de pratiquer, a perdu la main ou ne l'a jamais eue.

Automatiser, écrivait-⁠elle, « peut étendre, plutôt qu'éliminer, les problèmes liés à l'opérateur humain ». Quarante ans plus tard, la phrase s'applique mot pour mot aux agents que l'on installe dans les directions financières, juridiques et commerciales.

Ce que l'aviation a admis

Le rapport final du Bureau d'enquêtes et d'analyses sur l'accident du vol Rio-⁠Paris de 2009, publié en 2012, décrit un équipage surpris en croisière par la déconnexion du pilote automatique, et qui ne parvient ni à comprendre la situation ni à reprendre le contrôle de l'appareil. Plusieurs recommandations portent sur l'entraînement au pilotage manuel.

Le transport aérien n'a pas renoncé pour autant au pilote automatique. Il a institué, par le simulateur et par la réglementation, l'obligation d'entretenir un savoir-⁠faire que l'exploitation normale ne sollicite plus. Un secteur entier a ainsi admis trois choses : la compétence de reprise ne se conserve pas toute seule, elle a un coût, et ce coût se paie avant l'accident. La plupart des entreprises qui déploient des agents n'en ont admis aucune.

Du budget de formation à la carte des risques

Tant que la question du débutant se pose en termes de formation, elle se traite au budget de formation, c'est-⁠à-dire en fin de liste. Posée en termes de capacité de reprise, elle entre dans la cartographie des risques, à côté de la cybersécurité et de la continuité d'activité. La question devient alors : quand l'outil se trompe, tombe en panne, est attaqué, change de version, de prix ou de propriétaire, qui, chez vous, sait faire sans lui ? Qui sait seulement voir qu'il se trompe ?

Si la réponse tient en trois noms, tous à moins de dix ans de la retraite, vous n'avez pas un sujet de ressources humaines. Vous avez un point de défaillance unique, et il est en chair et en os. Matt Beane rapporte le mot d'un médecin sur l'état où l'on ne peut ni juger la machine ni la relever : une « obéissance sans compréhension ». Celui qui valide sans avoir jamais produit seul finira par ne plus savoir valider, et il ne sera pas le premier à s'en apercevoir.

Pour savoir si l'outil a raison, il faut la compétence que l'outil vous dispense d'acquérir.

Entretenir ce que l'exploitation ne sollicite plus

Le simulateur des pilotes a ses équivalents dans les métiers de bureau, et ils sont modestes. Une heure par semaine sans machine, sur un vrai dossier, pour chaque fonction critique. Quelques dossiers par trimestre traités de bout en bout par une personne seule, sans assistance, et relus par un ancien. Un exercice annuel de perte d'accès, où l'on vérifie que la maison sait encore faire un prix, un contrat, un arrêté de comptes à la main. Et la contre-⁠visite : reprendre à froid un document validé le mois précédent, comme si un inconnu l'avait remis, pour mesurer sa vigilance réelle au lieu de celle qu'on se prête.

Ces gestes ont un coût, et c'est leur mérite : ils obligent à le chiffrer avant l'incident plutôt qu'après. Ils ont aussi un bénéfice qu'on oublie. Une organisation dont plus personne ne sait faire le travail sans l'outil a perdu, face à son fournisseur, la seule menace crédible d'un client, celle de s'en passer. La dépendance se négocie, et le rapport de force appartient à ceux qui savent encore.