Notre outil s'améliore chaque trimestre : notre vigilance aussi ?

Pourquoi nous la posons

Notre lecture de Mollick relève une contradiction entre deux de ses propres principes : rester l'humain dans la boucle, et partir du principe que l'outil d'aujourd'hui est le pire que l'on utilisera. Plus le second se vérifie, plus le premier s'affaiblit, car un outil qui progresse endort ceux qui le surveillent. La question oppose deux courbes que personne ne trace ensemble.

Ce que la réponse révèle

La courbe de l'outil est suivie, publiée, célébrée ; celle de la vigilance n'existe pas. Un humain présent dont l'œil n'est plus entraîné ne protège rien.

La réponse qui rassure

Alléger les contrôles au rythme où l'outil s'améliore, sans mesurer ce que les contrôleurs savent encore voir.

Lundi matin

Mesurer une fois par trimestre, sur des cas dont on connaît la réponse, la capacité des équipes à repérer une erreur de l'outil.

Questions voisines

• B20Quand un outil a eu raison trente-⁠neuf fois, avec quels yeux regardez-⁠vous la quarantième ?presque
• B49Dans votre entreprise, quelle est la tâche où l'outil est si bon que plus personne ne pense à le vérifier ?Ouverturepresque
• B59Combien de dossiers l'humain dans la boucle traite-⁠t-il encore entièrement seul ? Quelle est sa séance de simulateur ?presque
• B51Cette décision est-⁠elle proportionnée, réversible et révisable ? Sommes-⁠nous devant un risque que nous savons mesurer, ou devant une incertitude ? (et 1 sous-⁠question)matière
• B52Qui, chez nous, a cartographié la frontière de son propre métier, tâche par tâche ?énoncé

← B49B51 →