Êtes-⁠vous dans la boucle pour décider, ou pour que l'on ait quelqu'un à blâmer ?

Pourquoi nous la posons

Madeleine Clare Elish a appelé zone de déformation morale la place de l'humain qu'un système automatisé expose aux reproches sans lui donner la décision. Notre lecture de Choudary en tire une figure : le validateur en bout de chaîne, qui répond sans décider et porte le risque sans le pouvoir. La question se pose à l'intéressé, pas au comité.

Ce que la réponse révèle

Beaucoup découvrent qu'ils n'ont ni le temps, ni le droit, ni parfois les moyens de décider autrement que la machine. Ils servent de fusibles ; la moindre des honnêtetés est de le leur dire.

La réponse qui rassure

Rassurer l'intéressé sur sa responsabilité sans lui donner le pouvoir qui va avec.

Lundi matin

Pour un poste de validation, vérifier par écrit le pouvoir, le temps et le droit de décider autrement que la machine.

Questions voisines

• B09Celui qui valide les décisions de l'agent a-⁠t-il l'expertise et le pouvoir de le contredire ?énoncé
• B18Si la proposition venait de la machine et que vous n'y avez rien changé, à quel titre dites-⁠vous que la décision est la vôtre ?presque
• B25Combien de personnes approuvent chez nous, et combien décident ?énoncé
• B43Combien de fois, sur cent, s'écarte-⁠t-on de la recommandation, et que se passe-⁠t-il alors ?énoncé
• B41Cet intervenant nous rend-⁠il plus capables, ou plus dépendants ?presque

← B41B43 →