Existe-⁠t-il un seul document qui dise qui a le droit de décider quoi ? À quel palier se trouve chacun de vos systèmes automatisés, et qui a décidé qu'il s'y trouvait ?

Pourquoi nous la posons

Notre lecture de Melissa Reeve s'arrête sur une évidence peu pratiquée : on installe des systèmes automatisés à des niveaux d'autonomie différents sans document qui dise qui a décidé quoi. Monter les paliers un à un protège de la précipitation et fait apprendre ceux qui encadrent ; sauter les paliers, c'est superviser un système que personne n'a regardé travailler de près.

Ce que la réponse révèle

La réponse la plus fréquente : il n'y a pas de document, il y a un historique d'installations. Le palier de chaque système a été fixé par le fournisseur ou par le projet, rarement par une décision.

La réponse qui rassure

Produire la cartographie applicative, qui dit quels systèmes existent et non ce qu'ils ont le droit de décider.

Lundi matin

Commencer le document : pour chaque système automatisé, son niveau d'autonomie, qui l'a fixé, et quand il sera revu.

Questions voisines

• B01Qui peut éteindre l'agent, et qui en répond ?Ouverturematière
• B54Combien d'agents décident chez nous, et pour combien pouvons-⁠nous nommer qui les arrête ?presque
• F41Qui a écrit les règles, qui peut les réviser, et devant qui répond-⁠il ?énoncé
• B59Combien de dossiers l'humain dans la boucle traite-⁠t-il encore entièrement seul ? Quelle est sa séance de simulateur ?presque
• B56Quelles décisions ne doivent jamais passer de « l'humain décide » à « l'humain surveille » ? Où avons-⁠nous décidé, exprès, que l'IA n'irait pas ?énoncé

← B56B59 →